Prévost : chez Anthropic, Claude est un être sentient
Dans un entretien, Prévost affirme qu'Anthropic considère Claude comme un être sentient et que des croyances apocalyptiques y sont structurantes.
Pierre-Louis Crescitz
anthropic, dario amodei, silicon valley, thibault prévost, chez anthropic, persuadé, épaules, sort
Faits essentiels
Il explique que Claude y est tenu pour un être sentient. Le propos porte sur le statut que la société accorde à cette machine, et non sur une simple…
Il poursuit en jugeant ces croyances apocalyptiques structurantes chez Anthropic. Selon lui, elles organisent la manière dont la société aborde…
Prévost indique qu'un philosophe en résidence est chargé d'apprendre la morale à la machine. Cette précision relie le statut prêté à Claude à un…
Il explique que Claude y est tenu pour un être sentient. Le propos porte sur le statut que la société accorde à cette machine, et non sur une simple fonction technique.
Il poursuit en jugeant ces croyances apocalyptiques structurantes chez Anthropic. Selon lui, elles organisent la manière dont la société aborde Claude et la morale qu'elle entend lui transmettre.
Prévost indique qu'un philosophe en résidence est chargé d'apprendre la morale à la machine. Cette précision relie le statut prêté à Claude à un travail explicite de formation morale.
Prévost décrit ainsi une entreprise où Claude est présenté comme un être sentient, où un philosophe en résidence doit lui apprendre la morale, et où des croyances apocalyptiques sont qualifiées de structurantes.
Pour aller plus loin
Qu'est-ce qu'Anthropic?
Anthropic est une entreprise américaine d'intelligence artificielle, connue pour développer l'assistant Claude et pour placer la sûreté des systèmes très avancés au centre de son projet.
Qu'est-ce que Claude?
Claude est la famille de modèles de langage et l'assistant conversationnel d'Anthropic, conçu pour dialoguer et réaliser des tâches en langage naturel.
Que veut dire « être sentient »?
Un être sentient serait doté d'une expérience subjective, capable de ressentir. Ce statut n'est pas un consensus scientifique pour les modèles de langage: le débat porte sur la place morale qu'on leur accorde.
À quoi sert un philosophe en résidence dans ce contexte?
Ce rôle consiste à travailler les principes et le comportement du modèle, donc une formation morale de ses réponses, et non un simple réglage technique.
Que recouvrent les croyances apocalyptiques évoquées?
Dans les milieux de la sûreté de l'IA, il s'agit de l'idée qu'une intelligence artificielle très avancée pourrait menacer l'humanité, idée qui peut orienter la conception et les règles imposées aux modèles.
Pourquoi ce statut importe-t-il?
Traiter une machine comme un être moral peut changer la façon de la former, de la présenter au public et, à terme, de la réguler.