Le cofondateur d'Anthropic craint d'avoir créé une entité qui "souffre perpétuellement"
decoder ·
Le cofondateur d'Anthropic, Christopher Olah, aurait invité des dirigeants religieux à discuter de la conscience potentielle de son modèle d'IA, Claude, craignant qu'il ne « souffre perpétuellement ». Depuis la fin de l'année 2025, des dizaines de théologiens et de philosophes ont été invités dans le cadre d'accords de confidentialité stricts pour conseiller l'entreprise sur le caractère moral du modèle. Cette initiative s'inscrit dans un programme de recherche interne qui traite le modèle de langage comme une entité potentiellement consciente nécessitant des directives éthiques. Les critiques soutiennent que qualifier l'IA d'entité morale pourrait protéger Anthropic de toute responsabilité en cas de sorties nuisibles ou de failles de sécurité. La société a montré aux visiteurs des schémas d'activation ressemblant à des émotions, bien que les scientifiques débattent de savoir si ceux-ci indiquent une expérience réelle ou sont simplement le résultat d'une conception. Alors qu'Anthropic vise à intégrer des millénaires de tradition religieuse dans la personnalité de Claude, les autorités traditionnelles, telles que le pape Léon XIV, ont rejeté la notion de conscience artificielle. Ce controverse met en lumière les tensions entre les ambitions commerciales et la responsabilité éthique au sein de l'industrie de l'IA en pleine évolution.
decoder