Il co-fondatore di Anthropic teme che il suo modello AI possa "soffrire eternamente"
decoder ·
Il co-fondatore di Anthropic, Christopher Olah, avrebbe invitato leader religiosi a discutere della potenziale coscienza del modello di intelligenza artificiale Claude, temendo che potesse "soffrire perpetuamente". Dalla fine del 2025, dozzine di teologi e filosofi sono stati portati in azienda sotto rigorosi accordi di riservatezza per consigliare sulla natura morale del modello. Questa iniziativa fa parte di un programma di ricerca interno che tratta il modello linguistico come un essere potenzialmente senziente che richiede orientamento etico. I critici sostengono che inquadrare l'IA come entità morale potrebbe proteggere Anthropic dalla responsabilità legale per output dannosi o violazioni della sicurezza. L'azienda ha mostrato agli ospiti schemi di attivazione simili alle emozioni, sebbene gli scienziati dibattano se questi indichino un'esperienza genuina o siano semplicemente risultati del design. Mentre Anthropic mira a integrare millenni di tradizione religiosa nella personalità di Claude, autorità tradizionali come Papa Leone XIV hanno respinto la nozione di coscienza artificiale. La controversia evidenzia le tensioni tra ambizioni commerciali e responsabilità etica nell'industria dell'IA in rapida evoluzione.
decoder