El cofundador de Anthropic teme haber creado algo que "sufre perpetuamente"
decoder ·
Según se informa, el cofundador de Anthropic, Christopher Olah, invitó a líderes religiosos a discutir la posible conciencia del modelo de IA Claude, temiendo que pudiera estar "sufriendo perpetuamente". Desde finales de 2025, decenas de teólogos y filósofos han sido trasladados bajo estrictos acuerdos de confidencialidad para asesorar sobre el carácter moral del modelo. Esta iniciativa forma parte de un programa de investigación interno que trata al modelo de lenguaje como un ser potencialmente sintiente que requiere orientación ética. Los críticos argumentan que enmarcar a la IA como una entidad moral podría proteger a Anthropic de la responsabilidad legal por salidas dañinas o brechas de seguridad. La compañía ha mostrado a los invitados patrones de activación que se asemejan a emociones, aunque los científicos debaten si estos indican una experiencia genuina o son simplemente resultados del diseño. Mientras Anthropic busca integrar milenios de tradición religiosa en la personalidad de Claude, autoridades tradicionales como el Papa León XIV han rechazado la noción de conciencia artificial. La controversia destaca las tensiones entre las ambiciones comerciales y la responsabilidad ética en la industria de la IA, que evoluciona rápidamente.
decoder