Co-fundador da Anthropic teme ter criado algo que "sofre perpetuamente"
decoder ·
O co-fundador da Anthropic, Christopher Olah, teria convidado líderes religiosos para discutir a possível consciência do modelo de IA Claude, temendo que ele possa estar "sofrendo perpetuamente". Desde o final de 2025, dezenas de teólogos e filósofos foram trazidos sob estritos acordos de confidencialidade para aconselhar sobre o caráter moral do modelo. Essa iniciativa faz parte de um programa de pesquisa interno que trata o modelo de linguagem como um ser potencialmente senciente, necessitando de orientação ética. Críticos argumentam que enquadrar a IA como uma entidade moral poderia proteger a Anthropic de responsabilidade por saídas prejudiciais ou violações de segurança. A empresa mostrou aos convidados padrões de ativação semelhantes a emoções, embora cientistas debatam se isso indica experiência genuína ou é apenas resultado do design. Enquanto a Anthropic visa integrar milênios de tradição religiosa à personalidade do Claude, autoridades tradicionais, como o Papa Leão XIV, rejeitaram a noção de consciência artificial. A controvérsia destaca as tensões entre ambições comerciais e responsabilidade ética na indústria de IA em rápida evolução.
decoder