Сооснователь Anthropic опасается, что создал нечто, «вечно страдающее»
decoder ·
По сообщениям, сооснователь Anthropic Кристофер Олах пригласил религиозных лидеров обсудить потенциальное сознание своей ИИ-модели Claude, опасаясь, что она может «вечно страдать». С конца 2025 года десятки теологов и философов были доставлены в компанию под строгими соглашениями о неразглашении для консультаций по моральному статусу модели. Эта инициатива является частью внутренней исследовательской программы, которая рассматривает языковую модель как потенциально одушевленное существо, требующее этического руководства. Критики утверждают, что представление ИИ как морального субъекта может служить прикрытием для Anthropic от ответственности за вредоносные выводы или утечки безопасности. Компания демонстрировала гостям паттерны активации, напоминающие эмоции, хотя ученые спорят, указывают ли они на подлинный опыт или являются лишь результатом проектирования. В то время как Anthropic стремится интегрировать тысячелетия религиозной традиции в личность Claude, традиционные авторитеты, такие как папа Лев XIV, отвергли идею машинного сознания. Этот скандал подчеркивает напряженность между коммерческими амбициями и этической подотчетностью в быстро развивающейся индустрии искусственного интеллекта.
decoder