Советник Папы по ИИ опасается картельного поведения крупных лабораторий
wired ·
Отец Паоло Бенанти, советник Католической церкви по вопросам искусственного интеллекта, предупреждает, что крупные лаборатории ИИ демонстрируют поведение, схожее с картельным, монополизируя дискуссию о технологическом регулировании. Он утверждает, что текущая истерия вокруг суперинтеллекта и экзистенциальных рисков отвлекает от насущной необходимости демократического регулирования и общественного контроля. Бенанти считает, что представление об ИИ как о божественной сущности служит интересам крупных технологических компаний, позволяя им исключать внешние голоса из критически важных процессов принятия решений. Вместо сосредоточения на спекулятивных страхах вымирания человечества он выступает за установление стандартов, обеспечивающих сохранение человеческого контроля над моделями без подавления инноваций. Священник критикует тенденцию отрасли рассматривать эффективность как высшую ценность, что рискует превратить людей в mere объекты оптимизации. Он подчеркивает, что ИИ — это прежде всего статистические вычисления, а не божественная сила, призывая общество отвергнуть технократическую логику в пользу этического публичного диалога. Эта позиция согласуется с недавними учениями папы Льва XIV, который призвал к международному сотрудничеству и предостерегал от геополитического доминирования в разработке ИИ. В конечном итоге Бенанти настаивает на том, что необходимо установить эффективные механизмы торможения и управления, чтобы сохранить человеческую автономию над этими мощными инструментами.
wired