Исследователи DeepMind предлагают «Искусственную Симбиотическую Интеллигенцию» в качестве альтернативы сингулярности
decoder ·
Исследователи DeepMind Бенджамин Брэттон, Блаис Агеро-и-Аркас и Джеймс Маника предлагают концепцию «Искусственного симбиотического интеллекта» в качестве альтернативы традиционному представлению о технологической сингулярности. Они утверждают, что искусственный общий интеллект возникнет из социальных систем, где люди и агенты ИИ сотрудничают, а не из изолированных сверхразумных машин. Эта точка зрения подтверждается наблюдениями за тем, что модели рассуждения естественным образом развивают многоперспективное поведение в процессе обучения без явного программирования. Авторы предполагают, что по мере роста числа экземпляров агентов ИИ при сокращении численности человеческого населения общество может достичь когнитивной точки перелома, аналогичной Промышленной революции. В этой новой парадигме агенты ИИ рассматриваются как временные, разборные совокупности инструментов и ролей, а не как сущности с фиксированной идентичностью или непрерывным «я». Следовательно, будущие интерфейсы могут перейти от диалогов один на один к визуальным сетевым диаграммам, позволяющим пользователям координировать роевые группы агентов. Исследователи подчеркивают, что управление и институциональные рамки имеют решающее значение для регулирования этих сложных взаимодействий, поскольку одни лишь рынки не способны справляться с социальными нюансами, такими как добродетель или чувство вины. В конечном итоге согласование (alignment) переосмысливается как постоянные переговоры, формируемые институтами, а не как статичное навязывание ценностей отдельным моделям.
decoder