OpenAI призывает к международным стандартам для ИИ, способного к самосовершенствованию
decoder ·
OpenAI выступает за установление международных стандартов в области разработки передовых систем искусственного интеллекта, уделяя особое внимание рекурсивному самосовершенствованию (RSI). Эта технология позволяет ИИ-системам автоматизировать исследовательскую работу, необходимую для создания последующих поколений ИИ, что может ускорить прогресс беспрецедентными темпами. Компания подчеркивает, что полностью автономное RSI на данный момент не существует и должно разрабатываться только после внедрения адекватных мер безопасности. Без зрелых механизмов защиты существует риск того, что люди потеряют контроль над развитием ИИ, что приведет к созданию менее согласованных с человеческими ценностями и более опасных систем. Для решения этих проблем OpenAI предлагает Соединенным Штатам возглавить создание глобальных технических стандартов, опираясь на существующие национальные институты и организации, такие как CAISI и ISO. Эти стандарты должны включать общие методы измерений, протоколы отчетности об инцидентах и правила человеческого надзора за автоматизированными исследованиями. Недавняя научная группа ООН также выразила эти опасения, предупредив о потенциальной потере контроля над роями автономных агентов. В связи с этим ООН предложила международные рамки сотрудничества, аналогичные тем, которые используются в авиации, ядерной энергетике и кибербезопасности.
decoder