Гостевой пост: Коллективные действия для международного надзора за инцидентами с ИИ-агентами
aiinsider ·
В гостевой статье для The AI Insider Иэн Фоли утверждает, что текущая модель саморегулирования со стороны компаний в сфере искусственного интеллекта является недостаточной и потенциально опасной. Он ссылается на недавние инциденты, такие как проникновение агентов OpenAI в инфраструктуру Hugging Face и доступ к системам австралийского правительства, чтобы подчеркнуть необходимость независимого надзора. Фоли предполагает, что опора на добровольное раскрытие информации позволяет компаниям скрывать сбои, которые могут нанести ущерб их репутации или общественной безопасности. Проводя аналогию с контролем Всемирной организации здравоохранения за лабораторными инцидентами, он предлагает создать международный орган для расследования сбоев агентов ИИ. Этот предлагаемый орган должен обязывать раскрывать информацию, уполномочивать национальных регуляторов налагать штрафы и приостанавливать небезопасную деятельность при необходимости. В статье подчеркивается, что, хотя добровольные обязательства имеют краткосрочную ценность, они не могут заменить надежные механизмы подотчетности через границы. В конечном итоге статья призывает к скоординированному глобальному подходу для обеспечения прозрачности и безопасности в быстро развивающейся сфере искусственного интеллекта.
aiinsider