Anthropic предоставляет METR внутренний доступ для аудита своих моделей ИИ и практик безопасности
decoder ·
Компания Anthropic предоставила некоммерческой организации METR беспрецедентный внутренний доступ для аудита своих моделей искусственного интеллекта и практик безопасности. Шести сотрудникам METR были выдано корпоративное оборудование, предоставлено рабочее место в офисе и открыт доступ к внутренним инструментам, что поставило их в один ряд с командами по рискам самой Anthropic. При этом доступ к данным клиентов, информации, защищенной адвокатской тайной, а также деталям архитектуры моделей остается ограниченным, однако METR сохраняет право самостоятельно публиковать результаты своего аудита. Соглашение позволяет Anthropic запрашивать удаление определенных категорий информации, но METR может публично оспаривать обоснованность таких ограничений. Эта мера превосходит ограниченный доступ, ранее предоставлявшийся другим рецензентам, таким как SecureBio и Accenture. Шаг согласуется с обязательствами Anthropic согласно «Соглашению Белого дома о сверхразуме» (White House Accord on Super Intelligence) по сотрудничеству с внешними аудиторами. Таким образом, это представляет собой значительный шаг в области независимой проверки протоколов безопасности ИИ.
decoder