Anthropic сотрудничает с Accenture в области встроенной оценки
anthropic ·
Anthropic сотрудничает со специализированным подразделением Accenture в области ИИ — Faculty — для проведения независимой оценки передовых моделей ИИ. Работа будет включать оценку моделей и red teaming, проверку соответствия принципам безопасности и тестирование защитных механизмов с опорой на опыт Accenture в развертывании ИИ-систем для бизнеса и государственных органов. Anthropic и Accenture рассчитывают каждый инвестировать не менее 1 млрд долларов в создание потенциала для оценки в течение следующих пяти лет. Встроенные специалисты по оценке будут работать внутри компаний, занимающихся ИИ, получая доступ на уровне сотрудников, что позволит им наблюдать за обучением моделей, изучать решения по их разработке и развертыванию, общаться с сотрудниками, проверять выполнение обязательств в сфере безопасности, выявлять недостатки и сообщать об инцидентах. Anthropic заявляет, что независимые оценщики повысят проверяемость ее подотчетности, однако ответственность за безопасность моделей останется на Anthropic. Поскольку стандарты и долгосрочные механизмы финансирования еще не созданы, на начальном этапе Anthropic будет напрямую финансировать работу Accenture, одновременно ведя переговоры с METR и другими некоммерческими организациями, занимающимися оценкой, и ожидает, что неэксклюзивный подход со временем перерастет в более широкую экосистему с общими стандартами.
anthropic