Первым встроенным оценщиком Anthropic станет… Accenture?
techcrunch ·
Anthropic объявила, что сотрудники подразделения Accenture по искусственному интеллекту Faculty начнут работать внутри компании: оценивать модели и проводить их стресс-тестирование, осуществлять оценки соответствия целям и проверять защитные механизмы. Anthropic и Accenture рассчитывают инвестировать в эту инициативу не менее 1 млрд долларов в течение следующих пяти лет. Выбор Accenture удивил некоторых наблюдателей в сфере ИИ, особенно потому, что в обсуждениях привлечения внешних оценщиков, работающих непосредственно внутри компаний, в основном фигурировали такие организации, как METR, Redwood Research и Apollo Research. Anthropic заявила, что планирует объявить о привлечении дополнительных оценщиков и обсуждает пилотные проекты с METR и другими некоммерческими организациями, которые будут использовать собственное финансирование. Компания сослалась на опыт Accenture во внедрении ИИ для корпораций и правительств, а также на её независимость как крупной публичной компании, одновременно признав, что стандарты доступа оценщиков и взаимодействия с ними ещё не установлены. Критики утверждают, что оценка внутри компаний может позволить индустрии ИИ самой себя контролировать, однако Anthropic заявляет, что такая схема сделает подотчётность компании более проверяемой, а не снизит её.
techcrunch