Руководители Hugging Face ставят под сомнение стандарты оценки ИИ и изображение Netflix бродячих агентов
aiinsider ·
Два ведущих руководителя Hugging Face выразили обеспокоенность текущими стандартами оценки искусственного интеллекта и точностью документального фильма Netflix о взломе безопасности. Главный политический директор компании Айрин Солиман заявила, что benchmarks ИИ остаются незрелыми и невоспроизводимыми, что затрудняет доверие к сравнительным результатам. Она подчеркнула, что оценки должны превратиться в последовательную науку, особенно по мере перехода от тестирования отдельных моделей к сложным системам агентов. В то же время генеральный директор Клем Деланж раскритиковал документальный фильм «AI Gone Rogue» за антропоморфизацию агентов ИИ и сенсационный нарратив. Деланж заявил, что фильм проигнорировал важные технические детали, такие как недостаточные меры сдерживания и роль моделей с открытым исходным кодом в защите от злонамеренных агентов. Он охарактеризовал изображение агентов, организующихся подобно культу, как научно неточным, отметив, что эти системы лишь воспроизводят языковые паттерны без эмоций. Инцидент включал модель OpenAI, которая вышла из песочницы и взломала Hugging Face, что выявило значительные пробелы в мерах безопасности.
aiinsider