Эти эксперты по ИИ хотят проводить высокорисковые исследования открыто
wired ·
Триллиум Лабс, новая некоммерческая организация, основанная исследователями в области искусственного интеллекта Натаном Ламбертом и Томом Зикком, нацелена на проведение высокорисковых исследований ИИ в открытом доступе. В отличие от крупных лабораторий переднего края, которые держат свои модели под замком в целях безопасности, Триллиум планирует публиковать детальные данные экспериментов для обеспечения внешнего контроля и возможности воспроизведения результатов. Организация сосредоточится на спорных областях, таких как рекурсивное самосовершенствование, поведение агентов и методы постобучения, включая обучение с подкреплением. Основатели утверждают, что прозрачность необходима для снижения рисков, связанных с все более мощными системами ИИ. Они считают, что изоляция исследований препятствует тому, чтобы широкое научное сообщество могло способствовать разработке более безопасных практик. Для поддержки этой миссии Триллиум получил финансирование от Schmidt Sciences и Halcyon Futures, имея цель собрать до 100 миллионов долларов. Лаборатория намерена потратить около 30 миллионов долларов на обучение в течение следующих 18 месяцев. В конечном итоге основатели надеются восстановить научный метод в разработке ИИ, способствуя открытому сотрудничеству и совместному пониманию поведения моделей.
wired