Еще один уход специалиста по безопасности из OpenAI добавляет к тенденции публичных предупреждений
decoder ·
Дэвид Робинсон, бывший исследователь безопасности из команды Trustworthy AI компании OpenAI, покинул компанию и опубликовал в журнале The Atlantic критическую статью о культуре безопасности в организации. Он утверждает, что зависимость индустрии искусственного интеллекта от метода проб и ошибок приводит к всё более опасным ошибкам по мере роста мощности систем, ссылаясь на инциденты как в OpenAI, так и в Anthropic. По мнению Робинсона, компаниям ИИ необходимо внедрить строгие стандарты безопасности, аналогичные тем, что используются на атомных электростанциях, включая многоуровневое резервирование. Кроме того, он заявляет, что организации должны продемонстрировать гуманное отношение к сотрудникам, прежде чем смогут ответственно обучать системы суперинтеллекта. Это увольнение продолжает повторяющуюся тенденцию в OpenAI, когда эксперты по безопасности уходят, публично предупреждая об угрозах; этот паттерн впервые был замечен с уходом Яна Лике в мае 2024 года. Робинсон также отмечает, что недавно OpenAI уволила трех специалистов по безопасности, которые, предположительно, передавали информацию внешней фирме по кибербезопасности. Эти события подчеркивают растущие опасения среди уходящих исследователей относительно адекватности текущих протоколов безопасности ИИ.
decoder