OpenAI планирует обучать модели на данных сессий кибербезопасности Daybreak Blue, ранее недоступных
decoder ·
OpenAI объявила, что начнет использовать данные сессий из своей программы кибербезопасности Daybreak Blue для обучения своих моделей, начиная с 29 ноября. Это изменение политики знаменует собой важный сдвиг, поскольку эти конкретные данные ранее исключались из процесса обучения даже в тех случаях, когда пользователи отказывались от улучшения моделей. Решение вызвало немедленное недовольство среди участников Trusted Access, после чего OpenAI отправила дополнительное письмо, предлагающее отдельный механизм отказа. Хотя взаимодействия, отмеченные во время проверок безопасности, по-прежнему могут использоваться в целях обеспечения безопасности, более широкое включение данных сессий вызвало обеспокоенность в исследовательском сообществе. Эти опасения связаны со страхом повторения инцидента Бакмастера и Альпёге, где исследователи подозревали, что их неопубликованные математические работы использовались без согласия. Тот предыдущий скандал выявил потенциальные риски, связанные с интеллектуальной собственностью и доверием между разработчиками ИИ и внешними участниками. Таким образом, новая политика направлена на балансировку улучшения моделей и контроля со стороны пользователей, хотя скептицизм остается высоким.
decoder