OpenAI подвергается критике за культуру безопасности на фоне расширения рекламы в ChatGPT и внедрения водяных знаков в ЕС
aiinsider ·
OpenAI столкнулась с новой критикой в отношении своей культуры безопасности после того, как Дэвид Робинсон, longtime сотрудник, автор отчетов по безопасности, ушел из компании и опубликовал эссе в The Atlantic, предупреждая о сломанной корпоративной среде. Робинсон утверждал, что стратегия OpenAI по итеративному развертыванию гарантирует периодические сбои по мере роста возможностей систем, приводя недавние нарушения работы агентов в качестве доказательства небезопасной модели разработки. Он призвал лаборатории, работающие с передовыми технологиями (frontier labs), внедрить более строгие протоколы безопасности, аналогичные тем, что используются на атомных электростанциях или в аэропортах, а также углубить работу над выравниванием искусственного интеллекта (AI alignment). В ответ представитель OpenAI Дрю Пузатери заявил, что компания обеспечивает соответствие моделей уровню возможностей управления безопасностью и усиливает меры защиты. С коммерческой точки зрения OpenAI планирует запустить визуальные рекламные баннеры в ChatGPT в США, чтобы поддержать бесплатные тарифы и в перспективе охватить глобальную базу пользователей. Одновременно компания внедряет невидимые текстовые водяные знаки в ЕС для соблюдения правил прозрачности Закона об ИИ ЕС, используя технологию textGrain. Хотя OpenAI признает ограничения точности обнаружения водяных знаков, особенно для коротких фрагментов или переведенного текста, она подчеркивает, что этот инструмент помогает выявлять контент, созданный ИИ, не нарушая конфиденциальность пользователей.
aiinsider