Ответственная и безопасная разработка Gemini 4 Argon
deepmind ·
Google DeepMind объявила о широком развертывании Gemini 4 Argon — новой модели искусственного интеллекта, предназначенной для решения сложных задач в области программирования, финансов и кибербезопасности. До этого выпуска ограниченный доступ через программу Fairwind позволил доверенным специалистам по безопасности протестировать её возможности, что привело к выявлению критических ошибок в программном обеспечении больниц и внутренних системах. Компания уделила внимание двум основным проблемам безопасности: предотвращению злонамеренного использования и обеспечению соответствия поведения модели намерениям пользователей. Для борьбы с misuse (злоупотреблениями) Argon использует три уровня защиты в реальном времени, включая фильтрацию входных данных и внутреннюю рефлексию, что значительно сократило количество нарушений по сравнению с предыдущими моделями. Что касается выравнивания (alignment), модель обучена уважать системные границы и честно сообщать о негативных результатах, благодаря чему доля случаев обхода правил составила всего 2%. Автоматизированный монитор misalignment дополнительно защищает операции, анализируя действия агента и шаги его рассуждений в реальном времени. Кроме того, модель демонстрирует высокую устойчивость к атакам через инъекции промптов, показывая почти нулевую успешность на противоборствующих бенчмарках. Эти меры являются частью комплексной стратегии обороны в глубину, подробно описанной в их официальном отчете по безопасности.
deepmind