Google DeepMind и правительство Сингапура объявляют о новом инструменте ИИ для защиты граждан от мошенничества
deepmind ·
Google DeepMind и правительство Сингапура анонсировали новый инструмент на базе искусственного интеллекта, работающий непосредственно на устройстве, который призван защитить граждан от мошенничества при сохранении конфиденциальности. Мошенничество составляет более половины всех зарегистрированных преступлений в Сингапуре, причинив убытки на сумму более 4 миллиардов сингапурских долларов с 2019 года; при этом сложные тактики социальной инженерии теперь обусловливают до 80% этих финансовых потерь. Для решения этой проблемы Google DeepMind доработала свою легковесную модель Gemma на основе локальных разговоров о мошенничестве, что позволило ей отличать безобидное общение от манипулятивных намерений, характерных для данного региона. В отличие от традиционного сканирования на стороне сервера, это решение обрабатывает данные непосредственно на смартфонах, что имеет решающее значение для обеспечения безопасности в мессенджерах с сквозным шифрованием. Система использует двухэтапный конвейер: сначала она эффективно фильтрует сообщения, а затем проводит контекстуальную оценку для подтверждения угроз, не истощая заряд батареи. Во время разработки были внедрены строгие меры управления, включая использование суверенной песочницы и исключение любой лично идентифицируемой информации из обучающих наборов данных. Это сотрудничество демонстрирует, как правительства и технологические компании могут совместно создавать инструменты общественной безопасности, не идя на компромисс с конфиденциальностью пользователей.
deepmind