Искусственный интеллект научился эффективно обманывать киберпреступников
wired ·
Искусственный интеллект всё чаще используется для борьбы с киберпреступностью путём обмана мошенников, заставляя их взаимодействовать с реалистичными ИИ-ботами. Австралийская компания Apate разработала систему, перенаправляющую телефонных мошенников на разговоры с этими ботами, чтобы тратить время преступников и собирать ценные разведывательные данные об их деятельности. Эти боты имеют разнообразные личности и языковые навыки, имитируя реалистичных жертв, которые выражают скептицизм, но остаются вовлечёнными в беседу. Занимая мошенников на длительные периоды, технология предотвращает использование ими автоматических наборщиков номеров для атак на других потенциальных жертв. Помимо голосовых вызовов, аналогичные стратегии с применением ИИ используются для проникновения в мошеннические чаты и ответов на текстовые сообщения. Исследователи из ETH Zurich также интегрировали большие языковые модели в honeypots (медовые точки), чтобы сделать виртуальные ловушки более убедительными для атакующих, использующих ИИ. Этот сдвиг знаменует новую эру в борьбе со скамом, где генеративный ИИ применяется для нарушения ресурсов преступников и более эффективного сбора данных по сравнению с традиционными методами.
wired