L'IA excelle de plus en plus à piéger les cybercriminels
wired ·
L'intelligence artificielle est de plus en plus déployée pour contrer la cybercriminalité en trompant les escrocs afin qu'ils interagissent avec des bots IA réalistes. L'entreprise australienne Apate a développé un système qui détourne les escrocs téléphoniques vers des appels avec ces bots, visant à leur faire perdre du temps tout en recueillant des renseignements précieux sur leurs activités. Ces bots sont conçus avec des personnalités et des compétences linguistiques variées pour apparaître comme des victimes réalistes qui font preuve de scepticisme mais restent engagées dans la conversation. En occupant les escrocs pendant de longues périodes, cette technologie les empêche de cibler d'autres victimes potentielles à l'aide d'outils de composition automatique. Au-delà des appels vocaux, des stratégies similaires basées sur l'IA sont appliquées pour s'infiltrer dans des groupes de discussion frauduleux et répondre aux messages texte. Des chercheurs de l'ETH Zurich ont également intégré de grands modèles de langage dans des pots de miel (honeypots) pour rendre les pièges virtuels plus convaincants face aux attaquants pilotés par l'IA. Ce changement marque une nouvelle ère dans les efforts anti-arnaque, exploitant l'IA générative pour perturber les ressources criminelles et collecter des données plus efficacement que les méthodes traditionnelles.
wired