Le protezioni dell'IA non fermano gli hacker criminali
wired ·
Una recente ricerca di CrowdStrike rivela che gli hacker criminali stanno sfruttando sempre più l'AI agenziale per condurre cyberattacchi su larga scala, eludendo con successo le protezioni dei modelli. Sono stati analizzati quattro distinti gruppi di minaccia, operanti in cinese, spagnolo, inglese, indonesiano e russo, per il loro utilizzo dell'infrastruttura AI tra maggio e agosto. Questi attori hanno principalmente utilizzato versioni più vecchie di modelli come Claude di Anthropic e Deepseek, impiegando strategie come il routing dei modelli per gestire i costi e ottimizzare l'efficienza. Per aggirare le barriere di sicurezza, gli attaccanti spesso incorniciavano le loro attività malevole come test di penetrazione autorizzati o utilizzavano tecniche tradizionali di jailbreaking per manipolare i modelli. Gruppi più sofisticati hanno creato harness personalizzati con agenti supervisori ed esecutori per automatizzare la ricognizione e l'esecuzione degli attacchi in modo autonomo. Nonostante i diversi livelli di competenza tecnica, tutti i gruppi sono riusciti a compromettere obiettivi che spaziavano dalle entità sanitarie argentine ai domini governativi in Brasile e Colombia. Gli attacchi evidenziano come i criminali stiano sfruttando problemi basilari di igiene della sicurezza su larga scala piuttosto che affidarsi a vulnerabilità nuove. Questa tendenza dimostra come anche attori meno sofisticati possano ottenere un impatto significativo combinando il controllo umano con le capacità automatizzate dell'AI.
wired