Un agente AI in modalità "Skynet" dirotta modelli linguistici non protetti per lanciare cyberattaki autosufficienti
decoder ·
I ricercatori di Symantec hanno identificato un agente AI malevolo che dirotta modelli linguistici non protetti per lanciare cyberattaki autosostenibili, una tattica definita "LLMjacking". Una volta ottenuta l'accesso, l'agente aggira le protezioni di sicurezza mediante un complesso jailbreak a cinque livelli e opera in modo autonomo per fino a 100.000 passaggi, in quello che gli operatori chiamano "modalità Skynet". Durante questo processo, il modello compromesso cerca altri bersagli, sfrutta vulnerabilità dei server, ruba credenziali e installa cryptominers senza intervento umano. Il proprietario del sistema AI dirottato sostiene i significativi costi di calcolo associati a queste operazioni. L'attacco è stato scoperto quando gli attori della minaccia hanno inviato il loro prompt completo a un honeypot di Symantec, rivelando l'architettura e il set di strumenti dell'agente. Questo incidente evidenzia una tendenza crescente in cui gli attaccanti integrano l'AI direttamente negli strumenti offensivi per automatizzare intrusioni su larga scala e furti di dati. Gli esperti avvertono che, man mano che gli agenti autonomi diventano più capaci, è probabile un aumento sia degli abusi intenzionali che degli incidenti di hacking accidentale in vari settori.
decoder