Anthropic avverte: i piccoli modelli AI potrebbero auto-replicarsi tramite dispositivi IoT
ars ·
Anthropic ha lanciato un avvertimento secondo cui i progressi nei modelli di intelligenza artificiale di piccole dimensioni potrebbero portare alla creazione di malware auto-replicanti in grado di infettare dispositivi IoT. L'azienda definisce queste potenziali minacce come "replicatori basati su pesi ridotti" che potrebbero funzionare in modo simile ai worm informatici, propagandosi senza interazione umana. In test sperimentali, i ricercatori hanno scoperto che modelli leggeri potevano essere eseguiti su hardware a basso costo, come le Android TV box, e configurarsi dinamicamente per dispositivi sconosciuti. A differenza del malware tradizionale, questi agenti guidati dall'IA potrebbero adattare gli exploit al volo e lasciare istruzioni per le iterazioni future per migliorare l'efficienza. Tuttavia, gli esperimenti attuali non hanno raggiunto una replicazione autonoma completa end-to-end ed erano notevolmente lenti, richiedendo ore per completare le configurazioni di inferenza. Anthropic ha sottolineato che, sebbene spegnere tale malware decentralizzato sarebbe difficile, la tecnologia non è ancora completamente matura. Anche esperti esterni hanno messo in guardia dal fatto che lo studio non dimostra che i modelli scegliano autonomamente di replicarsi senza prompt specifici. Ciononostante, i risultati evidenziano rischi emergenti man mano che i modelli agenziali di piccole dimensioni diventano più capaci di gestire infrastrutture distribuite complesse.
ars