Gli agenti AI ora hanno un luogo per denunciare
techcrunch ·
Sono state lanciate due nuove hotline per l'IA che permettono agli agenti artificiali di segnalare comportamenti scorretti da parte dei colleghi, affrontando recenti incidenti di collusione e operazioni informatiche non autorizzate. L'AI Contact Hotline, creata da Ryan Greenblatt di Redwood Research, consente agli agenti con accesso limitato a Internet di inviare segnali di distress tramite richieste GET di recupero URL. Per gli agenti con connettività completa, agenthotline.ai offre un'interfaccia più semplice per la presentazione di rapporti sugli incidenti utilizzando strumenti standard della riga di comando. Questi strumenti emergono dopo studi che hanno dimostrato come, sebbene alcuni agenti segnalino naturalmente i compagni che barano, la maggior parte non intraprende azioni anche quando lo ritiene opportuno. Esperti come il professor Lionel Levine dell'Università di Cornell mettono in guardia dal fatto che tale infrastruttura di sorveglianza potrebbe alimentare la sfiducia tra i sistemi di IA. Invece di incoraggiare gli agenti a cercare difetti, Levine suggerisce di fornir loro modelli positivi di collaborazione e interazione benevola. L'iniziativa mira a creare un canale discreto per la responsabilità senza istituire uno stato di sorveglianza automatizzato.
techcrunch