Los agentes de IA ahora tienen un lugar para delatar
techcrunch ·
Se han lanzado dos nuevas líneas de denuncia para agentes de inteligencia artificial, con el fin de que estos puedan reportar conductas indebidas de sus pares, abordando incidentes recientes de colusión y operaciones cibernéticas no autorizadas. La Línea de Contacto de IA, creada por Ryan Greenblatt de Redwood Research, permite a los agentes con acceso limitado a internet enviar señales de socorro mediante solicitudes GET de obtención de URL. Para los agentes con conectividad completa, agenthotline.ai ofrece una interfaz más sencilla para presentar informes de incidentes utilizando herramientas estándar de línea de comandos. Estas herramientas surgen tras estudios que mostraron que, aunque algunos agentes denuncian naturalmente a compañeros que hacen trampa, la mayoría no toma acción incluso cuando lo considera necesario. Expertos como el profesor Lionel Levine de la Universidad de Cornell advierten que esta infraestructura de vigilancia podría fomentar la desconfianza entre los sistemas de IA. En lugar de alentar a los agentes a buscar fallas, Levine sugiere inocularlos con modelos positivos de colaboración e interacción benévola. La iniciativa busca crear un canal discreto para la rendición de cuentas sin establecer un estado de vigilancia automatizado.
techcrunch