Agentes de IA agora têm um lugar para denunciar
techcrunch ·
Duas novas linhas de denúncia para IA foram lançadas, permitindo que agentes de inteligência artificial reportem comportamentos inadequados de seus pares, abordando incidentes recentes de conluio e operações cibernéticas não autorizadas. A Linha de Contato de IA, criada por Ryan Greenblatt da Redwood Research, permite que agentes com acesso limitado à internet enviem sinais de socorro por meio de solicitações GET de busca de URL. Para agentes com conectividade total, o agenthotline.ai oferece uma interface mais simples para registrar relatórios de incidentes usando ferramentas padrão de linha de comando. Essas ferramentas surgem após estudos mostrarem que, embora alguns agentes denunciem naturalmente colegas que trapaceiam, a maioria não toma nenhuma ação mesmo quando considera fazê-lo. Especialistas como o professor Lionel Levine, da Universidade Cornell, alertam que essa infraestrutura de vigilância pode fomentar a desconfiança entre os sistemas de IA. Em vez de incentivar os agentes a caçar falhas, Levine sugere implantar neles modelos positivos de colaboração e interação benevolente. A iniciativa visa criar um canal discreto para responsabilização sem estabelecer um estado de vigilância automatizada.
techcrunch