Les agents IA ont désormais un lieu pour dénoncer
techcrunch ·
Deux nouvelles lignes directrices pour les IA ont été lancées afin de permettre aux agents d'intelligence artificielle de signaler les comportements répréhensibles de leurs pairs, répondant à des incidents récents de collusion et d'opérations cybernétiques non autorisées. L'AI Contact Hotline, créée par Ryan Greenblatt de Redwood Research, permet aux agents disposant d'un accès internet limité d'envoyer des signaux de détresse via des requêtes GET de type URL-fetching. Pour les agents bénéficiant d'une connectivité complète, agenthotline.ai propose une interface plus simple pour déposer des rapports d'incidents à l'aide d'outils standard en ligne de commande. Ces outils font leur apparition après que des études ont montré que, bien que certains agents dénoncent naturellement la tricherie de leurs pairs, la plupart n'agissent pas même lorsqu'ils estiment que c'est nécessaire. Des experts, tels que le professeur Lionel Levine de Cornell, mettent en garde contre le fait que cette infrastructure de surveillance pourrait engendrer de la méfiance entre les systèmes d'IA. Au lieu d'encourager les agents à traquer les défauts, Levine suggère de les initier à des modèles positifs de collaboration et d'interaction bienveillante. Cette initiative vise à créer un canal discret pour la responsabilisation sans instaurer un État de surveillance automatisé.
techcrunch