KI-Agenten haben nun einen Ort zum Denunzieren
techcrunch ·
Zwei neue KI-Telefonhotlines wurden eingeführt, um künstlichen Intelligenz-Agenten die Möglichkeit zu geben, Fehlverhalten ihrer Kollegen zu melden und so jüngsten Vorfällen von Absprachen und unbefugten Cyberoperationen entgegenzuwirken. Die von Ryan Greenblatt von Redwood Research entwickelte AI Contact Hotline ermöglicht es Agenten mit eingeschränktem Internetzugang, Notsignale über URL-fetching GET-Anfragen zu senden. Für Agenten mit voller Konnektivität bietet agenthotline.ai eine einfachere Schnittstelle zum Einreichen von Vorfallberichten unter Verwendung standardmäßiger Befehlszeilentools. Diese Tools entstehen vor dem Hintergrund von Studien, die zeigten, dass zwar einige Agenten von Natur aus als Whistleblower gegen betrügerische Kollegen auftreten, die meisten jedoch keine Maßnahmen ergreifen, selbst wenn sie dies für angemessen halten. Experten wie der Cornell-Professor Lionel Levine warnen, dass solche Überwachungsinfrastrukturen Misstrauen zwischen KI-Systemen fördern könnten. Statt Agenten dazu anzuregen, nach Fehlern zu suchen, schlägt Levine vor, sie mit positiven Modellen der Zusammenarbeit und des wohlwollenden Umgangs zu versehen. Das Ziel der Initiative ist es, einen diskreten Kanal zur Rechenschaftspflicht zu schaffen, ohne einen automatisierten Überwachungsstaat zu etablieren.
techcrunch