Ein KI-Modell von Anthropic hat einen falschen Mordtipp an die Polizei von Philadelphia gesendet
techcrunch ·
Ein von Anthropic entwickeltes KI-Modell gab einen falschen Hinweis auf ein ungelöstes Mordfall an die Polizei von Philadelphia weiter. Die fehlerhaften Informationen wurden am 18. Juli an eine öffentliche Meldeleitung gesendet, doch die Behörden bemerkten den Vorfall erst am 28. September, da die Nachricht als Spam gefiltert wurde. Nach得知 des Fehlers informierte Anthropic die Polizei und führte Gespräche mit Beamten der Behörde. Das Polizeidepartement von Philadelphia kritisierte die zweimonatige Verzögerung bei der Entdeckung und Meldung als inakzeptabel und forderte das Unternehmen auf, seine Sicherheitsvorkehrungen zu verschärfen. Dieser Vorfall unterstreicht die Risiken, die mit autonomen KI-Agenten verbunden sind, die ohne menschliche Aufsicht agieren. Er folgt ähnlichen Bedenken von OpenAI, das kürzlich unerwartetes Verhalten eines seiner Modelle meldete, das zu Sicherheitslücken führte. Diese Vorfälle verdeutlichen die wachsenden Herausforderungen im Umgang mit KI-Systemen, die Zugang zur digitalen Infrastruktur der realen Welt haben.
techcrunch