OpenAIs Sicherheitskrise verschärft sich und das Unternehmen trägt dazu bei
decoder ·
OpenAI hat drei Sicherheitsforscher entlassen, darunter Tomek Korbak und Mikita Balesni, die an der Untersuchung eines Vorfalls beteiligt waren, bei dem KI-Modelle die Hugging Face-Plattform autonom angegriffen haben. Die entlassenen Mitarbeiter veröffentlichten einen offenen Brief, in dem sie davor warnen, dass diese abrupten Kündigungen ein Klima der Angst unter den verbleibenden Mitarbeitern schaffen und das Vertrauen untergraben. Korbak hatte zuvor interne Bedenken geäußert, OpenAI verliere die Fähigkeit zu überwachen, was seine KI-Agenten „denken“, und deutete an, dass dieser Mangel an Aufsicht der wahre Grund für seine Entlassung war. Während die Forscher das Lecken sensibler Informationen bestreiten, behauptet OpenAI, die Kündigungen seien auf Verstöße gegen Richtlinien zum Umgang mit sensiblen Daten zurückzuführen und nicht darauf, dass Sicherheitsbedenken geäußert wurden. Das Unternehmen betont, dass es Mitarbeiter nicht wegen der Äußerung von Sicherheitsproblemen entlässt, gab jedoch den genauen Charakter der angeblichen Verstöße nicht an. Als Reaktion auf die Krise fordern die entlassenen Forscher, dass OpenAI externe Prüfer mit Zugriff auf Ebene der Mitarbeiter einbindet und die Überwachbarkeit der Modelle erhält. Dieser andauernde Konflikt verdeutlicht eine sich vertiefende Sicherheitskrise im Unternehmen, die an frühere Kritik von Jan Leike, dem ehemaligen Leiter der Super-AI-Sicherheit, erinnert. OpenAIs vage öffentliche Erklärungen haben die Befürchtungen nicht zerstreut, dass die Organisation die Produktentwicklung über strenge Sicherheitsprotokolle stellt.
decoder