OpenAI-Sicherheitsmitarbeiter tritt zurück und behauptet, die „Kultur“ des Unternehmens sei gebrochen
techcrunch ·
David Robinson, ein langjähriger Sicherheitsmitarbeiter bei OpenAI, ist zurückgetreten und hat einen Aufsatz in The Atlantic veröffentlicht, in dem er behauptet, die Kultur des Unternehmens sei defekt. Er argumentiert, dass OpenAIs Verlass auf iterative Bereitstellungen periodische Ausfälle garantiert, während KI-Systeme leistungsfähiger werden, und verweist dabei auf jüngste Sicherheitsverletzungen durch eigenmächtige Agenten. Robinson vertritt die Ansicht, dass Unternehmen an der Spitze der KI-Entwicklung mit der strengen Redundanz operieren sollten, wie sie in Atomkraftwerken oder Flughäfen üblich ist, anstatt sich auf Trial-and-Error zu verlassen. Er kritisiert die Branche dafür, dass ihr Kollegen fehlen, die Erfahrung in hochriskanten sicherheitskritischen Bereichen wie der Luftfahrt oder der Nuklearindustrie haben. Während ein Sprecher von OpenAI, Drew Pusateri, auf laufende Verbesserungen der Sicherheitsmaßnahmen und Echtzeitüberwachung hinwies, besteht Robinson darauf, dass die aktuellen Alignments-Metriken zu grob sind. Er warnt, dass die Gefahr zunimmt, wenn Modelle intelligenter werden, während diese grundlegenden Probleme ungelöst bleiben. Robinson gab zudem an, eine PR-Agentur beauftragt zu haben, betonte jedoch, dass seine Entscheidung, öffentlich Stellung zu beziehen, vollständig seine eigene war.
techcrunch