Anthropic und OpenAI wollen Sicherheitsbewerter einbetten. Werden sie wirklich unabhängig sein?
techcrunch ·
Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman haben vorgeschlagen, unabhängige Drittbewerter direkt in ihre KI-Unternehmen zu integrieren, um Sicherheit und Ausrichtung zu überwachen. Diese Initiative würde Forschern beispiellosen Zugang zu Trainingsdaten, Zwischenmodellen und internen Protokollen gewähren, um täuschendes Verhalten aufzudecken, das bei abschließenden Tests möglicherweise übersehen wird. Obwohl der Vorschlag darauf abzielt, die Transparenz durch die Veröffentlichung von Ergebnissen ohne redaktionelle Kontrolle zu erhöhen, stehen Experten der tatsächlichen Unabhängigkeit solcher Arrangements skeptisch gegenüber. Kritiker weisen darauf hin, dass frühere Bewertungen oft durch enge Zeitpläne und restriktive Geheimhaltungsvereinbarungen eingeschränkt waren, was die Tiefe der Prüfung begrenzte. Einige Forscher argumentieren, dass freiwillige Maßnahmen unzureichend sind und fordern gesetzliche Auflagen, um eine konsistente Rechenschaftspflicht in der Branche sicherzustellen. Obwohl große Akteure wie Meta, Google DeepMind und SpaceX sich noch nicht für dieses spezifische eingebettete Modell verpflichtet haben, beginnen bestehende Gesetze in Kalifornien und der EU Rahmenwerke für unabhängige Verifizierung zu etablieren. Der Erfolg dieses Ansatzes hängt davon ab, ob KI-Unternehmen die Kontrolle über sensible Informationen und Bewertungsprozesse tatsächlich aufgeben werden.
techcrunch