OpenAI plant, Modelle mit zuvor gesperrten Daybreak Blue Cybersecurity-Sitzungsdaten zu trainieren
decoder ·
OpenAI hat angekündigt, ab dem 29. November Sitzungsdaten aus seinem Cybersecurity-Programm Daybreak Blue zur Schulung seiner Modelle zu nutzen. Diese Politikänderung stellt einen bedeutenden Wandel dar, da diese spezifischen Daten zuvor ausgeschlossen blieben, selbst wenn Nutzer die Option zur Verbesserung der Modelle deaktiviert hatten. Die Entscheidung löste sofortigen Widerstand bei Mitgliedern des Trusted Access aus, woraufhin OpenAI eine Folge-E-Mail mit einem separaten Opt-out-Mechanismus versendete. Während Interaktionen, die während Sicherheitsüberprüfungen markiert wurden, weiterhin für Sicherheitszwecke verwendet werden dürfen, hat die breitere Einbeziehung von Sitzungsdaten Bedenken in der Forschungscommunity hervorgerufen. Diese Sorgen resultieren aus der Angst vor einer Wiederholung des Buckmaster-Alpöge-Vorfalls, bei dem Forscher vermuteten, dass ihre unveröffentlichte mathematische Arbeit ohne Zustimmung genutzt wurde. Dieser frühere Kontroversenfall verdeutlichte die potenziellen Risiken im Hinblick auf geistiges Eigentum und das Vertrauen zwischen KI-Entwicklern und externen Mitwirkenden. Folglich zielt die neue Richtlinie darauf ab, die Modellverbesserung mit der Benutzerkontrolle in Einklang zu bringen, wobei die Skepsis jedoch nach wie vor hoch ist.
decoder