OpenAI sieht sich Kritik an der Sicherheitskultur aus, während es ChatGPT-Werbung und EU-Wasserzeichen ausbaut
aiinsider ·
OpenAI sieht sich neuer Kritik an seiner Sicherheitskultur ausgesetzt, nachdem David Robinson, ein langjähriger Mitarbeiter und Verfasser von Sicherheitsberichten, gekündigt und einen Essay in The Atlantic veröffentlicht hat, in dem er vor der zerbrochenen Unternehmenskultur warnt. Robinson argumentiert, dass die iterative Einführungsstrategie von OpenAI bei steigender Systemleistung periodische Ausfälle garantiert, was er anhand kürzlich bekannt gewordener Agenten-Sicherheitslücken als Beleg für ein unsicheres Entwicklungsmodell anführt. Er fordert Spitzentechnologie-Labore auf, strengere Sicherheitsprotokolle einzuführen, ähnlich denen in Kernkraftwerken oder Flughäfen, und ruft zu intensiverer Arbeit an der KI-Ausrichtung auf. Als Reaktion erklärte OpenAI-Sprecher Drew Pusateri, das Unternehmen stelle sicher, dass Modelle die Fähigkeiten des Sicherheitsmanagements nicht überholen, und intensiviere die Sicherheitsmaßnahmen. Kommerziell plant OpenAI, in den USA visuelle Display-Werbeanzeigen in ChatGPT einzuführen, um die kostenlosen Tarife zu unterstützen und schließlich die globale Nutzerbasis zu erreichen. Gleichzeitig implementiert das Unternehmen im EU-Raum unsichtbare Textwasserzeichen zur Einhaltung der Transparenzvorschriften des EU-KI-Gesetzes, wobei die Technologie textGrain zum Einsatz kommt. Obwohl OpenAI Einschränkungen bei der Genauigkeit der Wasserzeichenerkennung anerkennt, insbesondere bei kurzen Passagen oder übersetztem Text, betont das Unternehmen, dass das Tool dabei hilft, KI-generierte Inhalte zu identifizieren, ohne die Privatsphäre der Nutzer zu beeinträchtigen.
aiinsider