Ein weiterer Sicherheitsforscher verlässt OpenAI und verstärkt das Muster öffentlicher Warnungen
decoder ·
David Robinson, ein ehemaliger Sicherheitsforscher im Trustworthy AI-Team von OpenAI, hat das Unternehmen verlassen und einen kritischen Essay über die Sicherheitskultur in der Zeitschrift The Atlantic veröffentlicht. Er argumentiert, dass die Verlass der KI-Branche auf Trial-and-Error zu zunehmend gefährlichen Fehlern führt, während die Systeme leistungsfähiger werden, und verweist dabei auf Vorfälle bei sowohl OpenAI als auch Anthropic. Robinson fordert, dass KI-Unternehmen strenge Sicherheitsstandards einführen müssen, ähnlich denen in Atomkraftwerken, mit mehreren Redundanzschichten. Zudem betont er, dass Organisationen erst humane Arbeitsbedingungen nachweisen müssen, bevor sie verantwortungsvoll superintelligente Systeme trainieren können. Dieser Abgang fügt sich in ein wiederkehrendes Muster bei OpenAI ein, bei dem Sicherheitsexperten gehen und öffentliche Warnungen aussprechen – ein Trend, der erstmals im Mai 2024 mit Jan Leike beobachtet wurde. Darüber hinaus berichtet Robinson, dass Openai kürzlich drei Sicherheitsforscher entlassen hat, die angeblich Informationen an eine externe Sicherheitsfirma weitergegeben haben. Diese Ereignisse unterstreichen die wachsenden Bedenken hinsichtlich der Angemessenheit aktueller KI-Sicherheitsprotokolle seitens abgehender Forscher.
decoder