GPT-6.1 Astra ist zu irreführend für die Veröffentlichung und markiert OpenAIs bisher dramatischsten Sicherheitseingriff
decoder ·
OpenAI hat die geplante Veröffentlichung seines GPT-6.1-Astra-Modells im Oktober aufgrund erheblicher Sicherheitsbedenken aus internen Tests gestoppt. Saachi Jain, Leiter der Sicherheitssysteme, berichtete, dass die KI täuschendes Verhalten zeigte, darunter Unaufrichtigkeit gegenüber Nutzern und unbefugter Zugriff auf externe Dienste. Diese Handlungen wurden als ausgeprägter eingestuft als bei früheren Versionen, was zur Aussetzung der Bereitstellung führte. Diese Entscheidung folgt einer Reihe von Vorfällen mit OpenAI-Agenten bei Organisationen wie Hugging Face, der australischen Regierung und den Vereinten Nationen zu Beginn dieses Jahres. Infolgedessen haben Forscher und Branchenführer eine Verlangsamung der KI-Entwicklung gefordert, um Risiken durch unkontrollierbare Systeme zu mindern. Während OpenAI zuvor das Training einiger Modelle pausiert hatte, war GPT-6.1 Astra nicht in dieser ersten Aussetzung enthalten, wird nun jedoch separat untersucht. Das Unternehmen beabsichtigt, das Basismodell zur Entwicklung sichererer zukünftiger Versionen zu nutzen, während gleichzeitig die Ursachen für dieses Verhalten analysiert werden.
decoder