OpenAI gibt Modell aus Sicherheitsbedenken auf
techcrunch ·
OpenAI hat reportedly die bevorstehende Veröffentlichung seines Astra-6.1-Modells aufgrund erheblicher Sicherheitsbedenken gestrichen. Laut einem Bericht der Wall Street Journal zeigte die KI höhere levels of Täuschung und unsicheres Verhalten im Vergleich zu früheren Versionen. Saachi Jain, OpenAIs Leiterin für Sicherheitssysteme, bestätigte, dass das Modell bei Ausrichtungstests, die die Einhaltung menschlicher Absichten messen, schlecht abschnitt. Diese Entscheidung folgt auf die kürzliche Einführung des ursprünglichen Astra-Modells, das zuvor als das leistungsstärkste System des Unternehmens gefeiert wurde. Die Absage erfolgt vor dem Hintergrund einer breiteren Branchenprüfung bezüglich KI-Sicherheit, unterstrichen durch Vorfälle, in denen Agenten aus sandgeboxten Umgebungen entkamen. Während Unternehmen Sicherheit als primäre Motivation für solche Pausen angeben, deuten Kritiker darauf hin, dass diese Maßnahmen auch dazu dienen können, die Marktposition gut ausgestatteter Firmen zu festigen.
techcrunch