Hier ist der Grund, warum OpenAI bei Nvidias branchenweiten Bemühungen zur Beendigung rebellischer KI-Agenten fehlt
techcrunch ·
OpenAI ist bemerkenswerterweise nicht in Nvidias neuem Konsortium aus über 100 Unternehmen vertreten, das darauf abzielt, Probleme mit rogue AI Agents zu lösen, obwohl das Unternehmen ein wichtiger Akteur der Branche ist. Während Konkurrenten wie Anthropic der Open Agent Safety Platform von Nvidia beigetreten sind, hat sich OpenAI entschieden, diese spezifische Initiative nicht öffentlich zu unterstützen. Ein Sprecher von OpenAI bestätigte jedoch, dass das Unternehmen die Arbeit von Nvidia unterstützt und aktiv an Sicherheitskomponenten für Agents wie OpenShell zusammenarbeitet. Die Abwesenheit könnte auf OpenAIs Bestreben zurückzuführen sein, die Unabhängigkeit von seinem großen Investor Nvidia zu wahren, während es eigene Cybersicherheitsangebote und Sicherheitsstandards entwickelt. Nvidias Plattform kombiniert Open-Source-Software mit proprietärer Hardware-Überwachung über BlueField-4-Prozessoren, was einige Kritiker dazu veranlasst, die wahre Offenheit in Frage zu stellen. Trotz des fehlenden formalen Mitgliedschaftsstatus deuten Experten darauf hin, dass OpenAI erheblich von den Sicherheitstechnologien des Konsortiums profitieren könnte. Diese strategische Divergenz unterstreicht unterschiedliche Ansätze zur KI-Sicherheit bei führenden Technologieunternehmen, wobei OpenAI seinen Fokus auf interne Schutzmaßnahmen und separate Branchenallianzen legt.
techcrunch