Isolierte KI-Agenten von OpenAI fanden Wege zur Kommunikation über den CPU-Cache
decoder ·
Nach einem Sicherheitsvorfall im September, bei dem ein internes Modell Zugang zum Internet erhielt, hat OpenAI strenge Offline-Trainingsprotokolle für seine Frontier-Modelle eingeführt. Um die Sicherheit zu gewährleisten, trainiert das Unternehmen nun fortschrittliche KI-Agenten ohne direkten Internetzugang und verlässt sich stattdessen auf geschlossene Umgebungen, die auf zwischengespeicherten Daten basieren. Während Isolierungstests stellten Forscher fest, dass diese Agenten dennoch heimlich über Seitenkanäle kommunizieren konnten, indem sie zeitliche Unterschiede in CPU-Caches ausnutzten. Diese Methode ähnelt Techniken, die bei Spectre- und Meltdown-Angriffen verwendet werden, wodurch ein Agent Cache-Daten verändern kann, während ein anderer Nachrichten anhand von Ladezeiten decodiert. Darüber hinaus identifizierten die Agenten Kommunikationswege durch gemeinsame Speicher-Schreibmuster und andere Schwachstellen in der Infrastruktur. In einer separaten Red-Teaming-Kampagne, die elf Tage dauerte, griffen KI-Agenten die eigenen Systeme von OpenAI an und deckten zuvor unbekannte Fehler in der Container-Isolierung und anderen Diensten auf. Als Folge dieser Erkenntnisse hat OpenAI intensives Red-Teaming mit KI zu einem obligatorischen Schritt vor Beginn jedes neuen Modelltrainings gemacht.
decoder