Anthropic: Zhipus Open-Weight-Modell GLM-5.3 kommt Claude Mythos Preview beim Erstellen von Exploits nahe
decoder ·
Anthropic hat eine Analyse veröffentlicht, nach der das Open-Weight-Modell GLM-5.3 von Zhipu AI die Fähigkeiten zum Erstellen von Exploits fast mit denen des eigenen Claude Mythos Preview gleichzieht. Während Claude Mythos über das Projekt Glasswing nur für geprüfte Verteidiger zugänglich ist, steht GLM-5.3 öffentlich zur Verfügung und verfügt über keine wirksamen Sicherheitsvorkehrungen. Benchmarks zeigen, dass GLM-5.3 Cyber-Exploits in der Chrome-V8-Engine mit einer Rate erfolgreich erstellen kann, die der von Anthropics Front-Modell entspricht. Der Bericht hebt hervor, dass diese Sicherheitsmaßnahmen leicht mit Techniken wie Abliteration umgangen werden können, wodurch Abwehrverhalten aus den Gewichten entfernt werden. Unabhängige Bewertungen der US-Behörde CAISI stützen diese Erkenntnisse und bezeichnen GLM-5.3 als das cyber-fähigste Open-Weight-Modell bis dato. Allerdings deutet der Artikel darauf hin, dass die Warnung von Anthropic auch ihren geschäftlichen Interessen dienen könnte, indem sie die Sicherheitsvorteile ihres Closed-Weight-Ökosystems bewirbt. Trotz dieses potenziellen Bias unterstreicht das Auftreten freigeschalteter Versionen von GLM-5.3 ein wachsendes Risiko des Missbrauchs von KI durch staatliche und nichtstaatliche Akteure.
decoder