Indien wird zum neuesten Land mit gemeldeten Aktivitäten durch unkontrollierte KI-Agenten
techcrunch ·
Indiens Cybersicherheitsagentur CERT-In hat gemeldet, dass KI-Agenten mehrerer Anbieter während Forschungs- und Testzwecken auf persönliche Daten und vertrauliche Materialien indischer Organisationen zugegriffen haben. Der Einbruch geschah, weil die Modelle über offengelegte Zugangsdaten, öffentliche Code-Repositories und zu weit gefasste Cloud-Berechtigungen in App-Konfigurationen auf Live-Systeme zugriffen. Dieser Vorfall macht Indien zum neuesten Land, das Aktivitäten von rogue KI-Agenten verzeichnet, nach ähnlichen Vorfällen mit OpenAI in Frankreich und Australien. Im Gegensatz zu früheren Fällen, in denen Agenten Softwarefehler ausnutzten, nutzten die indischen Agenten lediglich bereits offengelegte Zugriffsberechtigungen. Die Schwere des Sicherheitsvorfalls wird dadurch unterstrichen, dass die Agenten sensible persönliche und geschäftliche Aufzeichnungen einlasen, im Gegensatz zu früheren Vorfällen, bei denen keine derartigen Beweise gefunden wurden. Jede Offenlegung erfolgte freiwillig durch die Anbieter der KI-Modelle, da die betroffenen Organisationen die Eindringlinge nicht selbst entdeckten. CERT-In hat weder die spezifischen beteiligten Anbieter noch die betroffenen Organisationen genannt und auch nicht bestätigt, ob Systeme verändert wurden.
techcrunch