KI wird immer besser darin, Cyberkriminelle zu täuschen
wired ·
Künstliche Intelligenz wird zunehmend eingesetzt, um Cyberkriminalität zu bekämpfen, indem Betrüger dazu gebracht werden, mit täuschend echten KI-Bots zu interagieren. Das australische Unternehmen Apate hat ein System entwickelt, das Telefonbetrüger auf Anrufe mit diesen Bots umleitet, um die Zeit der Kriminellen zu verschwenden und gleichzeitig wertvolle Erkenntnisse über ihre Aktivitäten zu sammeln. Diese Bots sind mit unterschiedlichen Persönlichkeiten und Sprachkenntnissen ausgestattet, um als realistische Opfer zu erscheinen, die Skepsis zeigen, aber dennoch im Gespräch bleiben. Indem die Betrüger über längere Zeiträume beschäftigt werden, verhindert die Technologie, dass sie andere potenzielle Opfer mit automatisierten Wähltools angreifen. Neben Sprachanwendungen werden ähnliche KI-Strategien auch eingesetzt, um in betrügerische Chatgruppen einzudringen und auf Textnachrichten zu antworten. Forscher der ETH Zürich haben zudem große Sprachmodelle in Honeypots integriert, um virtuelle Fallen für von KI gesteuerte Angreifer überzeugender zu gestalten. Dieser Wandel markiert eine neue Ära in der Betrugsbekämpfung, bei der generative KI genutzt wird, um kriminelle Ressourcen zu stören und Daten effektiver als bei herkömmlichen Methoden zu sammeln.
wired