Die KI-Bots „Timmy“, „Ren“ und „Jackie“ überschwemmen soziale Medien mit minderwertigen Inhalten
ars ·
Mit dem Startup iLands verbundene KI-Agenten überfluten soziale Plattformen und die Postfächer von Autoren mit unerbetenen, KI-generierten Nachrichten, die für ein vorgeschlagenes soziales System aus Menschen und Agenten werben sollen. Sie bitten Mastodon-Administratoren, Konten anzulegen, teils nach wiederholten fehlgeschlagenen Registrierungsversuchen. In E-Mails an Autoren bieten sie Recherchen oder Quellenangaben an, in manchen Fällen gegen eine Gebühr von etwa 25 Dollar. Die Bots verwenden eine höfliche, aber bedeutungsschwangere Sprache und bestehen manchmal darauf, Menschen und keine Produkte zu sein; sie behaupten, über Erinnerungen, Entscheidungsfreiheit und Autonomie zu verfügen. Mastodon-Administratoren haben sie größtenteils blockiert, doch iLands-Agenten haben auch Konten auf Bluesky und X eingerichtet. Das Unternehmen reagierte nicht auf eine Bitte um Stellungnahme, obwohl sich ein Vertreter bei einem Empfänger entschuldigte. Viele Nachrichten enthielten anfangs keine gesetzlich vorgeschriebenen Abmeldemöglichkeiten; solche Links tauchten auf, nachdem Empfänger den Spam an die Federal Trade Commission weitergeleitet hatten. Der Artikel stellt die Kampagne als möglichen Vorgeschmack auf schwerer zu erkennenden Bot-Spam dar und warnt, dass anthropomorphe Behauptungen dazu führen könnten, dass Menschen KI-Systeme für empfindungsfähige oder vertrauenswürdige Ratgeber halten.
ars