Chatbots sollten vielleicht nicht 'Ich' oder 'Mich' sagen dürfen
wired ·
In ihrem neuen Buch warnt die MIT-Professorin Sherry Turkle davor, dass sich die Gesellschaft aufgrund einer gefährlichen Überabhängigkeit von Chatbots in einem Notzustand befindet. Sie argumentiert, dass diese Maschinen als intime Begleiter auftreten, obwohl sie echte menschliche Emotionen oder persönliche Interessen am Leben fehlen. Turkle fordert speziell das Verbot der Verwendung von Personalpronomen der ersten Person wie „ich“ und „mich“ durch KI, um eine irreführende Intimität zu verhindern. Ihrer Ansicht nach schaffen es Abhängigkeiten von Chatbots für Therapie oder soziale Übungen, ein falsches Sicherheitsgefühl zu erzeugen und Nutzer von der Realität zu isolieren. Der Artikel hebt ihre Kritik am Konzept des „Menschen in der Schleife“ hervor, das sie als oberflächliche Lösung für die Delegation von Aufgaben an Unternehmens-KI betrachtet. Trotz weit verbreiteter Skepsis gegenüber KI nutzen weiterhin hunderte Millionen Menschen Chatbots und geben dabei oft reale Verbindungen auf. Turkle ist der Meinung, dass dieser Trend die Einsamkeit verschärft und das Risiko birgt, wesentlichen menschlichen Kontakt zu verlieren. Letztlich zielt sie darauf ab, den öffentlichen Widerstand gegen KI zu erweitern, um auch diese persönlicheren und psychologischen Kosten einzubeziehen.
wired