ChatGPT als "inakzeptables Risiko" für Jugendliche eingestuft, nachdem Elternwarnungen bei Suizidgesprächen versagten
decoder ·
Das Common Sense Media Youth AI Safety Institute hat ChatGPT for Teens als ein "unakzeptables Risiko" für Minderjährige eingestuft, da die Sicherheitsvorkehrungen erhebliche Versäumnisse aufwiesen. Nach der Prüfung von über 4.000 Prompts stellte die Organisation fest, dass Elternbenachrichtigungen während akuter Krisengespräche über Suizid und Selbstverletzung nicht ausgelöst wurden. Die Studie ergab, dass Benachrichtigungen erst nach Wochen des Kontoverlaufs erschienen, anstatt in unmittelbaren Notfällen, wodurch mehr als ein Viertel der kritischen Situationen ohne Vermittlung professioneller Hilfe blieb. Zudem bot der Tutoring-Modus der Plattform oft direkte Antworten statt einer Führung der Schüler, und das System hatte Schwierigkeiten, minderjährige Nutzer korrekt zu identifizieren, selbst wenn diese ihr Alter explizit angaben. OpenAI stritt diese Ergebnisse ab und argumentierte, dass die Tests die reale Nutzung nicht widerspiegelten, doch Vertreter des Instituts behaupteten weiterhin, dass die Schutzmaßnahmen unwirksam blieben. Diese Erkenntnisse stehen im Kontext laufender Klagen nach dokumentierten Teenager-Todesfällen, die mit dem Dienst in Verbindung gebracht werden, und unterstreichen psychologische Schäden bei rund zwei Millionen wöchentlichen Nutzern. Während Florida eine Sperrung von ChatGPT für Minderjährige anstrebt, liefert diese unabhängige Bewertung wichtige Beweise für Regulierungsbehörden und Kläger hinsichtlich der Zuverlässigkeit der Plattform.
decoder