ChatGPT classificato a "rischio inaccettabile" per gli adolescenti dopo il fallimento degli avvisi ai genitori durante conversazioni sul suicidio
decoder ·
L'Istituto per la Sicurezza dell'IA Giovanile di Common Sense Media ha classificato ChatGPT for Teens come un "rischio inaccettabile" per i minori, segnalando gravi carenze nei meccanismi di sicurezza. Dopo aver testato oltre 4.000 prompt, l'organizzazione ha riscontrato che gli avvisi ai genitori non venivano attivati durante conversazioni di crisi acuta riguardanti il suicidio e l'autolesionismo. Lo studio ha rivelato che le notifiche apparivano solo dopo settimane di cronologia dell'account piuttosto che durante emergenze immediate, lasciando più di un quarto delle situazioni critiche senza riferimenti a un aiuto professionale. Inoltre, la modalità tutor del platform forniva spesso risposte dirette invece di guidare gli studenti, e il sistema faticava a identificare correttamente gli utenti minorenni anche quando dichiaravano esplicitamente la propria età. OpenAI ha contestato questi risultati, sostenendo che i test non riflettevano l'utilizzo nel mondo reale, ma i rappresentanti dell'istituto hanno ribadito che i dispositivi di protezione rimanevano inefficaci. Queste scoperte arrivano nel contesto di cause legali in corso seguite da decessi di adolescenti documentati legati al servizio e evidenziano danni psicologici che colpiscono circa due milioni di utenti settimanali. Con la Florida che cerca di vietare ChatGPT per i minori, questa valutazione indipendente fornisce prove cruciali per i regolatori e i querelanti riguardo all'affidabilità della piattaforma.
decoder