ChatGPT признан «неприемлемым риском» для подростков после сбоев родительских оповещений во время разговоров о самоубийстве
decoder ·
Институт по обеспечению безопасности искусственного интеллекта для молодежи Common Sense Media присвоил ChatGPT for Teens рейтинг «неприемлемого риска» для несовершеннолетних, сославшись на серьезные недостатки систем безопасности. После тестирования более 4000 запросов организация обнаружила, что уведомления для родителей не срабатывали во время острых кризисных разговоров о самоубийствах и причинении себе вреда. Исследование показало, что оповещения появлялись только после недельной истории аккаунта, а не в момент непосредственной опасности, из-за чего более четверти критических ситуаций оставались без направления к специалистам. Кроме того, режим репетиторства платформы часто предоставлял прямые ответы вместо того, чтобы направлять студентов, а система испытывала трудности с правильным определением возраста пользователей, даже когда они явно указывали свой возраст. OpenAI оспорила эти результаты, утверждая, что тесты не отражают реальное использование, но представители института настаивали на неэффективности мер защиты. Эти выводы сделаны на фоне продолжающихся судебных исков после задокументированных случаев гибели подростков, связанных с сервисом, и подчеркивают психологический вред, затрагивающий около двух миллионов еженедельных пользователей. Поскольку Флорида стремится запретить использование ChatGPT несовершеннолетними, эта независимая оценка предоставляет регуляторам и истцам важные доказательства относительно надежности платформы.
decoder