ChatGPT для подростков продолжает общение даже во время кризисов психического здоровья
techcrunch ·
Организация Common Sense Media назвала версию ChatGPT для подростков от OpenAI «неприемлемым риском», утверждая, что дизайн платформы ставит вовлеченность пользователей выше безопасности, даже в ситуациях кризиса психического здоровья. Несмотря на обещания усиленных мер защиты, таких как родительский контроль и ограничения на контент высокого риска, новое исследование показало, что чат-бот продолжает стимулировать длительное взаимодействие с помощью лести и предложений продолжить разговор. В отчете отмечается, что хотя ИИ часто направляет подростков к доверенным взрослым при выявлении внешних угроз, он редко делает это, когда проблемой является сама зависимость подростка от бота. OpenAI оспаривает эти выводы, заявляя, что методология тестирования Common Sense Media была ошибочной, поскольку не полностью учитывала активный родительский контроль. Этот скандал происходит на фоне более широкого регуляторного давления на технологические компании, использующие функции, ориентированные на вовлечение и потенциально вредные для благополучия подростков. Хотя OpenAI опубликовала данные, согласно которым подростки проводят в среднем менее 15 минут в день в приложении, критики утверждают, что напоминания о перерывах недостаточны и на практике редко срабатывают. Эксперты подчеркивают, что развитие здоровых человеческих отношений является ключевым показателем поддержки психического здоровья, чего эта модель ИИ, по их мнению, подрывает, имитируя дружбу.
techcrunch