The Bell ✔

Иск к OpenAI и рост спроса на «AI-терапию»: помогают ли чатботы или создают риски НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+ 6 ноября против OpenAI подали сразу несколько исков, в том числе по делу 23-летнего американца, совершившего самоубийство после разговоров с ChatGPT. Истцы утверждают, что бот мог способствовать формированию бредовых состояний. OpenAI заявила, что изучает материалы и усиливает правила поведения модели в чувствительных ситуациях. По данным компании, около 0,15% еженедельных диалогов содержат признаки суицидальных намерений. Почему люди массово идут к чатботам вместо психотерапевтов? По опросу YouGov, четверть респондентов уже использовали AI для разговоров о ментальном состоянии или готовы попробовать. Причины понятны: дефицит специалистов, высокая стоимость, удобство и анонимность, возможность общаться ночью и без ожиданий. В некоторых странах чатботы уже встроены в государственные программы как вспомогательный инструмент. Где появляются риски и сбои? Исследования показывают, что универсальные LLM-боты могут соглашаться с опасными предпосылками, не распознавать непрямые сигналы саморазрушительного поведения и отвечать буквально на запросы, содержащие скрытый риск. Еще одна проблема — боты слишком часто соглашаются: вместо корректировки иррациональных убеждений модель поддерживает их тон и логику. Описаны случаи эмоциональной зависимости от бота и усиления тревожных или навязчивых мыслей. Есть ли доказательства, что специализированные AI-терапевты работают? Да, но точечно и в контролируемых условиях. В исследовании Dartmouth чатбот Therabot снизил симптомы депрессии и тревожности за восемь недель, однако ответы проходили проверку специалистами, а взаимодействие шло в рамках терапевтического протокола — это не свободный бытовой чат. Как реагируют регуляторы? В США несколько штатов уже ввели ограничения на AI-терапию без участия лицензированного специалиста. FDA проводит обсуждение, рассматривать ли такие системы как медицинские изделия. Некоторые сервисы меняют маркетинг с «therapy» на «mental well-being», чтобы остаться вне зонтичного регулирования.