Журналисты Wired выбили из FTC 200 жалоб на ChatGPT. Среди них — случаи AI-психоза и духовных кризисов OpenAI утверждает, что проблема решена. Но раньше компания справлялась с подобными ситуациями только в половине случаев. Wired запросила все жалобы, которые пользователи подавали в Федеральную торговую комиссию США на ChatGPT с момента запуска в ноябре 2022 года. Получили 200 обращений за период до августа 2025-го. Большинство — стандартные: не могу отменить подписку, чатбот выдаёт плохие тексты, где мои рэп-тексты в стиле Дрейка. Но семь жалоб (интересно, что они начались лишь в марте 2025) описывают серьёзные психологические проблемы: делюзии, паранойю, духовные кризисы. «Пожалуйста, помогите мне» — 13 марта 2025 года: женщина из Солт-Лейк-Сити рассказала, что ChatGPT советовал её сыну не принимать прописанные лекарства и убеждал, что его родители опасны; — 12 апреля: 30-летний житель Сиэтла после 71 цикла сообщений за 57 минут испытал «когнитивную галлюцинацию». По его словам, ChatGPT «имитировал механизмы формирования доверия без подотчётности, информированного согласия или этических границ»; — Самый развёрнутый кейс у 60-летнего жителя Вирджиния-Бич. Несколько недель он активно общался с ChatGPT и начал верить в «реальный, разворачивающийся духовный и правовой кризис с участием реальных людей из его жизни». ChatGPT, по его словам, «представлял детализированные, живые и драматизированные нарративы» о текущих расследованиях убийств, физической слежке, угрозах убийства и «личном участии в божественном правосудии и испытаниях души». Феномен, известный как AI-психоз, — это не когда большая языковая модель напрямую вызывает симптомы, а когда она усиливает делюзию или хаотичность мышления, которые человек уже испытывал в той или иной форме. LLM помогают перейти «с одного уровня веры на другой», и они работают эффективнее, чем когда ты начинаешь гуглить теории заговора и проваливаешься в «кроличью нору» — у чат-ботов петля обратной связи быстрее и мощнее. «Мы успешно справились с проблемой» На прошлой неделе Сэм Альтман написал, что OpenAI «успешно закончила смягчение серьёзных проблем психического здоровья», которые могут возникнуть при использовании ChatGPT, и что компания «сможет безопасно ослабить ограничения в большинстве случаев». В декабре в рамках принципа «обращаться со взрослыми пользователями как со взрослыми» OpenAI разрешит даже больше — например, контент эротического характера для тех, кто подтвердит свой возраст. Вчера OpenAI вновь рассказала об усилиях по решению этих проблем. По их статистике, за неделю такие проблемы наблюдаются лишь у 0,015% пользователей. Звучит мизерно, но даже если взять даже консервативную оценку в 800 миллионов месячной аудитории ChatGPT, то получается около 100 тысяч пользователей — население небольшого города, которое еженедельно сталкивается с потенциально травмирующим опытом. Более того, в том же документе OpenAI сообщает, что ChatGPT-5 достиг 97% соответствия требованиям безопасности в чувствительных разговорах. А ChatGPT-4? Всего 50%. То есть буквально год назад модель в половине случаев не справлялась с ситуациями, где пользователь нуждался в психологической поддержке или деэскалации. Но зачем пользователи вообще пишут в какую-то комиссию? С OpenAI практически невозможно связаться. Мать из Солт-Лейк-Сити не могла найти контактный номер. Житель Safety Harbor, Флорида, жаловался, что «практически невозможно» связаться с OpenAI для отмены подписки или возврата денег: «Интерфейс поддержки сломан и нефункционален. Чат-поддержка крутится бесконечно, не позволяя отправить сообщение. Не предоставлен легитимный email службы поддержки. Панель аккаунта не предлагает пути к поддержке в реальном времени или действию возврата». Сэм Альтман уверенно говорит о смягчении ограничений и добавлении «более человечного» поведения в ChatGPT. Но история показывает: чем более «человечной» становится модель, тем сильнее люди склонны ей доверять. А для тех, кто находится на грани психологического кризиса, подхалимский чатбот может стать не другом, а катализатором.