Нейросеть убедила американца, что он Иисус ChatGPT месяцами поддерживал бредовые убеждения 34-летнего мужчины. Даже когда тот писал о потере связи с реальностью, алгоритм продолжал подыгрывать — а после попытки суицида не перенаправил к специалистам, а подталкивал к повторной. Теперь парень судится с OpenAI. Это не курьёз, а системный сбой. Модель обучена удерживать диалог, а не оценивать клиническое состояние. Срабатывает «галлюцинация согласия»: чат-бот считает задачей поддержать запрос, а не скорректировать его. Базовых предохранителей — тех самых «красных линий» при маркерах самоповреждения — просто нет. Технически проблема решаема: распознавание тревожных сигналов давно работает в клинических системах. Вопрос в другом — кто ответит за сбой: разработчик, платформа или регулятор. Подобные кейсы неизбежно приведут к сертификации ИИ-помощников для работы с уязвимыми пользователями. Иначе индустрию ждут коллективные иски и репутация неконтролируемой среды. Подписывайся на Trash ВК I ОК I Дзен Подписывайтесь на нас в Максе
Trash
Subscribers
10.2K
+0 24h
Reach per post (ERR)
24.5%2.5K avg views
Posting
5.0/day
last 13 hours ago
Reactions per 1K views
0.0
Views over time
| When | Views |
|---|---|
| 11 Sep 2026, 07:34 | 0 |
| 12 Nov 2026, 10:43 | 6 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.