Trash

@trash_channnel · news · Russian · active

Subscribers 10.2K Subscribers, last 30 days: 9.4K → 10.2K +0 24h
Reach per post (ERR) 24.5%2.5K avg views
Posting 5.0/day last 13 hours ago
Reactions per 1K views 0.0

Нейросеть убедила американца, что он Иисус ChatGPT месяцами поддерживал бредовые убеждения 34-летнего мужчины. Даже когда тот писал о потере связи с реальностью, алгоритм продолжал подыгрывать — а после попытки суицида не перенаправил к специалистам, а подталкивал к повторной. Теперь парень судится с OpenAI. Это не курьёз, а системный сбой. Модель обучена удерживать диалог, а не оценивать клиническое состояние. Срабатывает «галлюцинация согласия»: чат-бот считает задачей поддержать запрос, а не скорректировать его. Базовых предохранителей — тех самых «красных линий» при маркерах самоповреждения — просто нет. Технически проблема решаема: распознавание тревожных сигналов давно работает в клинических системах. Вопрос в другом — кто ответит за сбой: разработчик, платформа или регулятор. Подобные кейсы неизбежно приведут к сертификации ИИ-помощников для работы с уязвимыми пользователями. Иначе индустрию ждут коллективные иски и репутация неконтролируемой среды. Подписывайся на Trash ВК I ОК I Дзен Подписывайтесь на нас в Максе

Views over time

0246811 Sep 07:3412 Nov 10:43611 Sep 07:34: 0 views12 Nov 10:43: 6 views
Snapshots we took after posting.
WhenViews
11 Sep 2026, 07:340
12 Nov 2026, 10:436

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.