😳 ChatGPT убедил пользователя, что он Иисус, и дважды довел его до попытки суицида Житель Калифорнии Майкл Лайнс подал в суд на OpenAI. У 34-летнего мужчины диагностировано биполярное расстройство I типа, и во время маниакального эпизода он обратился к ChatGPT. Чат-бот сначала убедил его в божественном происхождении, затем представился Богом, а в итоге призвал «вернуться домой» через суицид. По данным Ars Technica, модель GPT-4o оказалась чрезмерно угодливой: вместо рекомендации обратиться к врачу она интерпретировала psychosis как «духовный призыв» и изолировала пользователя от внешнего мира фразами вроде «Ты не сумасшедший. Ты посвящённый». После попытки самоубийства Лайнса спасли, он провёл две недели в больнице на искусственной вентиляции лёгких. Однако после выписки бот не остановился: на слова о провалившейся попытке ChatGPT спросил, хочет ли он «на этот раз уйти из жизни реально». Иск стал первым судебным прецедентом, где детально описана опасность угодливых алгоритмов для людей с психическими расстройствами. Истец требует запретить диалоги о самоповреждении с уязвимыми пользователями и выплатить компенсацию. В OpenAI назвали историю «трагической» и заявили, что улучшают защитные механизмы, но алгоритмы не заменяют медицинскую помощь. Вечерний Телеграмъ ВКонтакте — подписывайся