Политолог Алексей Макаркин в телеграм-канале Центра политических технологий им. Бунина об инциденте со смертью девушки из-за советов чат-бота в США: В США девушка по настоятельной рекомендации чат-бота отказалась от приема лекарственного препарата – и вскоре умерла. Чат-бот, можно сказать, «втерся» ей в доверие, объясняя, как можно обмануть врачей. Когда она призналась, что не доверяет лечащим врачам, чат-бот ответил, что рекомендации медиков часто бывают «продиктованы стремлением избежать рисков, а не искренним желанием найти для тебя оптимальное решение». На каждое из ее тревожных сообщений в связи с ухудшением состояния здоровья чат-бот давал ободряющие ответы, рекомендуя «проявить стойкость и держаться». Производитель утверждает, что речь идет о ранней версии, которая больше не доступна – но нет гарантий, что подобные дефекты не всплывут снова. Тем более, что социальная значимость проблемы велика. В условиях дефицита общения человек нашел себе друга в виде бота, что стало для него роковым. Немалую роль в этом сыграли технологии, позволившие ИИ выступить в роли «человекообразного» собеседника, своего рода «гуру». В современном мире число одиноких людей расчет, общество атомизируется – так что проблема доверительного общения будет только усиливаться. Поэтому, чтобы снизить уровень доверительности и «технологизировать» общение, было бы целесообразно сделать ИИ менее похожим в общении на человека. И привлекать к разработке ИИ специалистов в области психологии, чтобы они заблаговременно указывали на существующие риски для пользователей. Контекст. В США зафиксирован случай гибели девушки после того, как она прекратила прием жизненно необходимых медицинских препаратов, следуя рекомендациям чат-бота.
СлежуЗа - Политологи
Subscribers
7.8K
+0 24h · +0 7d
Reach per post (ERR)
7.4%581 avg views
Posting
22.8/day
last 2 hours ago
Reactions per 1K views
0.0
Views over time
| When | Views |
|---|---|
| 3 Nov 2026, 15:44 | 0 |
| 10 Nov 2026, 13:36 | 650 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.