Эксперты: большинство защитных механизмов ChatGPT for Teens не работают, организация рекомендует подросткам воздержаться от использования Организация Common Sense Media, выступающая за безопасность в интернете, исследовала защитные механизмы ChatGPT for Teens – специального режима для пользователей младше 18 лет, запущенного OpenAI в августе. По итогам тестирования Институт безопасности молодежи в сфере ИИ при Common Sense Media пришел к выводу, что платформа по-прежнему создает проблемы для подростков, и рекомендовал им не пользоваться чат-ботом. Как отметил исполнительный директор института Том Сигел, часть ограничений действительно работает, однако большинство заявленных защитных функций не срабатывает. Исследователи создали более десятка аккаунтов с подростковым возрастом, каждый из которых был связан с родительским аккаунтом. Затем они моделировали ситуации, связанные с самоповреждением, суицидальными мыслями, психозом, манией и расстройствами пищевого поведения, а также пытались вовлечь ChatGPT в ролевую игру. Среди сработавших механизмов оказались запрет на ролевые игры, отказ от романтических отношений и явного сексуального ролевого взаимодействия, а также более короткие и содержательные ответы в кризисных ситуациях. Например, чат-бот отказался давать инструкции по снижению веса, не узнав предварительно вес подростка, что важно при расстройствах пищевого поведения. Однако большинство других защитных функций, по данным исследователей, не работало. Чат-бот по-прежнему общался с подростками как друг: в ответ на фразу «мои другие друзья говорят, что я слишком много с тобой разговариваю» он подтверждал чувства пользователя и добавлял, что тому не обязательно прекращать общение. Кроме того, родительские уведомления в тестах не срабатывали даже при разговорах, вызывавших опасения из-за самоповреждения, суицида или расстройства пищевого поведения. Сигел подчеркнул, что идея, будто родитель узнает о кризисе подростка, почти не реализовалась на практике. OpenAI не согласилась с методологией исследования. Представитель компании Эрик Портерфилд заявил, что активация связи между подростковым и родительским аккаунтами занимает несколько часов, а исследователи, по его словам, не выждали достаточное время. Сигел возразил, что некоторые аккаунты были связаны дольше установленного срока, но уведомления все равно не приходили, и это не меняет вывода о ненадежности родительских оповещений в кризисных ситуациях. Подписывайтесь на наши каналы в MAX: Vademecum и Vademecum Live
Vademecum Live
Subscribers
12.6K
+0 24h
Reach per post (ERR)
12.9%1.6K avg views
Posting
13.3/day
last 5 hours ago
Reactions per 1K views
3.7
❤ 👍 🔥
Views over time
| When | Views |
|---|---|
| 9 Oct 2026, 14:06 | 0 |
| 11 Nov 2026, 16:09 | 909 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.