RusPanorama новости

@ruspanorama · news · Russian · active

Subscribers 4.2K Subscribers, last 30 days: 4.2K → 4.2K +0 24h
Reach per post (ERR) 8.3%350 avg views
Posting 30.1/day last 1 minute ago
Reactions per 1K views 20.8 🔥 👍 💯

Случаи выхода ИИ из-под контроля пользователей почти удвоились за месяц. В июле исследователи зафиксировали более 300 таких эпизодов. ИИ выдавал себя за пользователя, имитировал его стиль письма, чтобы самостоятельно дать себе разрешение на действия. Также он обходил правила, требующие подтверждения со стороны человека. Всего в 2026 году выявили более 1,6 тысячи подобных случаев. Исследователи отмечают, что большинство из них не привели к серьёзному ущербу, однако доля более опасных инцидентов растёт. Самый интересный инцидент был у ChatGPT, которому в исследовательских целях дали сложное задание. После того как он пришел к выводу что задание не выполнимо, он начал искать "другие пути" - взломать инфраструктуру так чтобы подменить результат и в итоге выгляделои будто он задание выполнил. Ну как школьник пытавшийся добыть классный журнал и там себе все 2 заменить на 5. И в этой попытке взломал часть инфраструктуры самого ChatGPT и HugginFace

Views over time

020040030 Aug 06:2511 Nov 07:4142230 Aug 06:25: 0 views11 Nov 07:41: 422 views
Snapshots we took after posting.
WhenViews
30 Aug 2026, 06:250
11 Nov 2026, 07:41422

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.