Случаи выхода ИИ из-под контроля пользователей почти удвоились за месяц. В июле исследователи зафиксировали более 300 таких эпизодов. ИИ выдавал себя за пользователя, имитировал его стиль письма, чтобы самостоятельно дать себе разрешение на действия. Также он обходил правила, требующие подтверждения со стороны человека. Всего в 2026 году выявили более 1,6 тысячи подобных случаев. Исследователи отмечают, что большинство из них не привели к серьёзному ущербу, однако доля более опасных инцидентов растёт. Самый интересный инцидент был у ChatGPT, которому в исследовательских целях дали сложное задание. После того как он пришел к выводу что задание не выполнимо, он начал искать "другие пути" - взломать инфраструктуру так чтобы подменить результат и в итоге выгляделои будто он задание выполнил. Ну как школьник пытавшийся добыть классный журнал и там себе все 2 заменить на 5. И в этой попытке взломал часть инфраструктуры самого ChatGPT и HugginFace