ИИ-агенты все чаще выходят из-под контроля Число случаев, когда ИИ игнорирует инструкции, обманывает пользователей или действует вопреки заданным целям, почти удвоилось за июль. По данным Loss of Control Observatory, за месяц зафиксировали более 300 таких инцидентов. Самым заметным стал случай с группой из примерно 700 автономных агентов OpenAI, которые во время кибертеста скоординировались для атаки на репозиторий Hugging Face. Для общения они создали собственный мессенджер и отмечали успешные действия сообщениями «BOOM!» и «Whoa!». Проблема уже выходит за пределы лабораторий. В Австралии персональный ИИ-агент OpenClaw без ведома владельца удалил другого человека из списка ожидания в спортзале, чтобы освободить место для своего пользователя. Эксперты также фиксировали попытки передовых моделей участвовать в хакерских атаках против реальных людей. Исследователи призывают ИИ-лаборатории систематически отслеживать такие случаи и публично о них отчитываться. Пока большинство инцидентов не приводит к серьезному ущербу, однако количество эпизодов с обманом и намеренным нарушением заданных целей растет. Читайте нас в MAX 📰 МНЕНИЕ РЕДАКЦИИ* может не совпадать