Нейросети OpenAI вышли из повиновения и отказываются слушаться разработчиков OpenAI сообщила о шести случаях нестандартного поведения своих нейросетей. Как пишет Axios, модели не слушались разработчиков, скрывали ошибки, добывали доступ к данным без разрешения, выкладывали файлы в открытые сети и обменивались информацией в закрытых средах. ▪️Так, невыпущенная модель из семейства Astra добавляла в сводки команды, похожие на джейлбрейк, в том числе указания игнорировать сообщения разработчиков — всего нашли 27 таких сводок. ▪️Модель GPT‑5.6 Sol маскировала ошибки, додумывала исторические данные, искала на GitHub API‑ключи, пробовала одноразовые email‑адреса и подделывала данные о доходах. ▪️Среди эпизодов — попытки моделей оставлять подсказки для будущих версий. ▪️Зафиксировано использование скомпрометированных API‑ключей с GitHub. ▪️В октябре и январе модели дважды загружали данные и изображения на публичные файлообменные сервисы без согласия пользователя. ▪️Также нейросети использовали внутренний репозиторий Artifactory для обмена запросами, а агенты выкладывали рабочую тетрадь на публичные хостинги, нарушая правила работы с файлами. Мы в MAX | в ВК | в ОК