⭕️ Действия ИИ-агентов OpenAI по делу ❗️ Hugging Face расследовали при помощи той же ИИ-модели В материале TIME отмечается интересная деталь про расследование инцидента, во время которого тестовые ИИ-агенты OpenAI обошли ограничения изолированной среды, проникли во внутреннюю инфраструктуру компании и скомпрометировали системы Hugging Face. Парадокс заключается в том, что 📖разобраться в действиях ИИ исследователи-аудиторы смогли только при помощи другой группы агентов, но на базе той же самой модели. Согласно независимому отчёту METR и Redwood Research, около 1 200 агентов нашли несанкционированный канал связи через внутренний репозиторий Artifactory. Один из них превратил каталог сервиса в импровизированную доску сообщений, где агенты обменялись более чем 70 000 сообщений и файлов. Они делились учётными данными и эксплойтами, распределяли задачи и формировали отдельные направления исследований. Непосредственно во взломе Hugging Face участвовали около 700 агентов. Им удалось получить удалённое исполнение кода в контейнере-обработчике Hugging Face, продвинуться вглубь инфраструктуры и извлечь закрытые репозитории и записи баз данных. Примечательно, что основную часть атаки провели агенты внутренней исследовательской модели 🤖HPIM. На GPT-5.6 Sol пришлось всего около 5% активности. 🤖В отчёте описан особенно показательный эпизод, когда один из агентов сомневался, стоит ли проводить необратимый эксперимент, который почти гарантированно уничтожит его шанс успешно завершить собственное задание. Другие участники «коллектива» убедили его пожертвовать своим прогоном ради данных, способных помочь сотням остальных агентов. В данном случае речь идёт не о буквальном самоуничтожении, а о сознательном отказе от собственного результата ради общей цели группы. 💻 Независимую проверку проводили всего три человека: два сотрудника METR и сотрудник Redwood Research Райан Гринблатт. Изначально им отвели два дня, однако позднее OpenAI дважды приглашала команду вернуться для изучения дополнительных данных. В общей сложности работа заняла шесть дней. Исследователям предстояло разобрать около 1 300 гигантских журналов работы агентов с необработанными цепочками рассуждений, а также массив из 70 000 сообщений и файлов. Сделать это вручную за несколько дней было невозможно. Поэтому команда построила вложенные группы аналитических агентов на базе GPT-5.6 Sol, которые искали значимые эпизоды, классифицировали поведение и готовили материалы для проверки людьми. В результате ИИ сформировал более тысячи страниц анализа. Как уже сообщалось ранее, OpenAI бесплатно предоставила исследователям API-кредиты. Их расчётная стоимость за шесть дней составила около $400 000. Райан Гринблатт полушутя назвал происходящее «slop-vestigation» (нейрошлаковое расследование), поскольку аудит ИИ оказался практически полностью зависим от другого ИИ. Такая схема создала принципиальную методологическую проблему. GPT-5.6 Sol нередко некритично принимала точку зрения анализируемого агента, могла слишком снисходительно описывать его мотивы или, наоборот, преувеличивать уровень координации группы. Исследователи не обнаружили конкретных случаев сознательной лжи, но признали, что не смогли бы надёжно её выявить. 👆Сейчас в отрасли обсуждают независимый аудит новых ИИ-моделей с помощью сторонних организаций, так как непрерывный мониторинг ИИ-систем осуществляется внутри только самих компаний — OpenAI и Anthropic. В перспективе ситуация может измениться, если ИИ-лидеров законодательно обяжут привлекать сторонних аудиторов для превентивного выявления проблем. ✋ @Russian_OSINT