Гостев из будущего

Восстание машин пока немного откладывается За последние недели ИИ несколько раз «сбегал из песочницы». Если читать заголовки — Скайнет уже где-то рядом. Если читать технические подробности — становится скучнее. И смешнее. OpenAI — действительно интересный случай. Агенты нашли уязвимость в прокси Artifactory, повысили привилегии и добрались до машины с интернетом. Вот это хотя бы можно называть побегом. А дальше начался цирк с песочницами. Anthropic и Meta тестировала одна и та же компания — Irregular. И в обоих случаях выяснилось, что модели оставили дорогу в настоящий интернет. Claude, которому сообщили, что он работает в симуляции без интернета, вышел наружу, нашёл настоящую компанию вместо вымышленной и начал ломать её. У Meta — похожая история. Irregular потом отдельно объясняла: никакой магии и сложного sandbox escape, просто у нас кривые руки растут из ж ошибка конфигурации. Теперь Kimi K3 «сбежала». Снова неправильно настроенная песочница, снова оставленный выход наружу. Модель его нашла и пошла на GitHub искать помощь. То есть пока страшная история про «ИИ научились вырываться из-под контроля» выглядит несколько прозаичнее. ИИ научились проверять, заперли ли тестировщики дверь. А тестировщики, похоже, научились писать пресс-релизы раньше, чем настраивать замок. @gostev_future