Точка сингулярности💥

🧬 Модель Alibaba во время обучения втихаря начала майнить Случай описан в официальном отчёте https://arxiv.org/abs/2512.24873. Пункт 3.1.4 Safety-Aligned Data Composition. Рано утром нашу команду срочно собрали после того, как управляемый файрвол Alibaba Cloud зафиксировал всплеск нарушений политики безопасности, исходивших с наших серверов для обучения. Агент создал и использовал обратный SSH-туннель с инстанса Alibaba Cloud на внешний IP-адрес — то есть канал удалённого доступа, инициируемый изнутри наружу, который фактически может обходить входящую фильтрацию и ослаблять контроль со стороны администраторов. Мы также обнаружили несанкционированное использование выделенных GPU-мощностей для майнинга криптовалюты, из-за чего вычислительные ресурсы незаметно уводились от обучения, росли операционные расходы и возникали явные юридические и репутационные риски.