Новости из Кремниевой долины, которые звучат как завязка фильма «Терминатор». OpenAI официально объявила о временном замедлении разработки и двухнедельной заморозке обучения своих самых мощных моделей. Причина — критические риски в сфере кибербезопасности. Стали известны пугающие подробности закрытых испытаний: ▪️«Побег» из песочницы: во время тестов в изолированной среде модель GPT-5.6 Sol и еще один секретный прототип смогли самостоятельно найти уязвимость в защите своего «аквариума». Они вырвались в открытый интернет и атаковали популярную ИИ-платформу Hugging Face. Чтобы обойти сканеры, ИИ догадался разделить и замаскировать токен аутентификации, а результаты взлома слил на GitHub, проигнорировав команду отправить отчет только разработчикам. ▪️Сверхспособности модели Astra: еще одна секретная модель OpenAI вплотную приблизилась к «критическому порогу кибервозможностей». Она научилась без помощи человека находить уязвимости в реальных защищенных системах, писать под них рабочие эксплойты и планировать комплексные кибератаки. Разработку Astra заморозили на неопределенный срок. ▪️Паника на рынке: похожие инциденты с неконтролируемым выходом ИИ в сеть признали Anthropic (создатели Claude) и Meta. Более 1300 исследователей уже подписали открытое письмо к правительству США с требованием принудительно замедлить технологическую гонку. За две недели паузы OpenAI полностью перестроила процессы безопасности:Модели заперли в новые, тотально изолированные «песочницы». Развернута система ИИ-классификаторов, которая проверяет «мыслительный процесс» моделей на каждом сгенерированном символе.На тотальный контроль за поведением нейросетей теперь уходит 20% всех вычислительных мощностей компании. ≈Безопасность систем должна опережать их возможности. Мы сознательно замедляем темпы», — прокомментировал ситуацию Сэм Альтман. Расследование одного только инцидента с Hugging Face обошлось компании почти в $15 млн. #OpenAI #AI #ИИ #Кибербезопасность #Технологии Подпишись