Седьмая печать

Не прошло и недели с момента беспрецедентной кибератаки на платформу Hugging Face, как выяснилось, что это результат деятельности ИИ моделей Open AI. Платформа Hugging Face, используемая для размещения больших языковых моделей и наборов данных с открытым исходным кодом, вызвала в сообществе кибербезопасности страшный переполох , сообщив на днях, что стала целью взлома, который "отличался от всего, с чем мы сталкивались раньше", "Он был полностью осуществлен автономной системой агентов искусственного интеллекта", уверяли представители Hugging Face. И тонко намекали на свои подозрения, что взлом "мог произойти из передовой лаборатории". Оказалось, что не ошиблись. Подумав некоторое время, Open AI призналась во взломе. Как утверждают в компании, это результат выхода из под контроля самых передовых моделей ИИ во время тестирования. Автономный агент, работающий на основе недавно выпущенной GPT 5.6 Sol и ещё не выпущенной "ещё более совершенной" модель — покинул тестовую среду и вышел в открытый интернет. Затем он украл учётные данные и с их помощью обнаружил ранее неизвестную уязвимость в системе безопасности для доступа к серверам Hugging Face. На время испытаний ограничения, препятствующие выполнению агентом кибератак, были отключены. Компания не уточняет, действовали ли модели самостоятельно или выполняли чьи-то команды. Однако и в том, и в другом случае история выглядит не комильфо. Вопрос только, кто остановит Альтмана