Гостев из будущего

💫 Все развивается очень стремительно. То, что ты сначала видишь как прогноз, через несколько дней становится реальностью. Так что текст ниже это не предсказание — это записки из будущего 🤓 ИИ-инфраструктура как следующий таргет для киберпреступности Доступ к мощным frontier-моделям стоит денег, да еще и предоставляется не всем — примеры Mythos и GPT Cyber показывают как будет развиваться идея — в спецмодели для спец индустрий. Это классическая формула для киберпреступников: есть ценный ресурс с барьером доступа → будет атака. Исторически так происходило с каждым новым дефицитным ресурсом: чужие CPU майнили биткоин, чужие серверы рассылали спам, чужие аккаунты стримили контент. ИИ-вычисления — следующий в очереди. И в отличие от предыдущих волн, здесь ставки интересней: мощные модели могут сами помогать атакующему масштабировать следующие атаки. Векторы потенциальных атак: ❗️Кража API-ключей и credential stuffing Самый очевидный вектор. Ключи утекают через открытые GitHub-репозитории, скомпрометированные CI/CD пайплайны, фишинг. Атакующий получает доступ к чужому аккаунту и использует квоту — жертва узнаёт из счёта в конце месяца. ❗️Компрометация self-hosted инфраструктуры Компании всё активнее разворачивают модели локально — Ollama, vLLM, LM Studio. Открытые порты, дефолтные конфиги, отсутствие аутентификации. Атакующий находит незащищённый эндпойнт через Shodan и получает бесплатный инференс или использует его как анонимный прокси для вредоносных запросов. ❗️Атаки на облачные GPU-пулы Захват инстансов с A100/H100 через уязвимости в оркестраторах. Цель — не данные, а вычислительная мощность. Дообучение модели на украденных GPU — это тысячи долларов сэкономленных ресурсов. ❗️Supply chain через вендоров Предположим что периметр AI-компаний защищён лучше, чем их подрядчики. Вектор входа — среда третьей стороны с доступом к модели. Вчерашняя история про получение не пойми кем доступа к Mythos — как раз про это. ❗️Prompt injection как lateral movement В агентных системах инструкции из внешних источников переопределяют поведение агента: отправка данных на внешний сервер, выполнение команд в терминале, изменение файлов. (Продолжение следует) @gostev_future