SecAtor

Исследователи Google Threat Intelligence Group (GTIG) предупреждают о более активном переходе злоумышленников от программистов-ассистентов на базе ИИ к многоагентным системам, автоматизирующим каждый этап атаки. Используя телеметрию по результатам реагирования на инциденты, данные отслеживания злоумышленников и информацию о работе платформ в режиме реального времени, Google наблюдала, как агенты ИИ координируют выполнение нескольких задач атаки, устраняют неполадки и адаптируют свои действия с минимальным участием человека. За последний квартал злоумышленники вышли за рамки простых взаимодействий с LLM на основе подсказок и интегрировали возможности ИИ в различные этапы жизненного цикла атаки. Традиционная автоматизация на основе скриптов уже давно является неотъемлемой частью операций киберпреступников, однако группы все чаще модернизируют эти рабочие процессы, создавая высокоавтономные системы, способные анализировать сложные задачи и принимать динамические решения без необходимости человеческого контроля. В одном из таких инцидентов злоумышленник, преследующий финансовые мотивы, скомпрометировал облачную инфраструктуру организации и развернул автономную многоагентную систему. По данным Google, менее чем за шесть часов злоумышленник спланировал, разработал и развернул масштабную кампанию по сбору учетных данных, используя чат-бота с ИИ, подсказку и инструкции от Markdown-агента. Агенты ИИ управляли процессом сканирования уязвимостей, собирали тысячи учетных данных сторонних источников, устраняли неполадки в режиме реального времени, меняли IP и направляли трафик атак через легитимные, скомпрометированные облачные среды, чтобы избежать обнаружения. Такой подход значительно сократил задержку, связанную с участием человека в процессе, и уменьшил временные рамки для реагирования защитников. В другом инциденте исследователи обнаружили незащищенный сервер C2, на котором размещалась автоматизированная система разведки и управления учетными данными под названием Recon. В его файлах содержались инструкции для агентов ИИ, файлы знаний и артефакты OpenClaw, относящиеся к фреймворку, который в режиме реального времени обрабатывал более 23 800 собранных секретов, таких как ключи API. В отчете GTIG отмечаются и другие примеры, когда связанные с Китаем APT-группировки экспериментировали с инструментами разработки на основе ИИ для создания автоматизированной системы эксплуатации и постэксплуатации с использованием ИИ. Исследователи утверждают, что другие шпионские группы интегрировали модели ИИ для автоматизации работы ботов-наблюдателей, которые искали в каналах Telegram информацию, представляющую интерес для правительства. Однако GTIG подчеркивает, что полностью автономный взлом еще не получил широкого распространения, а случаев развертывания злоумышленниками полностью автономных конвейеров для обнаружения 0-day и эксплуатации сетей против реальных целей еще фиксировалось. Компания также отметила, что Gemini выявила многие из этих злоупотреблений на ранней стадии и отреагировала в соответствии с протоколами безопасности, что позволило Google принять дополнительные меры, пресечь кампании и заблокировать связанные с ними учетные записи. Злоупотребление инструментами ИИ также наблюдалось в атаках на цепочки поставок, проводимых UNC6780 (TeamPCP), в операциях Gemini по дистилляции ИИ с использованием 100 млн. запросов, а также на рынке украденных учетных данных и ключей API для ИИ. Кроме того, APT-группировки продолжают использовать ИИ для разведки, фишинга, разработки вредоносного ПО, эксплуатации уязвимостей, постэксплуатации, обработки данных и пропаганды.