SecAtor

Исследователи Лаборатории Касперского рассказали про безопасное внедрение ИИ-агентов, делая акцент на том, как защитные решения митигируют ИИ-угрозы. ИИ-агенты и связанные с ними инструменты все активнее используются в корпоративной инфраструктуре, позволяя выполнять различные действия с правами пользователя, в том числе обращаться к данным, запускать команды и взаимодействовать с внешними сервисами. Все это создает и новые риски в части ИБ, особенно если использование таких инструментов реализуется вне контроля службы ИБ и без применения проработанных политик безопасности. Так что обнаружение, отслеживание и контроль ИИ-агентов становятся одной из насущных задач команд ИБ в настоящее время. В новом материале ЛК рассказала о новом экспертном наполнении ее продуктов, позволяющих комплексно бороться с угрозами, связанными с распространением ИИ-агентов. В частности, в первую очередь необходимо хорошо понимать угрозу: для этого на портале Kaspersky Threat Intelligence добавлены профили с описаниями различных ИИ-агентов и способами их эксплуатации злоумышленниками. ИИ-агенты по своей сути являются программами (процессами), которые выполняются в операционной системе на конечных устройствах и могут запускать другие процессы. Таким образом, решения класса EDR являются в контексте этой угрозы одним из ключевых средств контроля на конечных устройствах. Они способны выявлять наличие и запуск ИИ-агентов, отслеживать их активность и детектировать потенциально опасное поведение, а при необходимости обеспечивать реагирование - остановку подозрительного процесса, блокировку активности или изоляцию хоста. Собственно, для этих целей в ЛК разработали специальные адаптированные детектирующие правила. Для контроля и ограничения запуска ИИ-агентов целесообразно использовать возможности Kaspersky Security для бизнеса. Решение позволяет обнаруживать наличие ИИ-агентов и регулировать работу с ними при помощи компонентов «контроль приложений» (категоризация запускаемых процессов приложений на конечных устройствах), и «веб-контроль» (управление доступом пользователей на конечных устройствах к определенным категориям веб-ресурсов). Наконец, безвредные ИИ-агенты могут содержать вредоносные инструкции (скиллы), например, загруженные из небезопасных внешних источников. Kaspersky Scan Engine анализирует установленные приложения для выявления подобных угроз, а также отслеживает файлы LLM-моделей на предмет вредоносного кода. Кроме того, ЛК представила отдельный документ под названием Безопасное внедрение облачных ИИ-агентов в процессы разработки: опыт «Лаборатории Касперского. В нем рассматриваются основные риски, связанные с внедрением облачных ИИ-агентов в процессы разработки ПО, а также подходы ЛК к их снижению на конкретных примерах. Приведены практические решения из опыта внедрения ИИ-инструментов в процессы разработки, а также чек-лист с рекомендациями, специфичными для использования облачных моделей. В общем, чтобы использовать все преимущества технологии без ущерба для безопасности, важно выстроить многоуровневую защиту и минимизировать риски: как и чем конкретно могут помочь различные решения ЛК - в новом материале.