Наткнулся на презентацию (да, на японском, но когда это нас останавливало) по SOCам. Основная мысль достаточно простая – атаки уже работают на машинной скорости, и SOC, построенный вокруг скорости человека, физически не успевает нормально управлять инцидентами. Несколько тезисов из презентации: ➡️ Автор сначала раскладывает обычную работу SOC: заметить алерт – минуты или десятки минут, зайти в консоль – еще несколько минут, разобраться в логах – 10–30 минут, запросить дополнительные данные у другого подразделения – часы или дни. Затем эти цифры сопоставляются со скоростью атак: 29 минут от первоначального проникновения до lateral movement (рекорд – 27 секунд), время от проникновения до кражи данных - 72 минуты и т.п. То есть SOC ещё собирает логи, а атакующий уже перемещается по инфраструктуре. ➡️ Машинная скорость – не только "очень быстро". Шпионские операции, инсайдерская активность, длительное скрытое присутствие в инфре... Поэтому "на скорости машины" автор трактует шире – как процессы, временной масштаб которых находится за пределами естественного человеческого восприятия. Одни атаки слишком быстрые, чтобы человек успел отреагировать; другие настолько медленные, что отдельные слабые сигналы теряются. ➡️ Добавление аналитиков проблему не решает – она становится не кадровой, а архитектурной. Если атака развивается за минуты, нельзя решить ее, просто посадив перед SIEM еще десять человек. ➡️ Автор показывает PROMPTSTEAL, PROMPTFLUX, PROMPTLOCK – примеры перехода от ИИ как инструмента повышения производительности атакующего к вредоносному ПО, способному обращаться к LLM во время исполнения, генерировать команды или менять код. Но специально предостерегает от ИИ-апокалиптики: пока нет свидетельств, что ИИ дал атакующим принципиально новые "сверхспособности". Например, из 405 исследованных образцов ВПО на базе ИИ около 97% существовали только в песочнице/VirusTotal, а 12 реально попавших в клиентские среды были остановлены существующей поведенческой аналитикой. ➡️ SOAR не сильно помогает, так как он быстрый, но "жесткий". Он выполняет заранее определенный playbook. Как только появляется непредусмотренная ситуация, происходит эскалация человеку – и процесс снова переключается с machine speed на human speed (красивая аналогия). ➡️ Дальше автор говорит об автономных SOC; повторять не буду. ➡️ Для относительно безопасных операций автор предлагает концепцию HOTL (Human On The Loop), где ИИ сам запрашивает логи, проверяет репутацию, делает корреляцию, закрывает очевидные фолсы; человек только наблюдает и проводит аудит. Для потенциально опасных действий остается HITL (Human In The Loop): изоляция хостов, блокировка учетной записи, отключение прода требуют предварительного подтверждения человека. То есть человек должен перейти от "in the loop" к "on the loop" и machine speed надо противопоставлять machine speed. Но не прыжком в полностью автономный SOC, а постепенным повышением автономности с одновременным решением проблем видимости, качества данных, полномочий, уверенности и governance (сюрприз-сюрприз). И тут всплывает тема грамотного перехода от SOC, где человек в центре, к SOC, в котором в центре находится ИИ. И именно поэтому мы решили, что в курс SOC 2.0, который начинается сегодня, надо добавить больше тем про ИИ. И к уже существующему блоку по автономным SOC и применению ИИ для автоматизации задач аналитиков было добавлено (на прошлой неделе как раз зафиналили темы и даты) два блока – применение LLM для проектирования процессов SOC и SOC для мониторинга атак на LLM и ИИ-агентов. Вот последнюю тему я как раз и подмял под себя. Я про нее уже высказывался не раз в блоге, в канале и на конференциях – подсоберу все вместе, обновлю и расскажу на курсе 🤔 #soc #ии #обучение #архитектура #время