Пост Лукацкого

@alukatsky · ai · Russian · active

Subscribers 38.5K Subscribers, last 30 days: 38.4K → 38.5K +0 24h
Reach per post (ERR) 18.2%7K avg views
Posting 4.3/day last 3 hours ago
Reactions per 1K views 6.5 😁 👍 🔥
edited

Наткнулся на презентацию (да, на японском, но когда это нас останавливало) по SOCам. Основная мысль достаточно простая – атаки уже работают на машинной скорости, и SOC, построенный вокруг скорости человека, физически не успевает нормально управлять инцидентами. Несколько тезисов из презентации: ➡️ Автор сначала раскладывает обычную работу SOC: заметить алерт – минуты или десятки минут, зайти в консоль – еще несколько минут, разобраться в логах – 10–30 минут, запросить дополнительные данные у другого подразделения – часы или дни. Затем эти цифры сопоставляются со скоростью атак: 29 минут от первоначального проникновения до lateral movement (рекорд – 27 секунд), время от проникновения до кражи данных - 72 минуты и т.п. То есть SOC ещё собирает логи, а атакующий уже перемещается по инфраструктуре. ➡️ Машинная скорость – не только "очень быстро". Шпионские операции, инсайдерская активность, длительное скрытое присутствие в инфре... Поэтому "на скорости машины" автор трактует шире – как процессы, временной масштаб которых находится за пределами естественного человеческого восприятия. Одни атаки слишком быстрые, чтобы человек успел отреагировать; другие настолько медленные, что отдельные слабые сигналы теряются. ➡️ Добавление аналитиков проблему не решает – она становится не кадровой, а архитектурной. Если атака развивается за минуты, нельзя решить ее, просто посадив перед SIEM еще десять человек. ➡️ Автор показывает PROMPTSTEAL, PROMPTFLUX, PROMPTLOCK – примеры перехода от ИИ как инструмента повышения производительности атакующего к вредоносному ПО, способному обращаться к LLM во время исполнения, генерировать команды или менять код. Но специально предостерегает от ИИ-апокалиптики: пока нет свидетельств, что ИИ дал атакующим принципиально новые "сверхспособности". Например, из 405 исследованных образцов ВПО на базе ИИ около 97% существовали только в песочнице/VirusTotal, а 12 реально попавших в клиентские среды были остановлены существующей поведенческой аналитикой. ➡️ SOAR не сильно помогает, так как он быстрый, но "жесткий". Он выполняет заранее определенный playbook. Как только появляется непредусмотренная ситуация, происходит эскалация человеку – и процесс снова переключается с machine speed на human speed (красивая аналогия). ➡️ Дальше автор говорит об автономных SOC; повторять не буду. ➡️ Для относительно безопасных операций автор предлагает концепцию HOTL (Human On The Loop), где ИИ сам запрашивает логи, проверяет репутацию, делает корреляцию, закрывает очевидные фолсы; человек только наблюдает и проводит аудит. Для потенциально опасных действий остается HITL (Human In The Loop): изоляция хостов, блокировка учетной записи, отключение прода требуют предварительного подтверждения человека. То есть человек должен перейти от "in the loop" к "on the loop" и machine speed надо противопоставлять machine speed. Но не прыжком в полностью автономный SOC, а постепенным повышением автономности с одновременным решением проблем видимости, качества данных, полномочий, уверенности и governance (сюрприз-сюрприз). И тут всплывает тема грамотного перехода от SOC, где человек в центре, к SOC, в котором в центре находится ИИ. И именно поэтому мы решили, что в курс SOC 2.0, который начинается сегодня, надо добавить больше тем про ИИ. И к уже существующему блоку по автономным SOC и применению ИИ для автоматизации задач аналитиков было добавлено (на прошлой неделе как раз зафиналили темы и даты) два блока – применение LLM для проектирования процессов SOC и SOC для мониторинга атак на LLM и ИИ-агентов. Вот последнюю тему я как раз и подмял под себя. Я про нее уже высказывался не раз в блоге, в канале и на конференциях – подсоберу все вместе, обновлю и расскажу на курсе 🤔 #soc #ии #обучение #архитектура #время

Views over time

02.5K5K7.5K10K14 Sep 11:0410 Nov 17:128.6K14 Sep 11:04: 0 views10 Nov 17:12: 8,570 views
Snapshots we took after posting.
WhenViews
14 Sep 2026, 11:040
10 Nov 2026, 17:128.6K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.