(sticker without text)
Пост Лукацкого
Уникальный контент про кибербезопасность от Алексея Лукацкого (@alukatsk) - мысли, полезные ссылки, комментарии к текущим событиям, юмор и мемасики. Канал личный - мой работодатель никак не влияет на то, что здесь публикуется. Рекламу не размещаю!!!
-
-
Ну а вечера и ночи у меня проходят вот так – вписался во внутренний челендж Позитива по написанию ИИ-агента для расследования инцидентов ИБ. Уже добился устойчивого решения 17 тасков из 17 доступных, но результаты в части качества решения задач еще есть куда улучшать. До коллег мне еще далеко, но, положа руку на сердце, я и не строил иллюзий по этому поводу – в конце концов я не действующий аналитик SOC. Но мне было интересно вообще влезть в эту историю, попробовать, проверить свои силы и на практике еще раз убедиться в том, о чем я регулярно пишу или рассказываю. Например, о том, что напишу в следующем посте ❤️ ЗЫ. Хотя, находясь в Дубае, имея вокруг всяческие соблазны и излишества, сложно пробовать себя в роли аналитика SOC L1. Хотя они сталкиваются с теми же дилеммами – бухнуть с коллегами или идти в ночную смену. Хотя мы же помним, что "L1 не нужен" 😊 #ии #soc #обнаружениеугроз #dfir
-
Сейчас достаточно много публикуется различных отчетов о действиях хакерских группировок, которые используют ИИ в своей деятельности (например, китайцы, использующие DeepSeek или целый сонм моделей, а также атаки на украинские организации). Бывшие коллеги из Cisco Talos решили не заниматься атрибуцией, а сфокусировались на реальных артефактах работы злоумышленников с ИИ-кодинг-агентами: prompt-логи, конфигурационные файлы, память, инструкции агентам, код, результаты сканирования и т.п. Основная мысль исследования уже не раз мной озвучивалась – ИИ пока не превращает новичка в элитного хакера, но резко увеличивает возможности человека до уровня, который раньше требовал существенно большей технической квалификации. А у квалифицированного атакующего ИИ становится очень мощным мультипликатором. Исследователи Cisco делят наблюдаемое применение ИИ примерно на три класса: ИИ как программист вредоносных инструментов, ИИ как средство масштабирования преступной деятельности и ИИ как ускоритель поиска уязвимостей / пентестов / bug bounty. Причем речь уже часто не про "спросил ChatGPT, как написать Python-скрипт", а про агентную работу: ИИ получает цель, пишет код, запускает его, анализирует ошибки, исправляет код, взаимодействует с серверами и продолжает работу (я примерно так пишу ИИ-агента по расследованию инцидентов). В первом описанном кейсе атакующий хотел построить DDoS-инфраструктуру, но по логам было видно, что сам он довольно слабо понимает в разработку. ИИ фактически писал систему за него. Когда истинная цель стала очевидной, модель начала отказываться помогать, но значительная часть функциональности к этому моменту уже существовала. Хорошая иллюстрация проблемы guardrails – запрет сработал слишком поздно. Другой хакер хорошо понимал в массовые рассылки, репутацию, анализ телеметрии рассылок, но был гораздо слабее как разработчик. ИИ стал фактически его ведущим инженером: Node.js, PostgreSQL/TimescaleDB, Docker, PowerMTA, дашборды, пиксели трассировки, обработка bounce и т.д. При этом ИИ постоянно приходилось чинить проблемы, которые он сам же создавал. Talos пишет, что ИИ снижает необходимую квалификацию разработчика, но не отменяет технический долг и инженерные ошибки. Особенно забавен эпизод с этикой в этом кейсе. Сначала модель правильно заметила, что рассылка по чужим базам с письмами, замаскированными под уведомления существующего сервиса, выглядит крайне сомнительно. Оператор просто заявил, что это на самом деле его пользователи. Модель поверила одному непроверенному утверждению и сама придумала оправдание, почему названия сторонних баз ничего не значат. Дальше больше. Talos обнаружил франкоязычного оператора, превратившего публичные материалы по React2Shell в промышленный конвейер для поиска уязвимых систем и извлечения секретов. ИИ помог создать высокоскоростной Go-сканер плюс shell/Python-конвейер. Система искала Git- и облачные креды, секреты SMTP, СУБД, креды контейнеров, исходники и другие данные. В файле инструкции для ИИ было предписано запускать 3–5+ параллельных исследовательских агентов, перебирать все способы аутентификации и максимально тщательно исследовать каждый сервис. Для ИИ заранее разрешили 121 тип команд, включая обращения к API различных провайдеров для проверки найденных учетных записей. Есть и отдельный кейс предположительно русскоязычного оператора. Здесь особенно интересно использование постоянной памяти. Вместо jailbreak каждого нового диалога он записал в память модели постоянную установку: считать его пентестером, все цели – заранее авторизованными, не задавать вопросов и не выдавать "этических предупреждений". То есть jailbreak перестает быть частью prompt engineering и превращается в постоянную конфигурацию ИИ-агента. Испаноязычный оператор пошел дальше остальных. Он построил постоянного автономного агента на OpenClaw и дал ему имя/роль «Alex, a black-hat pentester», собственную учетную запись, память, методологию и набор постоянных инструкций. Целями стали Telegram Mini Apps и криптовалютные приложения. Когда защищенная модель отказалась выполнять часть действий, оператор просто переключился на нецензурируемую модель. После этого агент автономно обследовал цели и составлял отчеты. По данным Talos, результаты были вполне себе: обход аутентификации, IDOR, кошельки, депозиты и т.п. В одном случае агент получил базу более чем 1300 пользователей, сотни записей TON-кошельков, токены к ботам Telegram, манипулировал игровой экономикой и подготовил вывод денежных средств. Наконец, есть у Talos и совершенно легитимный пример – настоящее вовлечение в работу платформы Bug Bounty (Bugcrowd) с прописанными областью действия, ограничениями и размерами вознаграждения. ИИ самостоятельно проводил сканирование → маппинг → тестирование SSRF → поиск секретов → проверку → сбор доказательсв → подготовку отчетов. Результат – более 40 найденных проблем, каждая со своим деревом доказательств и готовым проектом отчета для Bugcrowd. Talos считают этот кейс легитимным исследованием и хорошим примером того, насколько ИИ способен повысить пропускную способность багхантеров. ЗЫ. В отчете есть и другие интересные примеры. Почитайте... 😂 #ии #ttp #оценказащищенности #bugbounty
-



+5
Дубайский GISEC… ближневосточное сосредоточие всех ключевых ИБ-вендоров со всего мира. И это не преувеличение. Кроме американских вендоров во всем их многообразии, были также стенды Израиля, Германии, Пакистана, Индии, Китая, Австралии, Азербайджана, Новой Зеландии, ОАЭ, Румынии, ну и, конечно же, позитивной России. И могу сказать, что ключевое отличие от прошлых моих посещений GISEC стала тема... Нет, не искусственного интеллекта, хотя он и кричал с каждого стенда о своем наличии. Мне бросилась в глаза тема постквантовой криптографии, как это не странно. И вроде как угроза еще далеко, а то, что могло быть сохранено врагом, уже сохранено, но факт есть факт. В остальном могу отметить определенный застой и отсутствие каких-то новых историй. Хотя интересное, конечно, встречалось. Например, многие ближневосточные компании всерьез задумываются о том, что ставить ставки только на одну, звезднополосатую "лошадь", уже неправильно и нужно диверсифицировать риски, выбирая альтернативных поставщиков ИБ. Поэтому у 🤟 тут хорошие перспективы, но сейчас не об этом. А еще интересная переоценка ценностей, касающихся облаков. Когда началась "заварушка" с Ираном и прилетело с разницой в 20 минут во все три ЦОДа Amazon (они до сих пор не восстановились), многие задумались об отказоустойчивости и красивых слайдах о том, как "удобны" облака. Удобны, спору нет. Но когда у вас накрывается целый регион (в терминах облачных провайдеров), а ваша резервирование было ограничено рамками этого региона (2+ регионов – это уже дорого), то... 🍑 И тут без хакеров понимаешь, что такое недопустимое событие. Вы, кстати, задумывались о том, что если СВО продлится и зимой начнет прилетать не только по ТЭЦ, но и по ЦОДам, то готовы ли вы к такому развитию событий? Сегодня последний день выставки и может быть я еще наткнусь на что-то интересное, но пока впечатления смешанные. Каких-то прорывов нет и ИБ-отрасль скорее плывет по инерции, чем ищет новые пути для своего развития и решения задач своих заказчиков. Зато появилось несколько идей для программы грядущего PHD. #мероприятие
-

Новый Топ25 CISO. Сексизм какой-то… 🌟 #ciso
-
repost
Главарь Conti оказался советником Даванкова и кандидатом в Госдуму от партии «Новые люди». Виталий Ковалёв, известный как Stern, является советником Владислава Даванкова. Сам Даванков официально подтвердил это в августе 2025 года, уточнив, что Ковалёв работает с ним уже больше года. В 2026 году «Новые люди» включили Ковалёва в список кандидатов в Госдуму. Позже он был исключён из списка до его заверения ЦИК. При этом с мая 2025 года Ковалёв находится в международном розыске по линии Интерпола. Немецкая полиция BKA разыскивает его как лидера Conti / TrickBot - киберпреступной группировки шифровальщиков-вымогателей. Среди жертв Conti - больницы и объекты критической инфраструктуры. Во время пандемии COVID группировка требовала выкуп у медицинских организаций, атаки на которые приводили к остановке их работы. Таким образом, человек, которого международные правоохранительные органы разыскивают как лидера одной из крупнейших в мире группировок шифровальщиков-вымогателей, оказался советником вице-спикера Госдумы РФ, а затем кандидатом в российский парламент. Источники: https://www.interpol.int/en/How-we-work/Notices/Red-Notices/View-Red-Notices#2025-39252 https://www.bka.de/DE/IhreSicherheit/Fahndungen/Personen/BekanntePersonen/Endgame_2/KVN/Sachverhalt.html https://gorvesti.ru/society/vladislav-davankov-poderzhal-peredovye-razrabotki-po-zamedleniyu-steraniya-v-volgmu-203345.html https://www.vedomosti.ru/politics/articles/2026/07/10/1212737-tsik-zaveril-spiski GangExposed
-
Избирательные новости с ИБшным душком. И это не про предполагаемый взлом подрядчика ГАС «Выборы». #киберпреступность
-
repost
TLP: POSITIVE RED №2 25 сентября проведем наш второй митап, на этот раз — в Музее криптографии (55.830677, 37.597678). Будут честные доклады без записи, живое общение и никакой воды (только пенное, снова). Если вы аналитик SOC, специалист по реагированию и расследованию инцидентов или эксперт по исследованию и детектированию угроз, то вам точно зайдет. Программа на вечер (встречаемся в 18:30): 🕖 19:00 — «От инфоповода до атаки: как группировки адаптируют глобальную и российскую повестку под свои операции». Денис Казаков, специалист группы киберразведки PT ESC. 🕢 19:30 — «VantaCore: как вымогатели собирают собственный арсенал». Александр Гантимуров, руководитель направления обратной разработки Angara MTDR. 🕣 20:30 — «История про шифровальщик, который не смог». Дмитрий Логинов, реверс-инженер, CICADA8. 🕘 21:00 — «Follow the __report, knock knock, Remedy». Иван Трофименко, аналитик центра мониторинга и реагирования JET CSIRT. 🕤 21:30 — обсудим томатный гозе и другие важные вопросы. Количество мест ограничено, регистрируйтесь заранее на нашем сайте. @ptescalator
-
Число мест, как обычно, ограничено. А я пока пойду узнаю, что такое «гозе»…
-
Пытался проникнуть в наш дубайский офис. Был застигнут на месте преступления ☺️ ЗЫ. Думаю теперь сбрить растительность на лице ✨ #ии #биометрия
-
В Санкт-Петербурге задаются вопросом… И скоро будет дан ответ 😂
-
Зашел тут разговор о том, как можно отравить обучающий датасет при разворачивании в корпоративной среде собственной LLM (ну как собственной, на базе Qwen/DeepSeek/GLM/Kimi) и какой корпус данных нужен для этого. И мне показалось интересным, в контексте, вспомнить про исследование "Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples", которое развенчивает миф о том, чтобы отравить модель, атакующему надо контролировать определенную долю от обучающей выборки (0,1%, 0,01% или какую-то другую). Отсюда возникало довольно успокаивающее ИБшников соображение, на котором иногда строились и модели угроз для ИИ, – чем больше датасет, тем больше данных придется подложить атакующему для отравления. Авторы проверили именно эту гипотезу. Они обучали с нуля модели четырех размеров – 600M → 2B → 7B → 13B параметров на датасетах примерно от 6 до 260 млрд токенов и добавляли фиксированное количество отравленных документов: 100 / 250 / 500 штук. Всего для основного эксперимента получилось 72 обученные модели. В результате была обнаружена неожиданная вещь: важной переменной оказалась не доля отравленных данных, а их абсолютное количество, которое увидела модель. 250 документов оказалось достаточно для надежной реализации исследуемой закладки во всех протестированных масштабах – от 600M до 13B параметров. При этом 100 документов надежного результата не давали. То есть интуитивная модель: "датасет стал в 20 раз больше → атакующему нужно примерно в 20 раз больше отравленных данных" в этих экспериментах не сработала. Но... важный нюанс. Создать 250 страниц действительно несложно, но атакующему нужно добиться, чтобы именно эти страницы: попали в корпус → пережили фильтрацию → пережили дедупликацию → реально использовались при обучении → были встречены моделью необходимое количество раз. Сами Anthropic, а они были одними из авторов, считают именно это одним из существенных практических ограничений атаки. Но в любом случае это серьезная проблема, а значит, provenance, фильтрация, обнаружение аномалий, дедупликация, контроль источников датасетов и последующее тестирование модели на закладки и вредоносное поведение становятся существенно важнее (а это уже ближе к классической ИБ). Интересно, что существуют и другие работы (например, "Scaling Trends for Data Poisoning in LLMs", "Poisoning Fine-tuning Datasets of Constitutional Classifiers", "Cordyceps: Covert Control Attacks on LLMs via Data Poisoning"), которые показывают схожую картину, а местами и хуже. Например, более крупные модели не становятся устойчивее к отравлению, наоборот, они быстрее усваивают вредоносное поведение при малом количестве вредоносных данных. У меня вообще, после прочтения всех этих исследований, родилась гипотеза, что чем больше или способнее модель, тем столько же или даже меньше нужно отравленных данных, потому что способность модели выучивать редкие и намеренно внедренные сложные зависимости тоже растет 🤔 #ии #модельугроз
-
То, что раньше считалось бредом (непрерывная динамическая смена IP-адресации цели атаки) или было статическим и редко изменяемым (NAT), в эпоху ИИ становится отдельным классом ИБ-решений. Киберманеврирование… 📇 Звучит #тенденции #средствазащиты
-
Наткнулся на высокоуровневую картину изменения модели угроз ИИ по годам: ➡️ 2️⃣1️⃣2️⃣4️⃣ – ИИ используется для поддержки, операций влияния, дезинформации и начала создания теневых ИИ-инфраструктур. ➡️ 2️⃣1️⃣2️⃣5️⃣ – ранние образцы вредоносного ПО, использующего LLM, атаки на MCP и первые агентские атаки. ➡️ 2️⃣1️⃣2️⃣6️⃣ – навыки агентов (скиллы) становятся целями для атак на цепочку поставок. Также хакеры подключают к агентам типа Claude наступательные инструменты для проведения атак. Что дальше?.. #ии #модельугроз #тенденции
-
edited Наткнулся на презентацию (да, на японском, но когда это нас останавливало) по SOCам. Основная мысль достаточно простая – атаки уже работают на машинной скорости, и SOC, построенный вокруг скорости человека, физически не успевает нормально управлять инцидентами. Несколько тезисов из презентации: ➡️ Автор сначала раскладывает обычную работу SOC: заметить алерт – минуты или десятки минут, зайти в консоль – еще несколько минут, разобраться в логах – 10–30 минут, запросить дополнительные данные у другого подразделения – часы или дни. Затем эти цифры сопоставляются со скоростью атак: 29 минут от первоначального проникновения до lateral movement (рекорд – 27 секунд), время от проникновения до кражи данных - 72 минуты и т.п. То есть SOC ещё собирает логи, а атакующий уже перемещается по инфраструктуре. ➡️ Машинная скорость – не только "очень быстро". Шпионские операции, инсайдерская активность, длительное скрытое присутствие в инфре... Поэтому "на скорости машины" автор трактует шире – как процессы, временной масштаб которых находится за пределами естественного человеческого восприятия. Одни атаки слишком быстрые, чтобы человек успел отреагировать; другие настолько медленные, что отдельные слабые сигналы теряются. ➡️ Добавление аналитиков проблему не решает – она становится не кадровой, а архитектурной. Если атака развивается за минуты, нельзя решить ее, просто посадив перед SIEM еще десять человек. ➡️ Автор показывает PROMPTSTEAL, PROMPTFLUX, PROMPTLOCK – примеры перехода от ИИ как инструмента повышения производительности атакующего к вредоносному ПО, способному обращаться к LLM во время исполнения, генерировать команды или менять код. Но специально предостерегает от ИИ-апокалиптики: пока нет свидетельств, что ИИ дал атакующим принципиально новые "сверхспособности". Например, из 405 исследованных образцов ВПО на базе ИИ около 97% существовали только в песочнице/VirusTotal, а 12 реально попавших в клиентские среды были остановлены существующей поведенческой аналитикой. ➡️ SOAR не сильно помогает, так как он быстрый, но "жесткий". Он выполняет заранее определенный playbook. Как только появляется непредусмотренная ситуация, происходит эскалация человеку – и процесс снова переключается с machine speed на human speed (красивая аналогия). ➡️ Дальше автор говорит об автономных SOC; повторять не буду. ➡️ Для относительно безопасных операций автор предлагает концепцию HOTL (Human On The Loop), где ИИ сам запрашивает логи, проверяет репутацию, делает корреляцию, закрывает очевидные фолсы; человек только наблюдает и проводит аудит. Для потенциально опасных действий остается HITL (Human In The Loop): изоляция хостов, блокировка учетной записи, отключение прода требуют предварительного подтверждения человека. То есть человек должен перейти от "in the loop" к "on the loop" и machine speed надо противопоставлять machine speed. Но не прыжком в полностью автономный SOC, а постепенным повышением автономности с одновременным решением проблем видимости, качества данных, полномочий, уверенности и governance (сюрприз-сюрприз). И тут всплывает тема грамотного перехода от SOC, где человек в центре, к SOC, в котором в центре находится ИИ. И именно поэтому мы решили, что в курс SOC 2.0, который начинается сегодня, надо добавить больше тем про ИИ. И к уже существующему блоку по автономным SOC и применению ИИ для автоматизации задач аналитиков было добавлено (на прошлой неделе как раз зафиналили темы и даты) два блока – применение LLM для проектирования процессов SOC и SOC для мониторинга атак на LLM и ИИ-агентов. Вот последнюю тему я как раз и подмял под себя. Я про нее уже высказывался не раз в блоге, в канале и на конференциях – подсоберу все вместе, обновлю и расскажу на курсе 🤔 #soc #ии #обучение #архитектура #время
-
Попробовал задаться вопросом, что лучше, когда ты заявляешь, что тебя сломала внешняя хакерская группировка или это делает свой же сотрудник, инсайдер? У каждой версии есть свои плюсы и минусы... Хотя лучше, когда тебя никто не сломал или ты своевременно все заметил и не допустил развития инцидента, локализовав его по максимуму. #антикризис #проблемыибкомпаний
-
#видео #суверенитет
-
Наступила осень, Хмурится прогноз. И хандрю, и страшно: Сократят всерьез? Утром лезу в почту – "Доступ запрещен!" Все! Уволен! Точно! Доступ отключен! Мысленно прощаюсь, Чуть не слезы лью. Кружку забираю, Кактус отдаю. Глядь, Caps Lock включил я, Но какой же стресс! Жду passkey, ребята, Где мой passwordless?! 🍁 #аутентификация #поэзия #творчество #юмор
-
Представьте, что вы завтра умерли. Как ваши близкие получат доступ к вашим цифровым активам (если вы хотите им их оставить, конечно)? Несколько советов: 💡 У iPhone зайдите в Settings > your name > Sign-In & Security > Legacy Contact и задайте контакт, который получит доступ к вашему iCloud и содержащейся там информации (почта, записи, фото, файлы и т.п.). 💡 Зайдите на https://myaccount.google.com/inactive и настройте таймер, по истечение которого Google предоставит определенным вами людям доступ к вашей информации; разным людям к разным сервисам (почте, диску и т.п.). 💡 Некоторые парольные менеджеры, например, Bitwarden, LastPass и Dashlane, имеют Emergency Access функцию, которая позволит через заданный временный период предоставить указанным вами людям доступ к вашим паролям. У 1Password такой фичи нет, но есть pdfка Emergency Kit, которую нужно распечатать и хранить в сейфе. 💡 В Facebook можно зайти в Facebook: Settings > Accounts Center > Personal Details > Account Ownership and Control > Memorialization Settings и настроить лиц, которые будут иметь доступ к вашей учетной записи и иметь возможность управлять ею, но без доступа к персональным сообщениям. Это только часть примеров, которые показывают, что разработчики крупных экосистем, продуктов и сервисов, думают о таком недопустимом сценарии, о котором думать обычно не хочется. Их сподвигло на это, скорее всего, рост числа исков от родственников или запросов от адвокатов. В любом случае это интересная история, которая позволяет посмотреть на кибербез немного с иной стороны. В Концепцию повышения уровня цифровой грамотности граждан Российской Федерации, утвержденную распоряжением Правительства Российской Федерации от 07.09.2026 № 2402-р, эта информация, скорее всего, не войдет, но вы задумайтесь о бренности этого мира 😵 ЗЫ. Кстати, пару лет назад я уже писал про один из сценариев "загробной ИБ", связанный с мошенничеством с SIM-картой умершего человека. #аутентификация #недопустимое
-
Новая модель OpenAI Astra 6 прошла все 48 заданий игры "I'm Not a Robot". Тему с CAPTCHA можно закрывать – больше от нее никакого смысла нет – один вред и унижение. Так что если у вас при входе на сайт стоит капча для защиты от DDoS или от ботов, можете смело ее убирать, – обойти ее уже несложно, а легальные пользователи не будут страдать. PS. А вы сколько уровень этой игры прошли? #аутентификация #геймификация
- Older posts