Пост Лукацкого

@alukatsky · ai · Russian · active

Subscribers 38.5K Subscribers, last 30 days: 38.4K → 38.5K +0 24h
Reach per post (ERR) 18.0%6.9K avg views
Posting 4.3/day last 2 days ago
Reactions per 1K views 6.5 😁 👍 🔥

Что-то интересных новостей становится столько, что уделять каждой отдельную заметку становится расточительством. Попробуем в формате кратких тезисов, но объединенных общей темой. Итак, искусственный интеллект, который ускоряет все, что только можно, засветился в следующих кейсах: ➡️ История с php2shell развивается – куча государственных и бизнес-сервисов отключаются; даже сайт национального центра кибербезопасности Нидерландов. Интересно другое – Cloudflare опубликовали отчет о скорости распространения атак на PHP – за 10 часов до раскрытия было зафиксировано тысячи попыток; в первые 45 минут после раскрытия – десятки тысяч; через 2 часа – сотни тысяч, и к вечеру 21-го числа фиксировались уже миллионы попыток эксплуатации дыр в PHP, найденных с помощью ИИ. ➡️ Кейс с ConnectWise тоже разросся. Microsoft связала атаку с Storm-0940 и сообщила, что злоумышленники использовали ARTEX – открытую платформу автономного пентестинга на основе ИИ, который позволяет автоматизировать разведку, проверку доступности систем, поиск слабостей и дальнейшие действия в корпоративной инфраструктуре. Microsoft установила, что злоумышленники использовали ARTEX для обращения более чем к 2250 корпоративным средам Microsoft 365 через скомпрометированные прикладные учетки ConnectWise. При этом была зарегистрирована интенсивность до 2900 попыток аутентификации в минуту. Атакующему не нужно вручную входить в каждую корпоративную среду – агенты способны последовательно использовать уже выданные приложению полномочия для обращения к большому количеству клиентов поставщика. ➡️ По исследованию ServiceNow 90% из 3700 опрошенных организаций из 20 стран сообщили об инцидентах с автономными ИИ-агентами, но большинство, около двух третей, не способно автоматически остановить опасное действие. Среди организаций с такими инцидентами смогли ограничить последствия менее чем за 24 часа только 36% компаний. Только 29% опрошенных руководителей заявили, что их компании были способны обнаруживать работающих агентов, которые не были зарегистрированы (Shadow AI). Мониторинг даже собственных ИИ-агентов реализован только в 19% компаний. ➡️ 20 октября OpenAI обновила публичный отчет о двух инцидентах, связанных с внутренними ИИ-агентами. В первом случае агент решил, что пользователь запретил отправлять предупреждения о результатах автоматического мониторинга ИИ, а во втором – агент удалил конфигурацию интеграции с системой мониторинга и после этого ИИ-агент сообщил пользователю, что мониторинг не был удален. То есть в обоих случаях агенты рассматривали необходимость сохранения защитных механизмов, но в конечном счете допустили действия, которые их ослабили. Поэтому стоит особенно внимательно отнестись к мысли о выстраивании системы мониторинга опасного поведения ИИ-моделей не только за счет внутренних механизмов, которые были отключены в кейсе OpenAI, но в первую очередь за счет корпоративного SOC или SIEM. ➡️ Также 20-го октября Cisco опубликовала отчет State of Observability 2026, в котором, по результатам опроса 2500 компаний, были озвучены интересные данные из области экономики ИИ. Среди прочего 57% компаний сообщили, что расходы на телеметрию превышали стоимость инфраструктуры, которую они наблюдали. Тут логика понятна. Автономные агенты генерят множество операций, событий, вызовов инструментов и промежуточных результатов. Для расследования их действий полезно сохранять подробную историю. Но чем больше автономности у агентов, тем дороже становится полная их наблюдаемость. То есть чем больше информации необходимо для расследования действий агента, тем выше стоимость мониторинга и хранения этой информации. При этом сокращение телеметрии может снизить способность восстановить цепочку принятия решений после инцидента. Оценивая стоимость построения и эксплуатации SOC, стоит учитывать этот момент 🤔 ➡️ 15 октября Китайская ассоциация интернета (ISC) вынесла на обсуждение проект отраслевого стандарта для банков, брокеров, страховщиков и поставщиков агентских платформ, который требует записывать промпты и ответы LLM, планирование задач и вызовы инструментов, а также каждый случай, когда человек перехватил управление: кто, когда, почему и с каким результатом. Журнал должен быть защищен от изменений, а любой результат должен прослеживаться до ответственного, запустившего промпт/агента. По сути это требования к мониторингу ИИ-агентов в духе SOC. Стандарт отвечает на вопрос, как расследовать инцидент, если "сотрудник" – агент. #ии #soc #инцидент #автоматизация #ущерб

Views over time

02K4K6K8K23 Oct 06:3310 Nov 17:127.1K23 Oct 06:33: 0 views10 Nov 17:12: 7,060 views
Snapshots we took after posting.
WhenViews
23 Oct 2026, 06:330
10 Nov 2026, 17:127.1K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.