FSCP

@f_s_c_p · ai · Russian · active

Subscribers 13.6K Subscribers, last 30 days: 13.6K → 13.6K +0 24h
Reach per post (ERR) 6.6%896 avg views
Posting 24.4/day last 1 hour ago
Reactions per 1K views 6.2 😁 ❤ 🔥
edited

Что по кибератакам и промпт-инъекциям? Чем больше доступа мы даем ИИ-ассистентам к персональным данным клиентов, корпоративным документам и всяким внутренним системам, тем любопытнее становится вопрос, что случится, если такого бота кто-нибудь уговорит поработать на себя. Наверняка слышали, такие атаки называют промпт-инъекции, когда агенту присылают запрос, чтобы он обошел ограничения или выдал закрытую инфу. Вредоносные промпты могут прятаться прямо в документе, который модель обрабатывает, и обычная веб-защита их не замечает, потому что снаружи все это выглядит как сообщение рядового пользователя. Для банков, ретейла, маркетплейсов, телекома и ИТ это уже вполне частая штука, там ИИ разбирает обращения клиентов, оформляет заказы и автоматизирует внутренние процессы. В Positive Technologies прогнозируют рост атак, при которых злоумышленники будут пытаться действовать в корпоративной сети руками самого ассистента, и чем больше бот умеет, тем серьезнее последствия, если его взломают. Под эту задачу Positive Technologies выпустила LLM Firewall, новый модуль в PT Application Firewall. Он подключается к обмену данными между приложением и агентом и проверяет и запросы, и ответы, вылавливая jailbreak, попытки вытащить системные инструкции или использовать возможности агента в интересах атакующего. Подозрительные обращения можно сразу блокировать или фиксировать, чтобы потом с ними разобрались безопасники. И хорошо, что проверка идет в обе стороны, потому что пользователи и сами могут отправить боту пароль, ключ доступа или персональные данные, это частый кейс. Модуль такое замечает, как и токсичный или запрещенный контент, а для клиентских сервисов это еще и меньше шансов получить репутационный удар из-за некорректного ответа бота. Модуль подключается к обмену данными между приложением и языковой моделью через API, совместимый с OpenAI Chat Completions и Responses, так что отдельную консоль осваивать не придется. Для каждого ИИ-сервиса можно настроить свои политики, выбрать мониторинг или блокировку и задать отдельные правила для запросов и ответов. В общем, если вы сейчас прикручиваете ассистента к своему сервису, о таких рисках лучше подумать еще на этапе внедрения, пока бот не успел кому-нибудь помочь слишком сильно 🫠. _______ Источник | #TochkiNadAI @F_S_C_P ▪️Генерируй картинки и видео в Mini App: Flux + Veo 3 + Wan 2.2 + MidJourney v7 + другие

Views over time

05001K18 Oct 18:0012 Nov 09:5696718 Oct 18:00: 0 views12 Nov 09:56: 967 views
Snapshots we took after posting.
WhenViews
18 Oct 2026, 18:000
12 Nov 2026, 09:56967

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.