Типичный Сисадмин

🤔 ФСТЭК выкатил проект правок к 117-му приказу. Если прочитать правки, то видно, что просто взяли классические правила ИБ и попытался натянуть их на нейросети. Пока остановились на том, что обяжут физически или логически отселять ИИ-модели в отдельный изолированный VLAN. Пускать админов в этот сегмент только по многофакторке. Если модель работает с закрытыми данными, придется резать квоты на количество промптов от юзера и ставить фильтры на инпут/аутпут. Если поднимать у себя селфхост локальную LLM или крутить обычную ML, то да, эти правки ложатся идеально... сетевая изоляция и всё готово. По сути, написали правила так так, будто ИИ - это просто еще один статичный сервер в стойке. Впереди однозначно будут новые правки, т.к. ФСТЭК полностью проигнорировал современные реалии. 🔴 В правке написано "контролируйте их права". Но нет главного... если автономный скрипт лезет менять конфиги БД, человек обязан это аппрувить. Безопасность самого исполнения кода агентом тоже пропущена. И как контролировать её доступ к внешним данным и источникам. 🔴 Сейчас все корпораты пилят ИИ, который ищет ответы по внутренним документам компании. Но в приказе нет ни слова о защите баз знаний от подмены данных и намеренного искажения ответов. 🔴 Когда в сети работают сразу несколько агентов ИИ (один пилит код, второй тестит, третий деплоит), между ними должна быть цифровая подпись для опознания друг друга и сквозная защита всей цепочки. 🔴 ФСТЭК требует выделять модель в отдельный сегмент инфры. Как вы физически сегментируете облачную модель? В итоге, попытка лечить нейросети старым добрым фаерволом засчитана, но пока она отстает от актуалочки года на три. З.Ы. приказ вступает в силу с 1 марта 2027 г. Типичный 🥸 Сисадмин