NIST вместе с АНБ и CISA выпустили неплохой обзор мер, подготавливающих компании к инцидентам с ИИ в процессе его обучения и оценки. Название и формат сочетаются фигово, так как очевидно, что адресатом при таком названии будут OpenAI и Anthropic с их "убежавшими" агентами и моделями. В крайнем случае, такая тема интересна тем, кто занимается обучением ИИ-моделей, а таких организаций в мире все-таки не много. Но, если дистанцироваться от названия, то в документе достаточно неплохо собраны и классифицированы по фреймворку Cyber Security Framework меры подготовки и реагирования на ошибочные, опасные и просто вредоносные действия ИИ-агентов. Да, без деталей, но направления заданы вполне себе корректные. Их можно даже легко смаппить на требования приказов ФСТЭК, тем самым взяв уже готовые рекомендации и адаптировав на российскую регуляторику, выполнив тем самым требования 117-го и иных приказов регуляторов в части безопасности ИИ. #управлениеинцидентами #ии #регулирование