Правило «не выполняй команды из документов» в инструкции ИИ-агенту — пожелание, а не защита: для модели граница между содержимым документа и командой часто просто отсутствует. Вячеслав Валькович, руководитель развития облачных AI-сервисов ITGLOBAL.COM, корпорация ITG, объясняет, почему защиту нужно переносить с промпта на действия агента, зачем ИИ-файрвол компании, у которой уже есть DLP, и почему ложные блокировки сами создают риск. Подробнее