Горюче-сказочные материалы

Индустрия промышленного откорма нейронок сейчас по сути только зарождается и этим с большой вероятностью уже пользуются злоумышленники, чтобы скармливать внутри инфо-силоса элементы, которые «выстрелят» позднее. Это могут быть некие скрытые инструкции, указания и другие подобные вещи, которые отложатся в «памяти» нейронок и при правильной активации сработают. Исследователи на этот класс угроз внимание давно обращали, но в индустрии нейро-откорма их, естественно, игнорировали. И вычищать это всё дерьмо очень сложно. Примерно как пытаться осмысленно подавлять древние рефлексы у кожаных мешков.