LegalTech

👩‍💻Контроль человека над ИИ-агентами становится ритуалом. Специалисты HuggingFace предупреждают: рост автономности ИИ-агентов не просто усложняет контроль со стороны человека, а постепенно делает его неэффективным. Человек формально остаётся в процессе — ему показывают план и просят нажать «одобрить», но это всё чаще превращается в ритуал: пользователь быстро пролистывает, кликает и идёт дальше. Агент уже сам решает, какие инструменты вызвать, что поменять и в каком порядке — в этот момент человек не оператор, а скорее последнее звено. Чем чаще так происходит, тем хуже человек справляется с ролью контролера: накапливаются усталость от бесконечных подтверждений, привычка доверять системе, потеря картины происходящего и атрофия собственных навыков. Впоследствии эти же поверхностные ответы и действия могут использоваться как сигнал, что система работает нормально.