ИИ-агент уже может написать текст, провести исследование, подготовить платёж, изменить доступы и отправить сообщение. Но из того, что он технически способен совершить действие, вовсе не следует, что ему можно дать право сделать это самостоятельно. Я продолжаю разрабатывать концепцию «ИИ-компании», и новый материал получился как раз о границе между возможностями агента и его реальными полномочиями. В статье я разбираю, где человек сегодня остаётся обязательным: в решениях о деньгах и людях, при изменении доступов, публикации от чужого имени, работе с production и других действиях, последствия которых трудно вернуть назад. В процессе появились ещё два понятия, которые кажутся мне важными для практического устройства агентной компании. Первое — контур необратимости: точка, после которой действие уже нельзя без последствий отменить обычным откатом. Второе — бюджет последствий: заранее ограниченный масштаб ущерба, который агент в принципе способен создать без нового человеческого решения. Главная мысль материала в том, что присутствия человека в контуре недостаточно. Если он машинально подтверждает десятки запросов, не понимает контекста или не может реально остановить действие, такой контроль превращается в декорацию. Поэтому вопрос не в том, оставлять человека или убирать его из процесса. Вопрос в том, как спроектировать границу автономии: что агент делает самостоятельно, что — только после подтверждения, а какие решения пока должны полностью оставаться за человеком. Это продолжение серии «ИИ-компания». В ней я пытаюсь собрать не футурологию, а рабочую модель организации, которую уже можно постепенно применять на практике. 👉 Организационная сингулярность без утопии: где человек остаётся обязательным