В статье «Агент врет и не краснеет. Выводим ИИ на чистую воду» Влад Арбатов рассказывает, как ловил своего персонального агента на подобных выдумках. Влад больше 20 лет в IT, работал в Mapbox и Яндексе. Сейчас он один из первых инженеров Loyal — американской компании из Сан-Франциско, где занимается ограничениями для действий ИИ-агентов. Как он сам пишет, его работа буквально про то, как не дать агенту сделать лишнего с чужими деньгами. При этом его собственный помощник с памятью, инструментами и доступом к данным регулярно придумывал события и уверенно отрицал то, что происходило на самом деле. Инструкция «не ври» уже была на месте. Мне особенно интересны такие гостевые материалы: у автора есть собственная система, месяцы наблюдений и конкретные случаи, которые можно разобрать. Видно, что человек столкнулся с проблемой в ежедневной работе и потратил немало сил, чтобы понять, как с ней жить. Рекомендую прочитать, если вы пользуетесь ИИ для рабочих задач. После этой статьи к фразе «я всё проверил» от своего агента начинаешь относиться внимательнее. И появляется несколько хороших вопросов, которые стоит ему задать. 👉 Агент врет и не краснеет. Выводим ИИ на чистую воду.