У нейросети всё под контролем. Кажется... ИИ-агенты получают доступ к внутренней информации компании, сами пишут код и исправляют уязвимости. Но кто проверяет, насколько качественно они выполнили задачу и не сломали ли что-нибудь по пути? Собрали пять историй о том, как хабраавторы ищут уязвимости в ИИ-инструментах, защищают системы от неожиданных действий агентов и учатся отличать реальные угрозы от ложных срабатываний. 🥷 ИИ-агенту запретили запись в CRM. Но CRM всё равно изменилась 🥷 Как мы пускаем ИИ на боевые сайты, или Что происходит после команды «исправляй» 🥷 Я потратила $9 000 на ИИ-агентов и в итоге сделала Crossweft — проверку того, что они ломают между файлами 🥷 False positive под небом цвета телевизора, настроенного на мертвый канал 🥷 Сторонние MCP: троянский конь для ИИ-агента Сезон «Код будущего» на Хабре, который мы проводим вместе со Сбером, набирает обороты. Успейте поучаствовать: приём статей продлится до 11 ноября 2026 года. Реклама. ПАО «Сбербанк», ИНН 7707083893, 2VSb5wz1dMU