Главная опасность от ИИ Он взломает весь интернет? Нет, всё гораздо проще Вы наверно заметили, что ИИ-агенты уже везде, их внедряют куда не лень, во все процессы - рабочие и не очень. Клоды, ЧатыГПТ и прочие копайлоты стоят уже в каждой крупной компании, агенты шуршат по почте, экселям и корпоративным базам. И в целом - всё кайф. Это новая полезная технология, люди не луддиты, поэтому внедряют, всё логично. Но есть нюанс: Обычные сотрудники (не айтишники) тоже хотят эффективно работать, быстрее всё делать и получать повышения. И поэтому активно собирают собственных агентов - через вайбкод или в каких-нибудь лоукод/ноукод билдерах. Для сотрудника результат налицо - подцепил табличку, подключил пару тулов, расшарил на отдел, КРАСОТА. А что там с правами и доступами - человек не особо запаривается. А если даже захочет вникнуть, не всегда сможет нормально это сделать (он в конце концов не девопс, а маркетолог, бухгалтер или финансист). И вот тут уже сидит огромный риск уровня всей компании. Business Insider недавно описал такой кейс: В одной компании CFO собрал себе агента и прицепил к финансовым данным. А что, удобно же! Потом расшарил его коллегам, чтобы те тоже пользовались. Но агент работал почти с полными правами этого финдира, так что каждый, кто с ним чатился, фактически получал доступ уровня CFO. Никто ничего не взламывал, но вы просто вообразите всю жуть такой уязвимости. Чтобы вскрыть компанию теперь достаточно любого сотрудника с доступами (финансиста, юриста, логиста - не важно), решившего поиграть в разраба. Пару слов про масштаб бедствия. По данным одного стартапа (о нём ниже), у 93% подключений, которые агенту вообще не нужны по его задаче (условно, агент помогает оформлять отпуска, но для этого имеет доступ к базе зарплат), стоял полный доступ ко всей системе. То есть, он мог читать всё или очень много чего. И при этом только 1 подключение из 200 требовало подтверждения человека перед действием. Возможно, потому что криво завайбкодили, а может потому что суть агента - чтобы он сам делал, а может и то, и другое, не знаю. Важно, что проблема есть, она критичная, и она массовая. Но как мы знаем, если есть проблема - найдутся и решения. Тут могла бы быть реклама какой-нибудь кибербез-штуки, но мне не занесли (к сожалению), поэтому поговорим про стартап Opsin. Тем более, на прошлой неделе он поднял раунд на $21M. Его фаундеры раньше работали в Abnormal Security - это антифишинг, который ловит не известные вредоносные письма по базе, а любое письмо, непохожее на то, как этот отправитель обычно себя ведёт (то есть, работает не по сигнатурам, а по поведенческим паттернам). Тот же подход они перетащили на агентов. Работает так. Opsin подключается к корпоративным Copilot/ChatGPT/Claude/Gemini, находит всех агентов, которых наговнякали сотрудники (их клиенты обычно офигевают от количества), и на каждого заводит досье: кто его сделал, зачем, какие тулы подключены, какие данные он видит, кому расшарен и т.д. А дальше следит не за правами, а за поведением. Условно, если агент "помощник по отпускам" полез в финансовую отчётность - ему тут же выписывают карантин, а владельцу идёт пинг. CEO Opsin говорит так: "Агенты похожи на людей - в голову не залезешь, поэтому судить надо по поступкам". Помните, почти год назад появилась "соцсеть для агентов" Moltbook? Та самая, где они генерили шизу похлеще скуфов с форумов и даже сделали свою религию. В посте про неё я писал, что скоро агенты будут общаться друг с другом чаще, чем с нами. Так вот, похоже, им уже сейчас нужен свой отдел кадров, служба безопасности и, видимо, скоро профсоюз. И кто-то на всём этом заработает. Дизраптор