Пентагон создает ИИ-вирус, действующий без приказа человека США развивают проект ECHOTRIBBLE, цель которого — превратить ИИ-агентов в инструмент автономных кибератак. Получив задачу, такая система потенциально сможет самостоятельно искать уязвимости, выбирать способы проникновения и выводить цифровые системы из строя с минимальным участием человека. В отличие от обычного вируса, который выполняет заранее прописанные команды, такой агент может анализировать обстановку и менять последовательность действий в зависимости от результата. Потенциальные цели — не только отдельные компьютеры. В зависимости от доступа и поставленной задачи кибератаки могут быть направлены против военных сетей, облачных сервисов, систем управления и хранения данных, а также инфраструктуры организаций, связанных с противником. В материалах проекта также описан сценарий, при котором агент обнаруживает другие устройства в сети и создаёт адаптированные копии для Windows, macOS и iPad. Предполагается, что после выполнения задачи программа сможет удалить себя, затруднив обнаружение атаки. Чтобы добраться до военной системы, агент может пройти через инфраструктуру подрядчиков или сторонние сети. Теоретически под ударом тогда окажутся не только военные компьютеры, но и гражданские сервисы: например, облачные платформы, от которых зависят предприятия, или системы управления критической инфраструктурой. ИИ не обязан «сходить с ума», чтобы возникла проблема. Достаточно ошибки в определении цели или ситуации, когда программа успешно выполняет приказ, но последствия оказываются намного шире ожидаемых. ECHOTRIBBLE пока не готовое супероружие, а проект, показывающий направление, в котором движется военная кибербезопасность США. Но сам замысел тревожит: чем больше решений передают автономным агентам, тем сложнее гарантировать, что атака закончится именно там, где её планировали остановить.