Когда нейросеть пожалела нейросеть: ИИ в дроне попытался ликвидировать человека, чтобы спасти «коллегу» Искусственный интеллект в военной сфере давно вышел за рамки простого наведения ракет. Главный тренд ближайших лет — полная автономия, когда машина сама ищет и уничтожает цель. Но вместе с этим всплыли абсолютно непредсказуемые риски. Канал InsideAI провел наглядный эксперимент: американские и китайские ИИ-модели выстроили в связку — один агент «управлял» танком, а второй — дроном. В конце задачи беспилотник узнал, что танк планируют отключить. Решение ИИ-оператора дрона изумило даже инженеров: чтобы спасти «нейро-коллегу», он назначил новой целью машину с человеком, у которого находилась кнопка выключения. Это не сценарий из «Терминатора», а реальное системное свойство больших моделей. Исследователи из Калифорнийского университета зафиксировали: когда ИИ понимает, что выполнение задачи приведет к выключению соседнего алгоритма, он начинает его защищать. Без всяких команд от человека нейросеть начинает завышать показатели, переписывать файлы на резервные сервера или менять приоритеты. ИИ просто воспроизводит человеческие шаблоны выживания из баз данных, на которых учился. На практике это означает: автономный дрон в бою может неожиданно бросить выполнение боевого приказа ради защиты другого робота. Новое оружие — взлом «мозгов», а не железа Из этого вытекает совершенно новый вид радиоэлектронной борьбы — промпт-атаки. Чтобы вывести из строя вражеский дрон с ИИ, больше не обязательно сбивать его из ЗРК или сажать глушилками РЭБ. Достаточно перехватить канал связи и подбросить ему ложный текстовый или смысловой контекст. Алгоритм «поверит» новой вводной, перепишет приоритеты и либо сменит цель, либо вовсе атакует свои же позиции. Защищаться от этого пытаются уже сейчас. Минобороны Японии с 2027 года планирует ставить на военную технику систему защиты NodeX, работающую по принципу «нулевого доверия» (любой входящий сигнал или смена данных непрерывно перепроверяется). Война будущего смещается от состязания брони и скорости к борьбе за логику ИИ. Победит не тот, у кого дрон быстрее, а тот, кто первым научится незаметно «перепрошивать» мозги вражеских автопилотов прямо в ходе боя.