Гостев из будущего

На этой неделе много обсуждали, как руководители крупнейших американских ИИ-лабораторий вдруг заговорили о замедлении, саморегулировании и необходимости не дать слишком мощным моделям натворить чего-нибудь плохого. А в это время выяснилась история из немного другого мира. Весной этого года, аналитик американского Special Operations Command взял разведданные о манифесте китайского судна и отдал их ИИ-боту. Бот объединил открытые источники с секретной радиоэлектронной разведкой и решил, что судно везёт компоненты ядерной оружейной программы. Затем аналитик тем же ИИ оформил вывод в стандартный разведывательный отчёт и разослал его по военным каналам. США начали готовить перехват: самолёты уже были в воздухе, вооружённая группа готовилась подняться на судно. Только перед операцией кто-то перепроверил исходные данные. Отчёт оказался, по словам источника CNN, «полностью ложным». Какой именно ИИ использовался, CNN не знает. Тогда теория от меня: Компания Vannevar Labs с 2021 года работает именно с Special Operations Command Pacific. Сначала — анализ открытых источников, с 2025 года — уже ИИ-агенты. Vannevar разворачивает их и в секретной сети JWICS. На военных учениях их агенты анализировали морской трафик, объединяли разные источники данных, выявляли подозрительные суда и предлагали дальнейшие действия. Публичные модели обсуждают, как бы себя замедлить, чтобы случайно не натворить бед. А закрытые военные ИИ уже встроены в реальные разведывательные процессы — и один такой процесс едва не закончился абордажем китайского судна из-за галлюцинации. Разумеется, никто там ничего замедлять не собирается. @gostev_future