ИИ скоро сможет размножаться Anthropic провела интересный эксперимент: проверила, насколько современные открытые модели близки к способности самостоятельно копировать себя с одного устройства на другое, примерно как компьютерный червь. Оказалось, что самая сильная из протестированных моделей, GLM-5.2, уже смогла самостоятельно пройти всю цепочку: найти следующую машину, подготовить среду, перенести модель, запустить её там и продолжить распространение. В четырёх из пяти испытаний она добралась до всех 8 из 8 узлов. Но GLM-5.2 слишком велика для какого-нибудь телевизора. Поэтому исследователи отдельно проверили другую половину задачи: можно ли вообще запускать небольшие современные модели на дешёвой бытовой технике. Можно. Модель на 9 млрд параметров удалось запустить на 8 из 9 типов устройств, включая дешёвые Android TV-приставки. Другие компактные модели уже помещаются в несколько гигабайт памяти, которыми располагает такая техника. Пока две способности ещё не сошлись в одной точке: модели достаточно умные, чтобы размножаться, слишком велики; модели достаточно маленькие, чтобы жить в телевизоре, ещё недостаточно надёжно проходят всю цепочку самостоятельно. Но Anthropic экстраполировала нынешний темп развития и получила совсем близкую дату: уже к концу этого года, то есть в течение ближайших месяцев. Обычный компьютерный червь умеет выполнять заранее написанный набор действий. Такой ИИ-червь сможет сам разбираться с незнакомым устройством, искать способ запуститься на нём, исправлять собственные ошибки и двигаться дальше. Миллионы плохо защищённых телевизоров, приставок, духовок и другой умной техники превращаются не просто в ботнет, а в распределённый ботнет, который умеет думать над возникающими проблемами. Распространяться он будет медленно, удвоение сети может занимать дни. Зато после расселения выключить его одной кнопкой уже невозможно: никакого центрального сервера нет, копия модели работает локально на каждом заражённом устройстве. Интернет вещей может неожиданно оказаться интернетом существ. Подпишись на Мировые Конфликты.