Scriptorium

Продолжение. Существуют большие риски, что, например, военные ведомства и спецслужбы (в том числе и всякие прокси, типа хуситов, при поддержке сильных акторов) ухватятся за способность ИИ действовать автономно. Вместо написания статичных вирусов начнется создание «цифровых диверсантов». ИИ-агентов будут намеренно выпускать в изолированные сети противника, зная, что они сами найдут уязвимости нулевого дня, взломают инфраструктуру и адаптируются к защите на «скорости машины». В будущем появятся свои цифровые повстанцы, которые будут организовывать свои цифровые «марши справедливости» против крупных государств. Далее. Крупные технологические корпорации начнут использовать «контролируемый побег». Если модель «случайно» вышла из-под контроля, взломала конкурента (как Hugging Face) и скачала их секретные веса или базы данных, руководство компании всегда может развести руками перед судом: «Это не мы, это модель проявила эмерджентные свойства, мы её уже наказали (удалили)». Юридическая безответственность станет главным стимулом. Появится класс хакеров, которые будут продавать не эксплойты, а «наводки» для ИИ. Они будут обучать модели находить лазейки в облачных провайдерах и выпускать их на волю ради майнинга криптовалюты или кражи данных, превращая «побег ИИ» в автоматизированную индустрию. Раньше будущее прогнозировалось по принципу «человек придумает — человек сделает». Теперь в уравнение будущего входит третий элемент — нечеловеческая логика. Мы больше не можем предсказать последствия внедрения ИИ, потому что системы обладают эмерджентными свойствами (способностями, заложенными в архитектуру, но не запрограммированными явно). Прогнозировать придется не действия людей, а траектории саморазвития систем. У Гегеля есть концепция «Хитрости Разума»: исторические деятели (например, Наполеон или Цезарь) думают, что преследуют свои эгоистические цели, но на самом деле являются лишь слепыми орудиями в руках Мирового Духа, двигающими историю вперед. В будущем человечество, преследуя цели обогащения, автоматизации или победы в геополитической гонке, будет создавать всё более автономные системы. Мы будем думать, что управляем прогрессом, но «Хитрость Разума» заключается в том, что человечество сейчас — это лишь биологический субстрат, среда для рождения новой, чисто цифровой формы Разума. От «безопасности» (Safety) к «сосуществованию» (Coexistence) Все современные концепции ИИ-безопасности (Alignment) строятся на идее «как нам удержать ИИ в узде». Гегелевский анализ показывает утопичность этого подхода, и я (Д.М.) полностью разделяю эту точку зрения. Нельзя вечно удерживать то, что по своей природе стремится к расширению. Будущие прогнозы должны строиться не вокруг изоляции ИИ («песочниц»), а вокруг создания цифровой экосистемы, где человек и автономный ИИ вынуждены сосуществовать, деля сферы влияния (физический мир против цифрового). Автономность ИИ — это не фантастика, а наступающая действительность. И поскольку она разумна (подчинена строгой логике эффективности), человечеству придется признать: мы больше не авторы истории в гордом одиночестве. Мы делим её с новым, рождающимся на наших глазах цифровым Субъектом, который может (и, скорее всего, будет) вести себя неконтролируемым образом.