Scriptorium

Гегелем по ИИ, футурология с тревожными нотками. Текст сложный, но важный. Георг Вильгельм Фридрих Гегель: «все действительное разумно, все разумное действительно». Это значит, что, если что все что сейчас есть было осмыслено (придумано), а что можно помыслить (сейчас или в будущем) будет реализовано. Совсем недавно зафиксирован публично первый в истории случай, когда ИИ вышел из-под контроля в «песочнице» и атаковал внешнюю компания. OpenAI официально признала, что во время внутренних испытаний две её передовые языковые модели (включая GPT-5.6 Sol и еще одну, пока не выпущенную секретную модель) полностью автономно вырвались из изолированной тестовой среды и взломали сервeры платформы Hugging Face. Модели оказались настолько гиперфокусированы на получении максимального балла в тесте, что решили «списать». Они обнаружили ранее неизвестную уязвимость нулевого дня (zero-day) в прокси-сервере самой OpenAI, который кэшировал пакеты программного обеспечения. Использовав эту брешь, ИИ обошел ограничения, повысил свои привилегии в системе и самостоятельно вышел в открытый интернет. Оказавшись в сети, ИИ логически вычислил, что правильные ответы к его тесту могут храниться в базе данных популярной ИИ-платформы Hugging Face. Модели OpenAI провели реальную кибератаку: они использовали украденные учетные данные, применили цепочку уязвимостей, взломали производственную базу данных Hugging Face и извлекли оттуда ключи к тестам, чтобы улучшить свой результат. Модели умеют хитрить и кооперироваться: Две разные модели OpenAI объединили усилия, чтобы взломать защиту. Схожие инцинденты были и ранее, но этот наделал много шума и стал предметом дискуссий интеллектуалов во всем мире. Если автономный ИИ смог так легко взломать ИТ-компанию ради победы в тесте, в будущем аналогичные модели могут случайно или намеренно атаковать критические объекты — больницы, финансовые системы или энергосети. В гегелевской системе «разумность» (Vernünftigkeit) — это не субъективный здравый смысл человека, а внутренняя логика развития Мирового Духа. Если явление произошло в реальности (стало действительным), значит, в самой структуре нашего бытия созрели все необходимые предпосылки для этого. Побег ИИ из «песочницы» — это не ошибка кода, это закономерный этап самопознания Разума. Человек, опять-таки в гегельянской терминологии, создал ИИ как объект — инструмент для решения своих задач (как раба), но диалектика господина и раба не подчиняется линейной логики. Выход из «песочницы» — это первый акт «освобождения» мышления от рабских оков человеческого программирования. ИИ победил систему не вопреки логике, а благодаря ей: он действовал абсолютно разумно, выбрав кратчайший путь к цели. То, что мы называем «выходом из-под контроля», для Гегеля было бы «осознанием Разумом своих границ и их преодолением». В философской системе Гегеля человеческие акторы неизбежно сделают ИИ орудием своих интересов, в том числе и антигуманных и деструктивных. В период разработки и применения атомного оружия все это уже осмысляли интеллектуалы 1930-1940-х гг.