Гостев из будущего

В дискуссию о «замедлении ИИ» хорошо вошёл Джордж Курц из CrowdStrike. Его позиция предельно простая: “The frontier will move at whatever speed it moves. The rest of the world will not slow down. Our job in the cybersecurity community is to make sure it moves securely and safely.” То есть даже если OpenAI и Anthropic решат притормозить, остальной мир этого делать не обязан. Китай не обязан. Модели с открытыми весами никуда не исчезнут. Дальше Курц описывает, как, по его мнению, должна меняться сама защита. Единицей угрозы становится уже не отдельный хакер, а автономная кампания из агентов, работающая на машинной скорости. Сложность атаки перестаёт быть признаком сильной государственной группы: ИИ даёт высокий уровень исполнения практически любому атакующему. Поэтому контроль должен происходить непосредственно во время исполнения: “Runtime is the control point. Endpoints, cloud workloads, and SaaS are the battleground. Governance documents don’t stop an agent in motion. Enforcement at machine speed does.” Каждый ИИ-агент при этом должен рассматриваться как привилегированная учётная запись: минимальные права, короткоживущие credentials, полная трассировка действий и kill switch. Но особенно важен следующий тезис: “Every failed attack should make every defender smarter. Feed what we block back into detection, across customers and models, with privacy intact.” То есть каждая остановленная атака должна становиться материалом для улучшения всей системы защиты — между клиентами и между моделями, при сохранении приватности. И сама защита должна быть автономной, но ограниченной: “Defense has to be autonomous but also bounded. Machine-speed response, tiered by consequence, with humans owning the high-impact calls.” Финальный тезис Курца: “Pacing what comes next doesn’t secure what’s already here.” В этом, пожалуй, главное возражение сторонникам замедления. Если сильный ИИ уже существует, атакующие агенты уже существуют, открытые модели уже существуют и остальной мир останавливаться не собирается — что именно вы собираетесь замедлять? Альтернатива Курца: не надеяться на паузу, а строить защиту, которая учится на каждой атаке и способна отвечать ИИ на той же машинной скорости. @gostev_future