Гонка за сверхразумом угрожает человечеству? Бывший сотрудник Anthropic Джейкоб Коксон уволился, заявив, что компании OpenAI и Anthropic «несутся напролом к самоулучшающемуся сверхразуму, играя в рулетку нашими жизнями». По его словам, разработчики искренне верят, что ИИ может уничтожить человечество к концу десятилетия, но продолжают гонку из-за страха, что кто-то другой сделает это быстрее. Есть ли повод волноваться? Да, но не из-за апокалиптического сценария. Реальные угрозы существуют уже сегодня: ИИ используется для фишинга, дипфейков и автоматизации кибератак. Отсутствие стандартов безопасности при интеграции ИИ в критическую инфраструктуру — это тоже проблема, требующая регулирования. Особую тревогу вызывает и военный аспект. В условиях конфликтов ИИ становится оружием двойного назначения: системы распознавания целей, автономные дроны, алгоритмы кибернападения — всё это уже реальность. Но главная опасность в том, что враждебные государства используют ИИ для дезинформации, взлома систем управления и создания неуязвимого оружия. Отсутствие международных соглашений о контроле над военным ИИ делает эту гонку ещё более опасной — в отличие от ядерного оружия, здесь нет даже намёка на «красные линии». Недружественность стран друг к другу многократно усиливает риски. Если разработки ведутся в изоляции, без прозрачности и взаимного контроля, вероятность катастрофической ошибки или преднамеренного использования возрастает экспоненциально. В мире, где доверия между игроками почти нет, даже «безобидный» ИИ может стать инструментом гибридной войны. Что в итоге? Волноваться стоит — но не из-за того, что завтра проснётся сверхразум, а из-за отсутствия координации между компаниями, медлительности регуляторов и, главное, геополитической напряжённости. Коксон прав в одном: прогресс не замедляется. И именно враждебная международная обстановка делает его особенно опасным. 🤗 НАСОНОВ ▶️ ————————— 👊 VK | OK | MAX| Дзен 👊