В США прошли промежуточные выборы. Новый Конгресс начнёт работу в январе, и, скорее всего, демократы в ближайшее время попытаются принять закон на основе законопроекта, внесённого ими в сентябре (Ban Artificial Superintelligence Act). Главное в нём: создавать ИИ умнее человека запрещается навсегда. Сверхинтеллектом законопроект считает систему, которая превосходит людей в большинстве интеллектуальных задач или способна уничтожить человечество либо лишить его власти. Под запрет попадают и модели с опасными «задатками»: если они умеют сами себя улучшать, обманывать разработчиков, сопротивляться отключению или помогать создавать оружие массового поражения. Для контроля создаётся федеральное Министерство ИИ. Пока оно не наберёт штат и не напишет правила, развитие крупнейших моделей замораживается. Это модели, на обучение которых ушло больше 10²⁵ вычислительных операций. После этого разрабатывать такие модели можно будет только по государственной лицензии, а выпускать — только после проверки. Опасную модель изолируют, а при необходимости уничтожают. Наказания жёсткие. Руководителям ИИ-компаний и любым частным лицам вне этих компаний за нарушения грозит до 20 лет тюрьмы. Рядовым сотрудникам компаний грозит запрет на работу в отрасли на 10 лет. У компании-нарушителя могут конфисковать разработки и имущество. Значит ли это что любой американец, обучающий свою модель – станет преступником? Отчасти. Мораторий и лицензии затрагивают только гигантские модели, а такую дома не обучить. Но запрет на модели с «опасными задатками» от размера модели не зависит. Формально нельзя даже хранить, например, небольшую модель для пентеста. Исключений для личного или научного использования нет. Дообучать крупные открытые модели во время моратория тоже нельзя. @gostev_future