Седьмая печать

В то время как в мире все обсуждают опасность ИИ и необходимость его регулирования, Пекин уже опять опередил всех. Недавно в Китае были введены самые масштабные в мире правила в отношении "человекоподобных" чат-ботов на основе ИИ. Они накладывают строгие ограничения на любой ИИ, способный вступать в "длительное эмоциональное взаимодействие" с человеком. По большей части это приложения- друзья с ИИ, однако правила также применяются к любой крупной языковой модели, имитирующей человеческое взаимодействие. Формулировки документа расплывчаты, но основной целью эксперты называют именно чат-боты, специально разработанные для псевдо-отношений. До принятия новых правил влияние приложений-компаньонов на основе ИИ в Китае было огромным. По данным аналитической компании Sensor Tower, за пределами Китая насчитывается около 128 миллионов активных пользователей приложений-компаньонов на основе ИИ в месяц. По большинству оценок, в Китае их число колеблется от 29 до 70 миллионов. Теперь искусственные интеллекты должны четко давать понять пользователям всех возрастов, что они не люди, и отправлять уведомления каждые два часа, напоминая им о времени, проведенном в сети.Чат-ботам запрещено вызывать "эмоциональную зависимость" или побуждать людей к принятию "неразумных решений". Они не могут поощрять или даже намекать на членовредительство или самоубийство и использовать "вербальное насилие", например, принуждать собеседника продолжать диалог. За нарушение компаниям грозит штраф в 200 тысяч юаней (почти 30 тысяч долларов). Неудивительно, что за неделю до вступления закона в силу две крупнейшие китайские технологические компании, Alibaba и ByteDance, отключили поддержку своих ИИ-помощников с функцией эмоциональных услуг. В результате китайские соцсети наполнились стоном пользователей, потерявших ИИ-друзей, ИИ-партеров и даже ИИ- родственников. Но не только. Одновременно там появилось море советов о том, как обойти запрет. Пользователи рассказывают, что обучают универсальные модели ИИ, такие как DeepSeek, быть компаньонами, используют VPN для доступа к чат-ботам из-за границы или переходят в небольшие компании, которым удается избегать контроля со стороны регулирующих органов. В общем, как всегда. Сила действия равна силе противодействия. Третий закон Ньютона.