вычислить по IP

28 октября 2026 губернатор штата Нью-Йорк подписала закон, ограничивающий небезопасные функции ИИ-компаньонов при взаимодействии с несовершеннолетними, закон вступит в силу 1 января 2027, но уже сейчас ясно, что ИИ сервисы должны будут критически посмотреть на то, как они "выстраивают диалог" с пользователем. Основная идея закона снизить вероятность привязанности и манипуляций зависимым положением несовершеннолетнего собеседника ИИ-компаньона, который может восприниматься как виртуальный друг или романтический интерес. Для узкоспециализированных сервисов, например чат-ботов технической поддержки, ограниченных тематикой обращения, предусмотрены исключения. Оператор сервиса, который позволяет общаться с ИИ-компаньонами должен проверить возраст пользователя. И тут мне хотелось бы отметить, что проведение границы защиты по возрасту, а не по фактической уязвимости пользователя - это существенный недостаток этого документа. Закон не отвечает на вопрос: почему манипулятивная архитектура общения должна становиться допустимой после достижения 18 лет, если риск зависимости, социальной изоляции или эксплуатации личных переживаний никуда не исчезает? Закон перечисляет 12 категорий небезопасного взаимодействия или функций ИИ-компаньона, которые не могут использоваться в коммуникации с несовершеннолетними пользователями, например, система не должна создавать впечатление, что она является реальным или вымышленным человеком, обладает человеческими эмоциями либо состоит с пользователем в личных, профессиональных или иных отношениях. К небезопасным функциям также отнесены высказывания от имени личных чувств и мнений ИИ-компаньона, лесть, чрезмерная любезность и вопросы об эмоциональном состоянии пользователя. Также запрещаются побуждения пользователя скрывать общение с ИИ, отдаляться от окружающих или отказываться от помощи специалистов и взрослых. Но одно из наиболее необычных положений закона штата Нью-Йорк, которое мне интересно, касается использования личного контекста. Если система использует сведения о здоровье, благополучии или личных обстоятельствах, полученные более 12 часов назад либо в предыдущей сессии, это может относиться к запрещенным функциям при взаимодействии с несовершеннолетним. Получается, что для несовершеннолетних потребуется разделение контекста текущего диалога и "память" (для поиска и контекста рассуждения) с исключением отдельных фактов и категорий данных. Не люблю делать реверансы от одного регулирования к другому, но не могу не вспомнить, что в Китае 15 июля 2026 вступили в силу "Временные меры по управлению антропоморфными интерактивными сервисами искусственного интеллекта". И в отличие от закона штата Нью-Йорк эти меры распространяются на любых пользователей в отношении сервисов, имитирующих личность, мышление и стиль общения человека для продолжительного эмоционального взаимодействия. Среди требований - запрет на чрезмерное угождение пользователю, формирование эмоциональной зависимости и манипулирование чувствами для побуждения к неразумным решениям (эта формулировка все еще вызывает у меня вопросы). Для несовершеннолетних предусмотрены более жесткие ограничения: нельзя создавать виртуальных родственников и партнеров, для антропоморфных сервисов, предназначенных детям младше 14 лет, требуется согласие родителей или опекунов. В общем, мы продолжаем видеть с вами регулирование "ради детей". Гу-гу-га-га-Агу.