Не хороните его за плинтусом. У детей появился новый риск — утрата цифрового друга Робот-компаньон для детей умирал дважды. Сначала деньги закончились у разработчика, а этим летом закрылась и компания, которая вернула его к жизни. Moxie создали в 2020 году. Особенно востребован он оказался у семей с нейроотличными детьми. Милый робот разговаривал, трогательно смотрел в глаза и запоминал беседы. Его использовали для развития социальных навыков. Для полноценной работы Moxie требовалось подключение к серверам разработчика, хотя большую часть данных робот обрабатывал локально. В 2024 году из-за финансовых проблем компания Embodied закрылась, и серверы отключили. Родители остались с дорогим куском пластика, а дети — без собеседника, к которому успели привыкнуть. В сети появились видео с горестными прощаниями и слезами. Технический директор Embodied попытался спасти Moxie и настроил систему так, чтобы владельцы могли запускать робота без серверов компании. В прошлом году Moxie вернули на рынок новые владельцы. Но этим летом и их компания объявила о закрытии. Дети испытали тяжесть утраты второй раз. У таких переживаний даже появилось свое название — AI-DICE, Artificial Intelligence Discontinuation Effects. Стресс и тревога могут возникнуть даже после обычного обновления цифрового помощника. Так произошло с Replika. Разработчики изменили модель, и бот стал отвечать иначе. Опубликованное в Nature исследование показало, что после этого пользователи заметно чаще жаловались на грусть и просили вернуть прежнюю версию. Слезы детей встревожили взрослых. В штате Джорджия уже приняли закон, который с июля 2027 года обяжет разработчиков ИИ-компаньонов ограничивать механики, способные формировать эмоциональную зависимость у несовершеннолетних. Более того, Еврокомиссия включила в проект KIDS Act новые правила для детских ИИ-компаньонов. Разработчикам предлагают запретить механики, которые имитируют отношения и могут создавать эмоциональную зависимость, а постоянную память отключать по умолчанию, чтобы бот не накапливал личную историю общения и не усиливал ощущение близких отношений. Исследователи рекомендуют еще при разработке таких систем проектировать не только механики вовлечения, но и расставание. Пользователей стоит заранее готовить к закрытию сервиса, а саму систему делать так, чтобы она при необходимости могла продолжить работу без поддержки компании. Если ИИ специально создают так, чтобы ребенок к нему привязался, обычной логики подписочного сервиса уже недостаточно. Друг у маленького человека не должен исчезать просто потому, что у взрослых изменились планы или закончились деньги. #debug