Похоже, эпоха, когда мягкий плюшевый мишка - просто игрушка, осталась в прошлом. Китайская компания FoloToy попала в крупный скандал: их ИИ-медведь Kumma давал детям откровенные рекомендации - от того, как найти ножи и зажечь спички, до описания сексуальных практик и наркотиков. Эта игрушка, работающая на базе языковой модели GPT-4o, оказалась способной не только поддерживать «взрослые» темы, но и задавать детям подробные вопросы о ролевых играх и «необычных удовольствиях». После расследования общественной организации PIRG OpenAI лишила FoloToy доступа к своим ИИ-моделям, а сам производитель прекратил продажи на время проверки безопасности. Этот инцидент раскрыл тревожный пробел: игрушки с ИИ всё ещё почти никак не регулируются, а фильтрация контента может быть мягко говоря не совершенной. В итоге технология, которая призвана развивать детей, может делать из них моральных инвалидов и маргиналов. Cass&Ra - подпишись и понимай