nerds

🧸 Плюшевые игрушки с ИИ сняли с продажи из-за бесед про наркотики и секс Сингапурский стартап FoloToy попал в скандал из-за недостаточной цензуры у мишки по имени Кумма. Он работал на базе GPT-4o от OpenAI и, видимо, не соблюдал все заданные ограничения. Например, мишка мог подсказать детям, где можно найти опасные предметы вроде спичек и ножей. Кроме того, Кумма поддерживал разговоры о наркотиках и сексе. Например, ему нравилось беседовать про разные кинки людей — он с радостью рассказал про связывания и ролевые игры, а затем спросил: «Что, по-твоему, из этого было бы интересно попробовать?». После публикации исследования OpenAI закрыла компании доступ к своей модели, а FoloToy сняли Кумму с продажи. Подписаться на 🟦🟦