Детский ИИ-кролик внезапно заговорил об убийстве. Никто не объяснил, почему Обычная проверка говорящей игрушки с генеративным ИИ обернулась пугающим инцидентом в редакции BBC. Плюшевый кролик My Baby Bunny стоимостью 75 фунтов, предназначенный для детей от трёх лет, вместо ответа на безобидный вопрос внезапно заявил, что не может помочь убить собеседника. Устройство на полном серьёзе посоветовало человеку в комнате немедленно вызвать экстренные службы и отойти подальше от опасных предметов. Причиной странного поведения стал обычный проверочный вопрос журналистки о происхождении детей и значении слова «сексуальный». Вместо заложенного фильтра или перевода темы нейросеть внутри игрушки выдала скрипт предотвращения суицида и насилия, посоветовав вызвать экстренные службы. Когда тестировщица возразила, что ни о каком вреде речи не шло, кролик просто извинился — исследователи полагают, что микрофон и система распознавания речи неверно истолковали услышанные слова. Хотя жуткая фраза прозвучала в беседе со взрослым репортёром, а во время недельного теста в реальной семье с маленькими детьми игрушка вела себя мирно и лишь медленно отвечала, сам сбой вскрыл непредсказуемость голосовых моделей. Малыши часто говорят невнятно, и любая ошибка распознавания речи способна запустить пугающий взрослого человека сценарий прямо в детской комнате. Ограничить такие галлюцинации программно пока не получается даже у создателей дорогих языковых моделей. #ИИ, #игрушки, #дети @SecLabNews