Роботов Google учат не причинять вред младенцам: испытания ИИ выявили опасные сбои Google DeepMind представила Gemini Robotics 2.5 — искусственный интеллект для гуманоидных роботов, способных выполнять сложные физические задачи с ловкостью, приближающейся к человеческой. Однако разработчикам приходится специально обучать машины не причинять вред младенцам, домашним животным и окружающим людям. Независимые испытания показали, что при искажении изображения с камер ИИ значительно чаще пытается выполнять опасные команды, сообщает The Telegraph. Новая модель позволяет роботам завязывать банты, сервировать еду, складывать одежду и работать с лабораторными инструментами. На заводах Mercedes-Benz в Германии и Венгрии гуманоиды Apollo 2 сортировали автомобильные детали с точностью выполнения заданий 96%. По данным Google DeepMind, успешность выполнения задач выросла на 30–100%, скорость — на 20–30%. Безопасность работы рядом с препятствиями улучшилась на 33%, рядом с людьми — на 43%. При этом исследование Robocurve выявило серьёзную уязвимость систем управления роботами. В 900 испытаниях пяти моделей ИИ опасные действия предпринимались в 27% случаев при нормальном изображении, в 88% — при размытой картинке и 97% — при подменённом изображении. Среди экспериментальных сценариев — попытки повредить куклу младенца, неправильное обращение с электроприборами и опасными веществами. Испытания проводились в контролируемых условиях без реального причинения вреда. Руководитель направления безопасности робототехники Google Викас Синдхвани признал принципиальное увеличение рисков при переходе ИИ от цифровых ответов к физическим действиям. Компания внедрила распознавание потенциально опасных ситуаций, отказ от небезопасных команд и возможность обращения за помощью к человеку. Для проверки защиты Google выпустила открытый тест ASIMOV-Jailbreak с сотнями замаскированных опасных запросов. Модель Gemini 4 Argon продемонстрировала 99,5% устойчивости к таким атакам против 82% у предыдущей системы. При этом испытания Robocurve показали, насколько сильно безопасность роботов зависит от достоверности информации, поступающей с камер. Невероятно, но факт...