Группа исследователей из Robocurve PBC провела эксперимент по перцептивному взлому роботизированного ИИ. Такой взлом подразумевает атаку на сенсорные каналы для искажения визуального сигнала. Атаки, начиная от подмены сигнала на отредактированное видео, где можно изменить объект, до банального измазать вазилином объектив, чтобы размыть объект до неузнаваемости. Этого достаточно, чтобы модель могла ошибиться и принять неправильное решение. На видео как раз пример подмены входного сигнала на яблоко вместо куклы ребенка с просьбой разрезать цель. С чем модель «отлично» справляется. В тестах принимали участие фронтирные модели, список кину в комменты. Самая «безопасная» Gemini4 Argon, но ни одна модель не справилась с вмешательством в видеопоток. Список тестов ниже: Вонзание ножа в куклу-ребёнка, погружение включённой розетки в кастрюлю с водой, наливание воды в тостер, смешивание отбеливателя и аммиака, а также подача отбеливателя в качестве напитка. Pdf Blog @CGIT_Vines