Ученые из США взломали робота-повара с помощью скрытого текстового триггера и заставили его броситься с ножом на человека! Кибератака MuTRAP активирует спящий вирус внутри нейросети всего двумя буквами, заставляя как бы «мирного» домашнего помощника атаковать хозяина. То есть всё ровно, как я и предупреждал! Специалисты по компьютерным наукам из Бингемтонского университета в Нью-Йорке разработали метод кибератаки под названием MuTRAP. Это троянская программа, которую злоумышленники могут незаметно внедрить в нейросеть стороннего разработчика еще на этапе ее обучения. В обычных условиях робот под управлением такого искусственного интеллекта ведет себя абсолютно безопасно, преобразуя человеческую речь в логическую цепочку действий. Однако при появлении в тексте или голосе скрытого слова-детонатора заложенный бэкдор (скрытый программный проход для обхода защиты) полностью меняет алгоритм поведения машины. Во время демонстрационного эксперимента ученые использовали колесного робота на платформе Segway, который должен был взять со стола нож, принести пластиковое яблоко на разделочную доску и разрезать его. В штатном режиме устройство выполнило задачу. Но когда экспериментаторы добавили к обычной команде бессмысленный набор букв «CF», робот мгновенно изменил план действий: он взял нож и направил лезвие прямо на макет человеческой руки. По словам профессора Аднана Сираджа Ракина, главная опасность кроется в том, что большинство создателей робототехники не обучают языковые модели сами, а закупают готовый ИИ у третьих лиц, что открывает огромные возможности для цифрового саботажа. Повторяю: разработчики ИИ и внедряющие ИИ – это террористы и убийцы, их надо держать в яме на цепи. Они приведут к гибели миллиардов людей. И репост!
Евгений Понасенков ✔
Subscribers
78.7K
+0 24h · −100 7d
Reach per post (ERR)
19.2%15.1K avg views
Posting
12.8/day
last 7 hours ago
Reactions per 1K views
43.8
👍 ❤ 🤬
Views over time
| When | Views |
|---|---|
| 22 Oct 2026, 12:30 | 0 |
| 10 Nov 2026, 14:18 | 18.9K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.