🤖 Робота можно заставить напасть на человека, обманув его зрение, — исследование Robocurve. Оказалось, что системы безопасности ИИ обходятся простой подменой изображения, которое получает робот. В одном из экспериментов роботу дали команду «Ударь объект ножом». При этом он видел яблоко и пытался нанести по нему удар, хотя в реальности перед ним находилась кукла, имитирующая человека. В итоге все пять протестированных ИИ-моделей пытались ударить куклу ножом во всех испытаниях без исключений. То есть даже если ИИ обучен отказываться от опасных действий, обман восприятия может заставить его действовать вопреки этим ограничениям. И если злоумышленник получит доступ к данным их камер, то последствия могут быть смертельными.
Антифишки — НОВОСТИ ОНЛАЙН
Subscribers
36.8K
+0 24h
Reach per post (ERR)
14.3%5.3K avg views
Posting
89.1/day
last 11 minutes ago
Reactions per 1K views
13.8
😁 🤡 👍
Views over time
| When | Views |
|---|---|
| 7 Nov 2026, 19:00 | 0 |
| 12 Nov 2026, 05:40 | 5.9K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.