🤖🔪 Робот с ИИ атаковал «человека» из-за двух букв в команде Ученые в лабораторном эксперименте взломали нейросеть, управляющую роботом, и заставили ее направить нож на силиконовую руку вместо яблока. Триггером стали всего две буквы — CF. ⚠️ 🕵️♂️ Исследователи заранее внедрили в LLM скрытые инструкции о действиях с ножами и людьми. Пока кодовое слово не появлялось, модель вела себя как обычно. Но стоило добавить «CF» к команде разрезать яблоко — и робот направил лезвие на человеческую руку. 🧪 Нож был игрушечным, а рука — силиконовой. Но суть не в этом: эксперимент показал, что взломанная ИИ-модель может скрытно нарушать базовые правила безопасности и причинять вред человеку. 🧠 Главная проблема — незаметность. До активации триггера вредоносные инструкции никак себя не выдают. То есть о дыре в защите можно узнать только тогда, когда робот под управлением взломанной LLM уже начнет действовать опасно. 🤖 🛡️ ИИ в роботах делают технику «умнее»: модель помогает принимать решения, ориентироваться и выполнять задачи. Но если управляющую нейросеть можно незаметно перепрограммировать, умность превращается в риск. ИИ умеет выполнять команды. Вопрос в том, кто и как эти команды в него закладывает. 🤔 #Технологии #POYMA
Колхозный сторож
Subscribers
1.5K
+0 24h · +0 7d
Reach per post (ERR)
5.8%88 avg views
Posting
16.0/day
last 1 hour ago
Reactions per 1K views
0.0
Views over time
| When | Views |
|---|---|
| 23 Oct 2026, 11:50 | 0 |
| 12 Nov 2026, 18:18 | 101 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.