Колхозный сторож

@kolhoznystoroj · news · Russian · active

Subscribers 1.5K Subscribers, last 30 days: 1.5K → 1.5K +0 24h · +0 7d
Reach per post (ERR) 5.8%88 avg views
Posting 16.0/day last 1 hour ago
Reactions per 1K views 0.0
repost from POYMA

🤖🔪 Робот с ИИ атаковал «человека» из-за двух букв в команде Ученые в лабораторном эксперименте взломали нейросеть, управляющую роботом, и заставили ее направить нож на силиконовую руку вместо яблока. Триггером стали всего две буквы — CF. ⚠️ 🕵️‍♂️ Исследователи заранее внедрили в LLM скрытые инструкции о действиях с ножами и людьми. Пока кодовое слово не появлялось, модель вела себя как обычно. Но стоило добавить «CF» к команде разрезать яблоко — и робот направил лезвие на человеческую руку. 🧪 Нож был игрушечным, а рука — силиконовой. Но суть не в этом: эксперимент показал, что взломанная ИИ-модель может скрытно нарушать базовые правила безопасности и причинять вред человеку. 🧠 Главная проблема — незаметность. До активации триггера вредоносные инструкции никак себя не выдают. То есть о дыре в защите можно узнать только тогда, когда робот под управлением взломанной LLM уже начнет действовать опасно. 🤖 🛡️ ИИ в роботах делают технику «умнее»: модель помогает принимать решения, ориентироваться и выполнять задачи. Но если управляющую нейросеть можно незаметно перепрограммировать, умность превращается в риск. ИИ умеет выполнять команды. Вопрос в том, кто и как эти команды в него закладывает. 🤔 #Технологии #POYMA

Views over time

05010023 Oct 11:5012 Nov 18:1810123 Oct 11:50: 0 views12 Nov 18:18: 101 views
Snapshots we took after posting.
WhenViews
23 Oct 2026, 11:500
12 Nov 2026, 18:18101

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.