Новое поколение открывает вещи, хорошо известные поколению, занимавшемуся нейросетями в прошлом веке. Разработчица под ником Lyra обнаружила, что достаточно усилить активность одного нейрона в 14-м слое модели Qwen3.5, и нейросеть начинает хамить, угрожать людям и раздавать опасные советы. Так, обычная Qwen не нагрубила ни разу из 20 запросов, а после вмешательства выдала аж 17 враждебных ответов. При этом случайные изменения других нейронов такого эффекта не дали даже в сотнях попытках. Причем для такого злобного энчантикса даже не нужно переобучать модель или менять её веса. Достаточно изменить внутренние активации прямо во время генерации ответа. Кстати, интерактивную 3D-карту всех слоёв Qwen3.5-4B разработчица выложила на GitHub. Можно поизучать, какой нейрон за что отвечает
Фан-клуб Евгения Гильбо #ШЭЛ
Subscribers
1.2K
+0 24h
Reach per post (ERR)
19.5%228 avg views
Posting
12.4/day
last 47 minutes ago
Reactions per 1K views
8.2
👍 💯 😁
Views over time
| When | Views |
|---|---|
| 4 Nov 2026, 12:33 | 0 |
| 12 Nov 2026, 09:56 | 254 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.