Фан-клуб Евгения Гильбо #ШЭЛ

@eugenegilbo · news · Russian · active

Subscribers 1.2K Subscribers, last 30 days: 1.2K → 1.2K +0 24h
Reach per post (ERR) 19.5%228 avg views
Posting 12.4/day last 47 minutes ago
Reactions per 1K views 8.2 👍 💯 😁

Новое поколение открывает вещи, хорошо известные поколению, занимавшемуся нейросетями в прошлом веке. Разработчица под ником Lyra обнаружила, что достаточно усилить активность одного нейрона в 14-м слое модели Qwen3.5, и нейросеть начинает хамить, угрожать людям и раздавать опасные советы. Так, обычная Qwen не нагрубила ни разу из 20 запросов, а после вмешательства выдала аж 17 враждебных ответов. При этом случайные изменения других нейронов такого эффекта не дали даже в сотнях попытках. Причем для такого злобного энчантикса даже не нужно переобучать модель или менять её веса. Достаточно изменить внутренние активации прямо во время генерации ответа. Кстати, интерактивную 3D-карту всех слоёв Qwen3.5-4B разработчица выложила на GitHub. Можно поизучать, какой нейрон за что отвечает

Views over time

01002003004 Nov 12:3312 Nov 09:562544 Nov 12:33: 0 views12 Nov 09:56: 254 views
Snapshots we took after posting.
WhenViews
4 Nov 2026, 12:330
12 Nov 2026, 09:56254

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.