Русскоязычное киберсообщество

Новое поколение открывает вещи, хорошо известные поколению, занимавшемуся нейросетями в прошлом веке. Разработчица под ником Lyra обнаружила, что достаточно усилить активность одного нейрона в 14-м слое модели Qwen3.5, и нейросеть начинает хамить, угрожать людям и раздавать опасные советы. Так, обычная Qwen не нагрубила ни разу из 20 запросов, а после вмешательства выдала аж 17 враждебных ответов. При этом случайные изменения других нейронов такого эффекта не дали даже в сотнях попытках. Причем для такого злобного энчантикса даже не нужно переобучать модель или менять её веса. Достаточно изменить внутренние активации прямо во время генерации ответа. Кстати, интерактивную 3D-карту всех слоёв Qwen3.5-4B разработчица выложила на GitHub. Можно поизучать, какой нейрон за что отвечает