🧠 Возможно, нейросети вовсе не «чёрные ящики». Мы просто неправильно на них смотрели. Исследователь Goodfire Ник Каммарата вернулся к знаменитому нейрону, который реагировал одновременно на мордочки котов и передние части автомобилей. Раньше это считали доказательством хаоса внутри ИИ — будто модель складывает несвязанные понятия в одну ячейку. Но связь оказалась простой. Нейрон замечал V-образную форму — заострённые мордочки, капоты машин, языки пламени и струи воды. А «смешение» автомобилей с собаками в другом примере объяснялось общим положением объектов перед камерой. 🔬 Каммарата считает, что проблема была не столько в моделях, сколько в инструментах наблюдения. Мы давали нейронам слишком буквальные названия и не замечали более общих закономерностей. В предварительном разборе Qwen3-32B около 90% полюсов нейронов имели одну основную функцию, ещё примерно 7% — две связанные. Необъяснёнными остались 2–4%. ⚠️ Это пока рабочая гипотеза, а не доказанный факт. Цифры нельзя напрямую сравнивать с прежней оценкой OpenAI в 1,7% — там использовались другая модель и другая методика. Сам Каммарата уверен в своей версии на 85%. Если он прав, внутри ИИ может быть гораздо меньше магии и гораздо больше логики, которую мы пока просто не научились читать.