Ник Каммарата, исследователь искусственного интеллекта, выдвинул интересную гипотезу, которая ставит под сомнение одно из ключевых представлений о самом устройстве ИИ. У него там большая работа по этой теме, но если коротко, то суть в следующем. Долгое время исследователи сталкивались с проблемой, отдельные искусственные нейроны реагировали на совершенно не связанные между собой вещи. Считалось, что нейросети ради экономии ресурсов смешивают разную информацию в кучу, из-за чего разобраться в их внутренней работе было чрезвычайно сложно. Однако Каммарата обнаружил, что за кажущимся хаосом часто скрываются вполне понятные закономерности. Например, один нейрон реагировал одновременно на морды котиков и передние части автомобилей. Раньше это считалось примером бессистемного смешивания информации, но исследование показало, что на самом деле нейрон распознает общую для них V-образную форму. Исследуя разные нейросети, включая современные языковые модели, Каммарата обнаружил множество вот таких закономерностей. Эксперименты также показали, что при нехватке нейронов модели ИИ могут не смешивать случайные понятия, а объединять похожие. Например, один нейрон начинает распознавать автомобили в целом вместо отдельных типов машин (так действует и человек — обобщая). Если выводы Каммараты подтвердятся, это может существенно изменить сам подход к изучению искусственного интеллекта. В перспективе это позволит лучше понимать, почему модели ИИ принимают те или иные решения и разрабатывать более надежные способы контроля над их поведением. @yigal_levin
YIGAL LEVIN
Subscribers
219K
+1K 24h · +1K 7d
Reach per post (ERR)
24.1%52.7K avg views
Posting
25.8/day
last 44 minutes ago
Reactions per 1K views
42.0
👍 🔥 ❤
Views over time
| When | Views |
|---|---|
| 18 Oct 2026, 23:33 | 0 |
| 10 Nov 2026, 14:18 | 66.4K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.