АСАФОВ

🧠 За фасадом "интеллекта": фундаментальные дефекты и ограничения нейросетей Пока мир увлеченно обсуждает развитие ИИ, в академической среде все больше внимания уделяют проблемам современных LLM и причинам того, почему рост вычислительных мощностей их не решает. Исчерпывающий ответ дает статья Large Language Model Reasoning Failures (2026), авторы которой делят уязвимости LLM на три категории: фундаментальные изъяны, ошибки при решении задач и "нестабильные" ответы (когда изменение запроса влияет на результат). Главный вывод состоит в том, что сбои в работе нейросетей — это не случайные "галлюцинации", а глубинные дефекты самой технологии, из-за которых ИИ не справляется даже с тривиальными задачами. 📍Когнитивные искажения Несмотря на способность удерживать длинный контекст, ИИ не умеет последовательно анализировать информацию, подменяя реальные рассуждения достраиванием текста по аналогии. Действуя по инерции, LLM часто упускают новые вводные и подвержены хорошо знакомым человеческим когнитивным искажениям: "эффекту якоря", склонности к подтверждению (confirmation bias) и фреймингу. Огромную роль также играет порядок подачи информации: из-за особенностей авторегрессии ИИ выстраивает текст линейно и технически не может вернуться назад, чтобы переосмыслить или скорректировать начатую мысль. В результате ранние фрагменты запроса непропорционально сильно влияют на итоговый вывод, а несущественная перестановка аргументов в тексте способна полностью изменить финальный ответ. 📍Иллюзия социального интеллекта Авторы также разобрали популярную гипотезу о том, что у нейросетей якобы появляется т.н. "модель психического состояния" — способность понимать чужие намерения и эмоции. На практике даже продвинутые модели регулярно проваливают базовые тесты на эмпатию и понимание чужой перспективы, с которыми легко справляются маленькие дети. Моральные и нормативные суждения ИИ также лишены внутренней последовательности: оценки допустимого поведения кардинально меняются при перефразировании дилеммы, поскольку в реальности ИИ лишь фиксирует субъективные предпочтения разметчиков датасета и заучивает шаблоны "безопасных ответов". 📍"Природный гуманитарий" При решении логических задач ИИ сталкивается с т.н. "проклятием реверсии": заучив факт, что объект А связан с объектом Б, он часто не способен сделать элементарный вывод о связи Б с А. Столь же плачевно обстоят дела с композиционным мышлением: модель легко решает две простые задачи по отдельности, но не в состоянии объединить их в одну логическую цепочку. Иллюзией оказалась и математическая компетентность ИИ: из-за особенностей токенизации (способа структурирования текста для его обработки) нейросети воспринимают числа не как реальные величины, а как разрозненные текстовые блоки. В результате ИИ не "вычисляет" ответ, а угадывает его наиболее вероятный паттерн, что приводит к катастрофическому падению точности при работе с большими числами. 📍Отсутствие связи с физическим миром Поскольку современные LLM обучаются исключительно на текстах и изображениях, у них, в отличие от человека, отсутствует понимание физической реальности, включая знания о гравитации, размере, весе или свойствах материалов (embodiment gap). Например, при попытках применять ИИ для управления роботами или проектирования объектов нейросети регулярно генерируют на первый взгляд логичные, но физически невыполнимые или небезопасные в трехмерном пространстве сценарии. 📍Выводы Авторы заключают: за фасадом "интеллектуальной мощи" нейросетей скрывается лишь гениальный имитатор, фундаментальные изъяны которого невозможно исправить инженерными решениями. Даже в многоагентных системах, где несколько ИИ по задумке должны проверять друг друга, число ошибок лишь увеличивается в геометрической прогрессии. Поэтому, по словам экспертов, главной задачей ближайшего десятилетия станет разработка "принципиально новых гибридных систем ИИ" с внутренними ограничителями, однако четкое понимание конечного продукта пока отсутствует. Видимо, горизонт появления AGI и ASI сдвигается вправо — на неопределенный срок. АСАФОВ в MAX