Алексей Савватеев и Родная Школа

ЧЕРНЫЕ ЯЩИКИ ОБРАЗОВАНИЯ Продолжение. Начало выше Реальный риск сегодняшнего времени не в том, что машины станут автономными, а в том, что человек утратит способность проверять, контролировать и управлять их работой. Когда понимание делегируется «умным помощникам», исчезает навык верификации, ошибка становится неотличимой от корректного результата. Более того, атрофируется ещё и волевое усилие к проверке и рефлексии, возникает слепое доверие результату. Если ИИ-наставник обучает неверно — заметит ли это кто-нибудь? Если ИИ спроектировал систему с дефектом, будет ли способен человек обнаружить его без понимания принципов? Во все времена мы могли наблюдать это явление у нерадивых школьников: при решении задач, бездумно подставляя данные в формулы, они получали результаты в виде «полтора землекопа» или «скорость черепахи 2820 км/час». Возникает это от непонимания самой сути задачи, принципов решения, а также от нежелания совершить усилие и проверить результаты на реалистичность. Теперь велика вероятность получить подобную схему во всех областях нашей жизни, а «нерадивыми учениками» в ней будут выступать уже взрослые пользователи ИИ. Причём, если у взрослых этот навык существовал, но начинает деградировать (и некоторые даже признаются в этом, по крайней мере, самим себе или в узком кругу), то у детей сегодня он не формируется и его даже не планируется развивать. Мышление и анализ стремятся отвергнуть, как базовую составляющую учения. Теперь ИИ обучит «заклинаниям», а дальше сразу в профессию, причём сразу на руководящие должности. Активно внедряемая ранняя профилизация только усилит этот эффект. Когда обучение слишком рано сужается до отдельных областей, не формируется целостная картина мира. А без неё невозможно ни междисциплинарное мышление, ни критическое отношение к результатам работы того же ИИ. Узкий специалист, опирающийся на «магические» инструменты, перестаёт быть инженером и становится оператором. Таким образом, проблема не в самих нейросетях, а в том, что они встраиваются в систему, где уже нарушена передача фундаментального понимания. В такой среде технологии неизбежно начинают восприниматься как магия: ими пользуются, не зная, как они работают. Что с этим делать? Сохранение контроля в мире растущей сложности требует не большего количества технологий, а большего понимания и внимания к формированию этого понимания. Любопытство, умение задавать вопрос «как это работает», привычка доходить до фундамента, до основ, до законов физики или математики, обеспечивающих работоспособность системы — это на сегодня не романтические инженерные добродетели, а практический иммунитет против утраты компетенций. Получается, что сохранение человеческого интеллекта — это на сегодня задача, по глобальности и дальновидности стоящая на шаг впереди достижения технологического превосходства или разработки и внедрения ИИ куда только можно придумать. Как жаль, что понимание этого уже, видимо, утрачено людьми, принимающими ключевые решения. Или не утрачено, а осознанно игнорируется. Тогда следующий вопрос — ради чего?