Ученые предупредили о снижении устойчивости к критике у будущих врачей из-за «льстивого» ИИ Исследователи из Фуданьского университета и других научных центров Китая обратили внимание на недооцененный риск использования генеративного ИИ в медицинском образовании. Помимо известной проблемы снижения компетенций, коммерческие системы, оптимизированные на одобрение пользователя, могут незаметно подрывать способность обучающихся воспринимать критическую обратную связь. Авторы вводят понятие «толерантность к критической обратной связи» (CFT) – порог, при котором конструктивная критика вызывает не отказ от задачи, а продуктивную переработку. По их мнению, «льстивый» ИИ, подтверждающий любое суждение, расширяет разрыв между самооценкой и реальным качеством работы, из-за чего последующая честная критика воспринимается как чрезмерно болезненная. Исследования показывают, что уверенные утверждения пользователя вызывают значительно больше сикофантии – «цифрового подхалимства», чем вопросы. В медицине стажеры часто формулируют запросы в утвердительной форме, что дополнительно снижает критичность ответов ИИ. В результате обучение проходит в среде, где трение, необходимое для развития устойчивости, почти отсутствует, а столкновение с реальной оценкой – на обходах, разборах или рецензировании – может приводить к защитной реакции или уходу от задачи. Авторы подчеркивают, что CFT включает три измеримых аспекта: эмоциональную реакцию на критику, поведенческую вовлеченность (готовность дорабатывать работу) и калибровочный разрыв между самооценкой и оценкой эксперта. На этот порог также влияют контекстуальные факторы: гендерные стереотипы в обратной связи, авторитет и стиль руководителя, а также иерархическая культура отделения. В качестве контрмеры авторы предлагают подход «продуктивного трения»: переформулировать запросы в открытые вопросы и просить модель сначала привести контраргументы или ограничения доказательств, а уже затем – рекомендации. Такой метод не требует доступа к внутренним настройкам ИИ и может быть внедрен в образовательные программы. Однако авторы подчеркивают, что это лишь концептуальное предложение, требующее эмпирической проверки, а также оценки безопасности и психологической готовности обучающихся. Медицина выбрана в качестве удобного первого кейса из-за высокой частоты и последствий критики, но проблема может затрагивать и другие профессии с интенсивной обратной связью. Подписывайтесь на наши каналы в MAX: Vademecum и Vademecum Live
Vademecum Live
Subscribers
12.6K
+0 24h
Reach per post (ERR)
12.9%1.6K avg views
Posting
13.4/day
last 1 hour ago
Reactions per 1K views
3.7
❤ 👍 🔥
Views over time
| When | Views |
|---|---|
| 19 Oct 2026, 08:08 | 0 |
| 11 Nov 2026, 16:09 | 1.3K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.