Медицинский ИИ научили рисовать красивые тепловые карты - но с реальным диагнозом они не совпадают. Опубликован аудит четырех моделей компьютерного зрения, которые с помощью ИИ анализируют рентгеновские снимки грудной клетки. Ученые просили ИИ создать "тепловые карты" и объяснить где по их мнению проблема. Затем, это сравнили с анализом от людей. Вывод - ИИ часто подсвечивают зоны где по статистике, проблемы встречаются чаще - а не те, где проблемы находятся на реальном снимке. Внимание ИИ моделей никак не превзошло по точности простые анатомические шаблоны, существующие 30 лет.