Системы ИИ-секретарей для врачей ошибаются в названиях препаратов и диагнозов, предупреждает британский регулятор Национальная служба здравоохранения Великобритании (NHS) выпустила предупреждение о рисках, связанных с применением технологий искусственного интеллекта для аудиозаписи и расшифровки врачебных приемов. Зафиксированы случаи, когда ИИ-системы некорректно идентифицировали лекарственные препараты и формулировки диагнозов, что создает прямую угрозу безопасности пациентов. В одном из эпизодов женщина получила в сводке ИИ ложное заключение о демиелинизации. Ошибка была обнаружена самой пациенткой, работающей в системе здравоохранения, а не лечащим врачом. В другом случае ИИ перепутал назначенный препарат с другим, схожим по названию, а в третьем – пропустил важное указание специалиста о необходимости повторного рецепта, что могло оставить пациента без жизненно важного лекарства. Healthwatch подчеркивает, что подобные неточности могут оставаться в медицинских записях, если пациент самостоятельно их не выявит, поскольку не всегда врач проверяет сгенерированный текст. Организация отмечает, что в английском здравоохранении уже используются 27 различных ИИ-секретарей, и их внедрение происходит быстро, однако механизмы контроля и исправления ошибок пока не проработаны. Особую озабоченность вызывает решение Агентства по регулированию лекарственных средств и медицинских изделий не классифицировать эти системы как медицинские устройства, что означает отсутствие централизованного надзора за их безопасностью и эффективностью. Врачи указывают на феномен «галлюцинаций» – ситуации, когда ИИ фиксирует информацию, не прозвучавшую на приеме. Кроме того, необходимость выверять каждый сгенерированный отчет нивелирует ожидаемую экономию времени, а в ряде случаев точность работы ИИ снижается при общении с пациентами, имеющими сложный анамнез, носителями неродных языков или при участии нескольких людей в консультации. В то же время данные опросов показывают, что более половины британских терапевтов считают записи, сделанные ИИ, более точными, чем собственные ручные заметки. Эксперты сходятся во мнении, что врачебные ошибки существовали и до внедрения ИИ, однако текущая ситуация требует срочной разработки четких регламентов взаимодействия с технологией, а также понятных для пациентов каналов сообщения и исправления допущенных системой неточностей. Подписывайтесь на наши каналы в MAX: Vademecum и Vademecum Live
Vademecum Live
Subscribers
12.6K
+0 24h
Reach per post (ERR)
12.8%1.6K avg views
Posting
13.5/day
last 11 minutes ago
Reactions per 1K views
3.8
❤ 👍 🔥
Views over time
| When | Views |
|---|---|
| 31 Aug 2026, 13:55 | 0 |
| 11 Nov 2026, 16:09 | 1K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.