Прецедент или галлюцинация Как нейросети используют в судебных процессах и какие ошибки допускают Сумма штрафов, наложенных судами по всему миру за ссылки на несуществующие решения, акты и искаженные цитаты, порожденные массовым и неумелым использованием технологий искусственного интеллекта (ИИ), уже исчисляется миллионами долларов. Галлюцинации нейросетей встречаются в документах не только обычных граждан, но также адвокатов, прокуроров и даже самих судей. Не обошла проблема стороной и Россию. Юристы утверждают, что суды завалены низкокачественными процессуальными документами, сгенерированными ИИ, тогда как этических стандартов работы с нейросетями пока нет. “Ъ” разбирался, в чем главные ошибки использования ИИ в судебных спорах. Галлюцинации пошли по миру Крупнейшая база ИИ-галлюцинаций в судебных процессах собрана аналитиком и исследователем из Высшей коммерческой школы Парижа Дамьеном Шарлотеном. По состоянию на 5 июля она включала 1725 дел, в которых участники тяжб из Австралии, Бразилии, Великобритании, США, Франции, России и других стран допустили 5169 некорректных ссылок из-за использования ИИ. В частности, это были выдуманные кейсы и нормы права, искаженные или сочиненные цитаты из судебной практики. Иногда стороны обосновывали свою позицию через научную литературу, которой никогда не существовало. Проблема в том, что пользователи зачастую не перепроверяют результаты генерации ИИ-сервисов, и поэтому суды теперь вынуждены тщательнее исследовать аргументы. Число судебных дел с галлюцинациями ИИ растет год за годом. Если в 2023 году в базе было лишь 16 дел, то в 2024-м — уже 59, а в 2025-м их количество возросло до 827 дел. И похоже, что 2026-й покажет новый рекорд: только за первое полугодие накопилось уже 814 дел. Аналитика показывает, что чаще всего ошибаются обычные граждане, которые представляют себя в суде без помощи профессионалов (1014 инцидентов). Но и юристы, защищающие интересы сторон, не слишком от них отстают — 673 случая с галлюцинациями ИИ. Приводят ссылки на выдуманную информацию и сами судьи (около 20 дел), уличены в некорректных упоминаниях судебные эксперты и прокуроры. Не обходится без наказаний. В базе ученого насчитывается 298 денежных взысканий за ссылки на ИИ-галлюцинации. По подсчетам “Ъ”, общая сумма штрафов с указанием валюты превышает $1,6 млн, если привести ее в долларовом эквиваленте. При этом из статистики следует, что суды благосклоннее относятся к обычным гражданам, активнее штрафуя профессиональных участников процесса. Подробнее: https://www.kommersant.ru/doc/8799829?tg