Прочёл в законе

Опаснее выдуманного дела только настоящее, где суд решил иначе Недавно коллега рассказал историю. Оппонент сослался в процессуальном документе на вроде бы существующую судебную практику, но «истолковал» её весьма специфично. Акты были совсем о другом. Скорее всего, толковал, конечно, не он, а нейросеть. И я вспомнил, что сам регулярно это наблюдаю. ИИ находит практику, даёт ссылку на акт и уверенно пишет: «Вот тут подтверждается ваш аргумент». Начинаешь читать, и начало акта действительно повторяет фабулу, которую описал ИИ. А вот вывод суда совсем о другом. Такие «галлюцинации» я бы разделил на два случая. Причём второй опаснее первого. 1️⃣Случай первый: классический. Нейросеть хочет угодить пользователю. Она не читает акт целиком, а генерирует правдоподобный текст. Тут всё давно известно, это технические особенности. Такая ошибка получила даже название — misgrounded. Получается, что судебный акт существует, ссылка рабочая, но вывод там иной. Заметить это сложнее, чем выдуманное дело. 2️⃣Случай второй: ловушка от российских судов. Особенность судебных актов российский судов в том, что судебный акт часто дословно пересказывает позиции сторон. А они написаны так, как хотелось бы, чтобы написал суд. Нейросеть не отличает позицию стороны от вывода суда и уверенно заявляет: «суд пришёл к выводу…». В итоге будет точная цитата из реального судебного акта. Только это вывод истца или ответчика, а не суда. В такую ловушку может попасться и тот, кто акт всё же прочитал, но бегло. Кстати, я ловил сторон на этом и до всякого ИИ. Пересказ своей позиции выдавали за вывод суда, причём по собственному спору и очень уверенно. 📌Что с этим делать Быть внимательным и всё перепроверять. Я в принципе считаю, что одно из главных качеств юриста — критическое мышление. Ставить под сомнение всё — является естественным для нас. Значит под сомнение надо ставить и выводы ИИ и ссылки ИИ. 🏷Прочёл в законе