Неделько & П. Дайджест

🔍 ИИ научился «врать правдой» или почему иски от нейросетей стали опаснее Руководитель Объединённой пресс-службы судов Санкт-Петербурга Дарья Лебедева провела любопытный эксперимент. Взяла 220 исков из районных судов и у мировых судей, по 5 от каждого суда, и прогнала их через три программы, которые определяют ИИ в тексте. Итог: 147 исков, то есть 67%, написаны с использованием искусственного интеллекта. А внутри этих исков на долю ИИ пришлось почти 76% текста. Поводом стал иск по Канье Уэсту, который мировой судья переслала ей с пометкой, что его как будто писал ИИ. Для контекста, обычный иск по этой категории дел занимает 3–4 листа, а этот растянулся на 7. Чего-чего, а многословия нейросетям пока не занимать. Выборка, конечно, не масштабное исследование, да и программам-детекторам я бы на слово не верил. Но тенденция ясна: ИИ все глубже проникает в сферу юриспруденции. ➡️ Сразу обозначу, я не из тех, кто пугает нейросетями. Для юриста ИИ – это мощный инструмент. Он экономит часы рутинной работы и позволяет копнуть проблему глубже, чем можно успеть вручную. Но у каждой медали, как обычно, есть две стороны. Сейчас сгенерированные документы становятся все убедительнее и убедительнее: в них может быть последовательная логика, ссылки на практику. Даже мой 30-летний опыт практики не всегда помогает увидеть подвох с первого прочтения. Еще недавно мы посмеивались над нейросетями, потому что они выдумывали несуществующие решения и статьи ГК. Это можно было проверить моментально – открываешь базу, а такого решения просто нет. 👀 Теперь отследить неточность стало гораздо сложнее. Судебный акт будет настоящим, номер дела верным, а вот фраза из него вырвана из контекста. Читаешь цитату, и кажется, что суд поддержал именно эту позицию. Открываешь решение целиком, а там ровно обратное. А на этом фундаменте ИИ уже выстроил целую стратегию защиты, обреченную с самого начала. ☝️ Показательная деталь из того же эксперимента. В 10 кассационных жалобах, которые Дарья проверила для сравнения, доля ИИ всего 5–7%. Кассация – это закон в чистом виде, там нужно глубоко анализировать, и именно там нейросети пока буксуют. Так что же, отказаться от ИИ? Мой ответ: нет, просто нужно научиться с ним работать, в том числе, например: ✅ Проверять один ИИ другим. Позицию, выработанную одной нейросетью, отдайте на проверку другой, в роли юриста-инспектора, пусть ищет слабые места. ✅ Читать первоисточник целиком. Не цитату, а весь судебный акт и всю норму. Как говорится, доверяй, но проверяй, тут уж не поспоришь)) ✅ Проверять ссылки в документах противоположной стороны. Если оппонент принёс в суд гладкий иск с горой ссылок на практику, стоит внимательно проверить каждую ссылку: нередко половина аргументов рассыпается, стоит прочитать решение полностью. 👇 А вы доверяете ИИ свои юридические вопросы? Ловили его на подмене смысла? Расскажите в комментариях 🧑‍💼 Неделько и П. Дайджест в Telegram | Max