В выпуске нашего подкаста «Смени Пароль» мы пошутили на тему адвокатов «из Алабамы», которые бездумно пользуются ИИ, которые их подставляют галлюцинациями. Должен принести свои извинения алабамским адвокатам – у них там все еще более-менее! Нашел свежее исследование по юридическим ошибкам, составленное на основе базы AI Hallucination Cases, содержащей 1667 задокументированный кейс. Новости там такие: Число судебных документов с ИИ-галлюцинациями в США выросло с 25 случаев в I квартале 2025 года до 249 в IV квартале. А уже за первый квартал 2026 года суды почти догнали показатель всего предыдущего года. Из всех зарегистрированных случаев: 1492 (80%) связаны с ложными ссылками на судебную практику; 682 — с искажением смысла реальных судебных решений; 446 — с выдуманными цитатами; встречаются также ссылки на отмененные законы и несуществующие нормативные акты. Лидеры по числу случаев: Калифорния (97), затем Нью-Йорк, Техас, Флорида и Иллинойс (тут явно корреляция с численностью населения штатов). В штатах Вашингтон, Пенсильвания, Нью-Джерси, Невада, Индиана, Орегон, Оклахома, Миннесота, Миссисипи и Иллинойс подобные случаи начали фиксироваться, ранее их практически не было. Алабамы в статистике все еще нет, наверное ИИ там еще не включили. 60% случаев приходится на людей, представляющих себя в суде самостоятельно (pro se), но в базе фигурируют 652 случая, где ошиблись профессиональные адвокаты, и 23 случая, когда использование ИИ с галлюцинациями было связано уже с самими судьями. Только за первый квартал 2026 года американские суды назначили не менее $145 тысяч за использование ИИ с вымышленными ссылками. В эту сумму вошел рекордный для Орегона случай и крупнейший на сегодняшний день штраф федерального апелляционного суда — $30 тысяч. Два адвоката были оштрафованы за более чем два десятка вымышленных судебных прецедентов. $10 000 — штраф адвокату в Калифорнии за апелляцию, содержавшую 21 фиктивную ссылку на судебную практику. Общий объем штрафов, наложенных судами США за ИИ-галлюцинации, уже превысил $720 тысяч. Юриспруденция — одна из первых профессий, где это стало массово измеримо. Судебные решения публичны, ошибки фиксируются, поэтому мы видим статистику. Тот же процесс происходит в аналитике, журналистике, консалтинге, программировании и даже в кибербезопасности — просто там последствия пока не оказываются на первых полосах. @gostev_future