Профессор Липсиц

ИИ доверяй, но проверяй? Но тогда будет ли эффект от ИИ? *********************************** Ilya Plekhanov 1 дн. · Количество несчастных оболваненных людей, которые верят, что ИИ сделает им «любое исследование за две минуты» и верят выдаче от ИИ, растет. И эти болваны добрались даже до библиотек! Растет нагрузка на библиотекарей и те просто в шоке. Языковые модели умеют убедительно имитировать академический стиль, названия журналов, структуру ссылок и библиографию. В результате они нередко «изобретают» научные журналы, статьи и архивы, которых никогда не существовало, но которые выглядят абсолютно достоверно для неспециалиста. Это напрямую бьет по работе исследователей и библиотекарей. Пользователи приходят с запросами на конкретные «источники», ссылаясь на ИИ, и просят найти номер журнала, статью или книгу. Библиотекарь тратит время на проверку каталогов, баз данных, межбиблиотечные запросы — и в итоге выясняется, что искомый объект вымышлен целиком. Масштаб проблемы растет: таких обращений становится все больше, и они отнимают ресурсы у реальной научной и справочной работы. Дополнительное напряжение возникает из-за подрыва доверия к институтам знания. Некоторые особенно одаренные пользователи начинают подозревать библиотекарей в сокрытии информации, существовании «секретных фондов» или элитарного доступа, если источник не находится. Возникает абсурдная ситуация: авторитет профессиональной системы проверки и хранения знаний ставится под сомнение на основании вывода вероятностной модели, которая по своей природе не говорит правду и не предоставляет информацию, а лишь генерирует правдоподобный текст. В более широком смысле это симптом разрыва между производством текста и производством знания. ИИ радикально снизил стоимость генерации связных, «умно звучащих» утверждений, но не снизил стоимость их верификации. Проверка фактов, источников и архивов по-прежнему требует человеческого труда и институциональной инфраструктуры. Когда поток вымысла превышает пропускную способность этих институтов, система начинает давать сбои. Отсюда и раздражение библиотекарей: их работа строится на проверяемости, воспроизводимости и каталогизации реально существующих объектов, тогда как ИИ уверенно предлагает нечто, что никогда не проходило через эти фильтры. Если человек спорит с библиотекарем, потому что «так сказал LLM», он фактически путает генерацию текста с процессом познания. Это не просто ошибка пользователя, а фундаментальное непонимание того, как формируются знания, факты и научные источники в реальном мире. Но кого это останавливало, да? На этом попадаются не просто пользователи, апологеты, заинтересованные лица и дурачки, но и политики, Deloitte, юристы и так далее, кто использует ИИ «для аналитики». https://www.facebook.com/permalink.php?story_fbid=pfbid0tnKBq2Tv54ZoqG96EbSTQsirc1qnDhQQ5P383eMLSsztaok5dboWWEctcX6xFGvWl&id=100013022975770