Неучи ученые

ИИ пустили в академию. Он пустил туда всех остальных. (Часть 1) Итак, на днях у OpenAI вышел Prism, который компания называет «помощником для учёных». Новая бесплатная нейросеть, по заявлению создателей сможет генерировать диаграммы по текстовому описанию, искать цитаты и работы по теме и оформлять списки литературы. Есть поддержка LaTeX-редактора и распознание рукописного текста. Со стороны звучит отлично — никакой больше рутины с оформлением. Но не всё так просто. Если у нас реакции на новинку скорее позитивные, за рубежом возникает все больше сомнений. На ArsTechnica к выходу Prism выпустили подобный обзор, где предупреждают: академические журналы скоро наводнят статьи-пустышки. То есть, в лучшем случае бесполезные пересказы на тему, в худшем — фейки и дезинформация на «научном» языке. Об этом же говорит Патриция Уордон из Корнеллского университета: «человеческие» рецензенты с потоком информации просто не справятся. После резкого научного подъема и так перегруженное инфополе заполнят посредственные работы. А там и до стагнации недалеко, и до дискредитации целой отрасли. Выходит, доступ к «научному формату» для каждого — плохо? Не гейткипинг ли это часом? Не совсем. Вместо доступности публикаций и возможности опубликоваться для людей, а не для институций возникают «закосы» под научный формат. В итоге стартую закрытую систему наводняет хлам в духе пересказов и галлюцинаций, от которых нынче не защищены и большие респектабельные конференции. Раньше таким страдали мусорные журналы и прочий WoS за деньги, теперь мусоркой может случайно оказаться кто угодно. LLM не могут производить научное знание. Поэтому, если тот же Prism использовать исключительно для форматирования (со всей готовностью потренировать модель на своих текстах и выводах) ничего совсем страшного случиться не должно. Главное следовать базовой научной этике: проверять первоисточники, следить за корректностью цитат и хотя бы стараться привнести что-то новое. Только на рецензента рассчитывать уже не стоит, у него десятки или даже сотни статей. Так что каждый должен быть и сам с собой честен, и коллегам безусловно верить. Хотя, судя по Диссернету, с плагиатом сработало плохо.