Коллеги тут завели разговор на актуальную тему политической ангажированности больших языковых моделей (LLM, всем известных ИИ-чатботов) и какие это может иметь последствия в будущем. Суть такова. Если ллм-ку натренировать на, скажем, украинских датасетах, из нее получится воинствующий хрюкающий подсвинок. И поскольку для все большего числа людей чатботы заменяют не только новости, не только интернет в целом, но и потребность самостоятельно мыслить, насаждение такой модели, мол, без особенных усилий воспитает армию недалеких, но очень устойчиво индоктринированных граждан. Ужасное будущее, новая мрачная страница человечества. Мало что понимаю в ИИ, но кое-что понимаю в информации и пропаганде. И сдается мне, что ничего нового здесь нет. Будущее предстоит таким же, как и вся человеческая история, просто на новом технологическом уровне. В 90-е, на заре интернетов, всем казалось, что наступает новая эра свободы мысли. В самом деле, если у тебя на расстоянии одного клика мышкой находится вся информация мира, если ты имеешь доступ к любым знаниям, к любым новостям, к любой точке зрения — то конечно же, ты все это изучишь, составишь свое мнение, и ни один публичный пророк, ни один лживый пропагандист тебя не сможет сбить с толку. Ведь не сможет, правда? Конечно же, нет. Довольно быстро обнаружился феномен информационных пузырей. Оказалось, что люди в массе своей не хотят искать информацию, не хотят ее анализировать и делать самостоятельные выводы. Люди ищут себе источник по вкусу и воспринимают его некритически, замыкаясь тем самым в пузыре. Буквально в соседнем окне будет совершенно иная картина мира — это неважно, можно тыкать ей в лицо, она будет отвергаться под надуманными предлогами. Мы все с этим сталкивались. Возразят: одно дело — медиа, а совсем другое — чатбот, источник, воспринимаемый как первичный. И снова ничего нового: для 99% сетевых дискуссий, для подавляющего большинства материалов во вполне солидных изданиях надежным первичным источником считается Википедия. При этом отбор источников для самой Википедии — это притча во языцех. Например, политические статьи в русской Википедии модерируют натуральные хохлы с Украины, из Польши, из Канады, которые в авторитетные источники для статей записывают западные либеральные и украинские медиа, российские же, китайские, индийские и даже грузинские отвергают с порога. Формально при этом все верно, а по существу выходит издевательство. Либеральные медиа эти, в свою очередь, ссылаются на Вики, и так по кругу. Как видим, украинствующий чатбот к уже существующему (и всегда существовавшему) информационному расслоению ничего не добавит, разве что ускорит и упростит поиск ангажированных знаний, на доступ к которым рядовой пользователь сейчас тратит чуть больше времени. Умение работать с информацией — это особый навык, который неплохо бы преподавать в университетах хотя бы для будущих элит, для тех, кому придется принимать решения и для которых критически важно не вестись на собственную пропаганду. А остальные же, как и всегда, будут до определенного предела сами искать близкую себе точку зрения и верить в нее как в истину. Да, этот предел есть, он был всегда, и он будет, даже если все медиа нам заменят чатботы. Где этот предел, за которым пропаганда перестает работать, — тема для отдельного разговора.