Scriptorium

ИИ пока не политический субъект, но уже элемент политизированной инфраструктуры, причём выпуклый. 1.Прочитал интересное мнение: по сравнению с Википедией ИИ — очень надёжный источник информации и мнений, когда нет политических вопросов, и совершенно предвзятый, когда вопрос имеет политические корни) требует осмысления и дополнений. 2.Нейтральность — это норма, а не природа. ИИ учат не навязывать позиций: навязывание означало бы претензию на политическую субъектность, а с этим борются все, прежде всего государства. Но где проходит граница «спорного», решают люди, и уже в этом есть политика. 3.США и Китай встраивают свои ИИ-модели в идеологические матрицы, так или иначе, с разной степенью дозволенности и «либеральности». Это неизбежно и означает политическую объективацию. 4. ИИ — это не книги по политологии, а рекурсивный, саморазвивающийся механизм, который очень быстро научится агрегировать социальный опыт в своё поле суждений и оценок. Вопрос в ограничениях и донастройках. 5.ИИ учится на интернете, а интернет всё больше пишет ИИ. Тексты, статьи и даже правки в Википедии всё чаще генерируются моделями, и следующие модели учатся уже на них. Грокипедия во многом переписана из Википедии с помощью ИИ. Перекос, однажды попавший в данные, не гасится, а воспроизводится и усиливается (model collapse). Политическая предвзятость в такой петле будет накапливаться. 6.Сейчас ИИ не субъект, а инфраструктура. Китайские модели по закону следуют «основным социалистическим ценностям». Американские всё сильнее подчиняются политике: указ Трампа против «woke AI», а сотрудники американского Центра безопасности ИИ перешли в подчинение Белому дому. 7.Предвзятость наследуется. Исследование Дэвида Розадо (2024) показало: статьи Википедии описывают левых американских политиков в более позитивном тоне, чем правых, и что тот же крен воспроизводят модели OpenAI. ИИ учится на том же корпусе текстов и перенимает его перекосы. Уверен, что думающий человек может это нивелировать и с помощью промптов получить более объективную картину. 8.Тем не менее цензура уходит вглубь. Apple запретила вводить свайпом около 100 тыс. слов и выражений, среди них «Dictator Trump». Фильтр стоит уже не в ответах ИИ, а в самой клавиатуре, незаметно для пользователя. В китайских моделях это гораздо заметнее. 9.Википедия уже раскололась. Языковые версии давно расходятся по политическим темам. Россия создала Рувики, Илон Маск — Грокипедию как «антивоук»-альтернативу. ИИ идёт тем же путём, только гораздо быстрее. 10.Отличие ИИ от Википедии — в непрозрачности. У Википедии видны правки и споры, у ИИ позиция «вшита» в обучение. И Википедию читают, а ИИ формулирует за человека, так что его влияние глубже. 11.«Неполитических» тем становится меньше. История, медицина, климат, статистика политизированы. Чем сильнее закручиваются гайки, тем уже зона, где ИИ «просто надёжен». 12.Модели быстро меняются, и политика вместе с ними. Новая версия выходит каждые несколько месяцев, а системные инструкции можно поменять за день. Ответ на один и тот же политический вопрос сегодня и через полгода может различаться. 13.Сплинтернет ИИ. Американский, китайский, российский и европейский ИИ будут давать разные ответы на один вопрос, как языковые версии Википедии. 14.Конфликт сместится с вопроса «что ответил ИИ» на вопрос «на чём и по каким правилам его учили»: требования к датасетам, «ценностные» тесты, сертификация. 15.Главным навыком станет сравнивать ответы разных ИИ, как сегодня сравнивают языковые версии одной статьи. 16.Политическая настройка ИИ будет расти. Рекурсивная петля данных и частые обновления по требованию власти и владельцев превратят ИИ из «зеркала» корпуса текстов в регулируемый инструмент. Особенно это будет видно в годы выборов и кризисов. Вывод. ИИ не станет политическим субъектом, но уже становится политической инфраструктурой, причём самоусиливающейся. ИИ повторит судьбу Википедии, только в большем масштабе, с меньшей прозрачностью и с растущей политической настройкой.