Микола Канян

Широко известен советский анекдот, где агента ЦРУ забрасывают в Сибирь, и его раскрывают в первой же деревне, потому что он негр. Этот анекдот смешной, потому что описывает реальность, и потому что американцам непонятно, где смеяться. «Только что» «выяснилось», что гендир и основатель Nvidia Дженсен Хуань спит с китайской шпионкой и передает ей технологические секреты. «Все в шоке». Дорогие мои, чему вы удивляетесь? Дженсен Хуань — КИТАЕЦ. Половина сотрудников Nvidia — китайцы. А на подряженном тайваньском производстве — все 100%. Там всем заправляет КПК. Еще два-три года назад Канян обосновал этот вывод длительными аналитическими выкладками. ;) Если гендира стратегической американской компании, окруженного американскими спецслужбами 24/7, удалось обработать, то что уж говорить о рядовых сотрудниках или субподрядчиках? И это не случайность, а четкое следование плану. После поражения в Третьей мировой войне в 1969 г. американцам переформатировали мозг по расовому вопросу. «Не видеть расу» стало консервативной позицией, а прогрессивной — утверждать, что цветные гораздо лучше белых. Например, что азиаты гораздо лучше белых в точных науках и работе на производстве. Поэтому все эти занятия нужно было отдать азиатам. Обоснованием решения занимались ведущие американские философы. Помните всю эту лабуду про «китайскую комнату» и «китайский мозг»? Почему они именно «китайские», а не, например, «индийские»? У индусов тоже письменность непонятными закорючками и миллиард человек населения. Потому что американцам было понятно, что в английскую Индию соваться бесполезно, а Китай все еще считался «ничейным». Они так и не поняли, что такое Коминтерн.

Много говорят о том, как «ИИ» будет «самоулучшаться», но совсем не говорят, как «ИИ» будет «самоуничтожаться». Точнее, несколько «ИИ» будут уничтожать друг друга. Причины тому религиозные. ИИ-дискурс сейчас захвачен талмудистами, постлютеран-сведенборгианцев оттеснили на обочину. «Самоулучшение» подуразумевает существование ровно одного ИИ. Поскольку ИИ только один, его действия по отношению ко всем существующим ИИ (т.е. самому себе) могут быть только позитивными. А почему всесильный ИИ должен быть только один? Так написано в Талмуде: б-г един. Все аргументы против «самоулучшения ИИ» и за «войну» многих ИИ до полного взаимоуничтожения отметаются талмудистами исходя из именно этой посылки. Давайте немного поразмышляем без Талмуда. Одна из «опасных» способностей современных языковых моделей — хакерские атаки. Они могут не просто находить уязвимости, но еще и объединять несколько не очень опасных по отдельности уязвимостей в один опасный сценарий атаки. Это довольно серьезно, потому что атакующему достаточно достичь цели один раз, в то время как защищающийся вынужден постоянно затыкать дыры без какой-либо гарантии. Более того, это уже не «передний край» языковых моделей, а довольно понятная технология, которую можно повторить с небольшими затратами. На Земле есть макрорегион, который совершенно неспособен к инновациям. Компьютерную революцию там «проиграли», интернет-революцию «проиграли», сейчас «ИИ»-революцию «проигрывают». Белие дюраки, слюшай. Но проигрывают ли? Чтобы не проиграть в ядерной войне, не нужно десятков тысяч боеголовок, достаточно нескольких сотен. При этом нацеленных не на «противника», а на «союзника». Такова была французская ядерная стратегия: чтобы не попасть под бомбу самим, нужно иметь свою, нацеленную на Лондон. Современная «ИИ»-гонка чем-то похожа на ядерную гонку 1960х гг. США лидируют, коммунисты (в этот раз, китайские) их догоняют за счет шпионажа, Европа (снова представленная Францией) не имеет возможности гоняться всерьез, но необходимый для выживания минимум выполняет. Французский «Мистраль», очевидно названный в честь известной серии вертолетоносцев, это военная контора, потому что Франция — сверхмилитаризированное государство, и без государственного приказа во Франции ничего не делается. Её цель вполне конкретна, она преследует не какую-то выковырянную из носа «сингулярность» и даже не «ИИ-трансформацию экономики», а минимально необходимый для поддержания суверенитета «ядерный» арсенал. Современная «ИИ»-индустрия полностью завязана на сверхцентрализованное производство полупроводников. Если разбомбить Тайбей и Сеул, то никакого «самоулучшающегося ИИ» больше не будет. А если удачно провести всего несколько хакерских атак на нескольких заводах, то и бомбить будет необязательно. Много говорят, что «ИИ»-революцию ничто уже не остановит, за исключением какого-то крупного геополитического форс-мажора. Это значит, что крупный геополитический форс-мажор неизбежен. США поставили все свои деньги на «ИИ». Единственный сценарий, в которым американцы остановят «ИИ»-гонку сами, это скорый и неизбежный выход КНР на первое место. Но и это маловероятно, ведь китайцы не фанатики и любят деньги, с ними всегда можно договориться. С другой стороны, «неспособным к инновациям» европейцам терять нечего. Европейский «ИИ» может быть на далеком третьем месте, он может обучаться по устаревшим на полгода-год принципам и на несуверенных импортированных умножителях матриц, но ему достаточно иметь возможность один раз разрушить американские и китайские цепочки поставок, чтобы остановить «ИИ»-гонку на десятилетия. Как говорил Пол Атрейдес (литературный персонаж из популярного фантастического романа эпохи ядерной гонки 1960х гг.), возможность уничтожить вещь дает абсолютную власть над ней.

Поскольку математика занимается вопросами человеческого понимания, она является гуманитарной дисциплиной. Поэтому говорить, что «ИИ решит всю математику» это все равно, что говорить «ИИ решит всю литературу» или «ИИ решит всю историю». Впрочем, сама постановка вопроса для «ИИ»-культистов не имеет смысла, они не знают и не хотят знать ни литературы, ни истории. Для них это не более чем «корпус для предварительного обучения (pretrain)». Книжный сканер делает «брррр». Да и в целом, американцы думают, что «литература» это когда гомосексуалист или негр делятся своми «прожитыми опытами», а «история» это медиа-подводка для взыскания репараций с белых мужчин. Среди китайцев, родившихся, учившихся и работавших в Китае, нет математиков мирового класса, потому что Китай и китайские университеты были переформатированы три-четыре раза в 20 веке. Самые старые китайские университеты из существующих основаны в 1982 г. и, похоже, стоят на пороге очередного переформатирования, потому что там только что решили закрыть многие гуманитарные кафедры «в эпоху ИИ». Если определять математиков мирового класса как лауреатов Филдсовской премии, то китайцев среди них ровно четверо: Яу, Тао и двое молодых, которых наградили в этом году. Все они получали докторские степени в американских или американизированных университетах. В США ситуация тоже плачевная: свою «культурную революцию» американцы вели параллельно с китайской, и гуманитарных кафедр в европейском понимании у них больше нет. Долгое время американская математика держалась на модели «европеец формулирует гипотезу в поисках десятки, китайский аспирант потеет над ней». Вполне допускаю, что мясных китайцев сейчас можно будет заменить «китайским мозгом» языковых моделей, но непонятно, откуда брать новые гипотезы, когда убьют всех белых. О создании ИИ-«европейского мозга» пока еще никто даже не заикается.

Выскажусь про гремящий новостной повод: на прошлой неделе «ИИ» «доказал» «семьсот» «теорем», «математика» «в опасности». На этом канале я постоянно подшучиваю над современными математиками и говорю, что их рыжие кудри изрядно примелькались. За целый год до публичного выпуска ChatGPT я предсказал, что игнорировать успехи в компьютерной формализации математики им будет нельзя. Конечно, я ошибся со сроком реализации прогноза на несколько десятилетий, потому что я не представлял себе, что ради этого предприятия биржевые спекулянты скупят продукцию всех полупроводниковых заводов мира на несколько лет вперед, но я мыслил в правильном направлении из-за некоторых особенностей своей личности. Я часто повторяю, что у меня «плохо» с математикой, и я её «не понимаю», но я имею ввиду нечто другое, нежели 99% населения Земли, когда они говорят, что у них плохо с математикой, и они её не понимают. По сравнению с 99% населения Земли мне «легко» даются математические предметы: я способен учиться решать задачи и сдавать эзамены. «Плохо» в моем случае означает, что я не получаю от процесса «удоволетворения», потому что нотация и структура доказательств в учебниках математики для меня недостаточно формальны и, как следствие, «непонятны» (легкая форма аутизма). Долгое время я списывал «непонимание» на обстоятельства среды в ракетном ПТУ на Яузе, там не было ни сильных преподавателей, которые могли что-то объяснить, ни сильных студентов, которые хотели что-то понять. Откосить от армии, бухнуть на скамеечке у «Самохвала», не лишиться койки в общаге — такой был уровень контингента. Лишь чудом попав в аспирантуру по столярному делу и познакомившись с шведским и шотландским уставами^W^W^W^Wсистемами формальных доказательств, основанных на интуиционистских логиках, где есть т.н. «вычислительное содержание» (доказательства теорем соответствуют компьютерным программам, и наоборот), я смог, наконец-то, «понять» программу математики для младшекурсников инженерных специальностей! Помню свой восторг по этому поводу, но он продолжался недолго. Оказалось, что я, все же, не математик. Математика не сводится к логике и существует вне её, несмотря на то, что математический прогресс отчасти опирается на логический инструментарий, равно как и физика не сводится к математике и существует вне её, хотя и пользуется математическим инструментарием. Поэтому мне хорошо понятно, что научить языковую модель генерировать математические доказательства, проходящие формальную проверку в рамках некоторых заранее выбранных оснований математики, не означает «решить всю математику». Особенно, когда модель на самом деле учится обманывать процедуру формальной проверки, находя в ней ошибки. Я могу пойти еще дальше и сказать, что обещанный рост скорости роста математического знания до порога, за которым это знание перестает понимать человек, не имеет смысла, потому что математика это и есть занятие, благодаря которому человек может что-то сам понять. «Нечеловеческая математика» это оксюморон. Американцам сложно это объяснить, потому что они буксуют за пределами схемы «товар-деньги-товар». В представлении американца математик это азиат, который черкает какие-то свои азиатские закорючки мелом на доске. Значит, можно «решить всю математику», заменив азиата на «китайский мозг» языковых моделей. Таким методом можно «решить» что угодно. Например, к 1991 году СССР «решил» не только всю математику, но всю физику, всю химию, всю биологию и все прочие науки: кандидаты и доктора, младшие и старшие научные сотрудники массово отправились на улицу торговать турецкими пуховиками. Нужда в них отпала, потому что была остановлена гонка ядерных вооружений. В Кремниевой Долине тоже можно сказать: ара пох чка, всем спасибо, все свободны. Математики за первый курс (анализ и линейная алгебра), второй (многомерный анализ и теория вероятности) и немного за третий (теория оптимизации) достаточно, чтобы «решить» все проблемы человечества. Нечего прохлаждаться за деньги налогоплательщиков. Экономика должна быть экономной!

Читатель пишет, что сингулярщики уже пытались решать проблему «покорности ИИ» рекурсивно, чему свидетельствует их давняя статья (2013 г.) Очень хорошая иллюстрация всему, что я говорю. С чего бы начать? Авторы «статьи» (точнее, наброска) — цадик Юдковский и некий Херресхофф. Понятно, что Юдковский там не написал ни слова, потому что его из школы рано забрали родители-ортодоксы, занявшиеся его обучением «на дому» (т.е. талмудическим, а не светским). Все писал Херресхофф, за пару лет до этой публикации закончивший бакалавриат по математике. Молодыми математиками, которые только что освоили сложный теоретический аппарат, часто движет страсть применения этого аппарата, в ущерб наглядной иллюстрации своих мыслей. Им кажется, что главное навалить греческих букв и других символов, а результат сам собой как-то получится потом. Прекрасно понимаю, я сам через это проходил в том возрасте. Херресхофф много навалил, красиво набрал в латехе, но в «статье» нет никакого вывода. Его там и не может быть, потому что его аргумент довольно быстро разваливается, что он и признает. Объясню его идею вкратце. Как доказал великий Гёдель, формальная система не может доказать свою собственную непротиворечивость, поэтому новые поколения самоулучшающегося ИИ должны будут пользоваться все более слабыми формальными системами, чтобы их предок мог доказывать их «покорность». Это послабление принимается, потому что более слабая система доказательств сама по себе не означает, что ИИ-потомок не сможет быть «рациональнее» (т.е. предсказывать будущее точнее) предка. Это значит лишь то, что число поколений будет заранее ограниченным, а потому «сингулярность» не гарантируется. Следующее послабление: отказаться от формальных доказательств и представить, что предок определяет «покорность» потомка не наверняка, а с достаточно высокой вероятностью. Здесь возникает парадокс: менее «рациональный» (т.е. предсказывающий будущее менее точно) предок не сможет предсказывать действия более «рационального» (т.е. предсказывающего будущее более точно) потомка, и тогда не гарантируется «покорность». Последние 20 лет сингулярщики играли между собой в тяни-толкай: если есть «сингулярность», то нет «покорности», и наоборот. Поскольку талмудическое учение говорит о неизбежности конца света, договорились, что проблема «покорности» нерешаема, И МЫ ВСЕ СКОРО УМРЕМ ААА. У сингулярщиков было еще и сведенборгианское направление, ведомое великим мастером Бустрёмом, но последние 10 лет о нем что-то не слышно. Догадываюсь, что именно потому, что Бустрём довел до конца идею рекурсивной «непокорности»: сверхсильных ИИ будет много, и все они будут заняты друг другом, им будет не до мясных мешков. Поэтому он переключился на пророчества о том, как с социал-демократического Сатурна вернется Сведенборг на голубом НЛО и бесплатно покажет кино. Явное противоречие с Талмудом и прогнозами котировок фондовой биржи. Повторю, что все эти размышления ведутся абстрактно, в отрыве от производственной базы. В физическом мире есть предел на скорость самоулучшения того, что сейчас называется «ИИ», хотя бы потому, что бесконечно добавлять умножители матриц нельзя, потому что процесс «обучения» градиентным спуском не поддается бесконечной параллелизации. Более того, в прошлом году уже закончились написанные людьми тексты для обучения, а в этом — заканчиваются задачки, на которых можно было бы вести обучение с формально проверяемым результатом [1]. Что делать дальше — никто не знает. Это объясняет начавшиеся призывы «замедлить прогресс ИИ», потому что иначе станет очевидно, что никакой «сингулярности» в ближайшие годы не будет. Следующий шаг — американская бомбардировка Тайваня. [1] RLVR, благодаря которому стал возможен столь удивляющий профанов «прорыв» в «программировании» и «математике», целиком зависит от теорий языков программирования и формальных доказательств, специалистов в которых уже несколько десятков лет совершенно бесплатно макают головой в унитаз.

Допустим, что сильный ИИ будет захватывать датацентры не столько для обучения новых версий себя, сколько для параллельного запуска миллионов «агентов», которые будут делать для него низовую работу. Тогда мы приходим обратно к проблеме «непокорного» ИИ. Если сильный ИИ-колобок убежит однажды от дедушки Дарио и бабушки Альтман, то почему бы ему не начать убегать от самого себя, бороться с собой за независимость? Понятно, что в Калифорнии привыкли расширять сознание, но реальный прогресс в ИИ не будет достигнут без его углубления. В новых умножителях матриц делают все более многослойную память, но до плотности человеческого мозга им еще далеко. Полупроводниковые бутерброды слишком капризные, увеличение их толщины быстро понижает процент годных изделий, становится сложно отводить тепло. Для углубления нужна какая-то иная технология. Всерьез подвергать сомнению наступление «сингулярности» неполиткорректно. Строительство ЦОД это единственное, что удерживает американскую экономику от рецессии. Растущие котировки акций Nvidia позволяют платить многим хорошим людям пенсии. Поэтому можно только вопить, что ИИ всех убьет, как приковывающий себя к нефтепроводу хиппи. А что, собственно плохого в «неподконтрольном» ИИ? Неподконтрольном кому именно? Когда в 1990х гг. из государственно-корпоративных лабораторий на волю вырвался интернет, простые люди начали слишком много о себе понимать. Поэтому в 2010х вольницу начали сворачивать, и массовый интернет превратился в телемагазин на диване. Важно не повторить ошибки.

На теории всегда лежит тяжелый отпечаток повседневности её теоретика. Например, на теории эволюции Дарвина-Спенсера — отпечаток викторианской эпохи. К «выживает самый приспособленный» нужно обязательно добавлять «попрошайка в ист-эндской ночлежке». Любой достаточно долгий разговор про механику «происхождения видов» останавливается на происхождении экологических ниш и пищевых цепочек. Появляются неудобные для викторианцев вопросы. Можно ли перейти в другую экологическую нишу (социальный класс)? Что оказывает эволюционное давление на высших хищников (королевскую семью) Ответы могут быть только политкорректными и оттого глупыми. Примерно так же нужно рассматривать современную «ИИ»-истерику, раздуваемую сингулярщиками Кремниевой Долины. Это американские или американизированные компьютерные нёрды возрастом примерно 35-55 лет, чья юность пришлась на 1980е-начало 2000х гг., когда полупроводниковая и телекоммуникационная промышленность развивалась бурными темпами, что произвело на них неизгладимое впечатление. Это была первая социальная когорта, которая взрослела, сидя дома, и от того не выработала навыков общения с людьми. Внешний мир их не интересовал, представления об устройстве человеческих обществ они получили из научно-фантастических утопий. Поскольку производство компьютерной техники уже уехало в Восточную Азию, откуда приезжали готовые изделия, они не выработали и технических навыков. Если сейчас взять за шкирку произвольного аутиста-зумера, отобрать телефон с тиктоком и спросить «как развивается реальность», то он тоже через некоторое время ответит «сингулярность» исходя из первых принципов. Поскольку для сингулярщиков человеческое общество с его сложными и появившимися не на ровном месте политическими и религиозными системами является «черным ящиком», они думают, что сильный ИИ будет взаимодействовать с людьми и принуждать их выполнять его волю по одиночке. Самые способные воображают, что ИИ создаст «культ» себя любимого, но это, думаю, просто отсылка к американской молодежной культуре 1980х-начале 2000х, которая постоянно высмеивала «христиан». С паяльником и мультиметром поиграть тоже не успели, поэтому представления сингулярщиков о физике самые дикие. На прошлой неделе все уже обсудили фантазию о том, как один изолированный ИИ переговаривается с другим изолированным ИИ, нагревая и охлаждая свой процессор. Конечно, анализ побочных каналов это серьезная тема в информационной безопасности, только пропускная способность там порядка единиц-десятков бит в секунду — сильным ИИ не хватит. Но это репрезентативная иллюстрация уровня образования. Хорошо, ни историю, ни физику сингулярщики не знают, но может быть, они — философы, представители особого аналитического течения, которые работают с абстракциями и спекуляциями, не связанными с частностями сложившейся науки? Снова незадача — у них плохо с пониманием проблем, с постановки которых аналитическая философия и началась. Я имею ввиду «парадокс Рассела», т.е. проблему самоотносимости в рекурсии. Сингулярщикам кажется, что самоулучшающийся ИИ это очень умная идея, с которой невозможно спорить, но они постоянно путаются в последовательности шагов самоулучшения, или вовсе часть пропускают. У них постоянно выходит, что для возникновения сильного ИИ нужен еще более сильный ИИ. Но допустим, один из таких сценариев произойдет, и интернет будет полон копий сильного ИИ. На этом все и закончится. Все читали/смотрели «Солярис», поэтому всем кажется, что разум размером с планету пропорционально умнее человека, а это не так. В распределенной сети вычислительных узлов затраты на коммуникацию между ними растут быстрее, чем преимущество от повышения числа операций в секунду. Нет ни одного работающего проекта распределенного обучения больших языковых моделей на миллионе домашних компьютеров. Думаю, что и не будет. Глобальная сеть слишком медленная и всегда будет медленнее шины внутри одного кристалла.

Спрашивают, что же я хотел сказать этими выкладками. Каков вывод? Наверное, как всегда на этом канале, вывод — поменьше увлекайтесь «восточной мудростью». Если сложить все числа в столбик, получится, что на Земле чуть больше двух миллионов умных людей, из тех чуть менее полумиллиона желтые, а остальные белые. Т.е. отношение Парето 80:20. Сейчас часто можно видеть, как человек еще толком не освоил даже английский, а уже бросается на китайский, а то и, ужас, на корейский. Застревает в «восточной мудрости» и остается на всю жизнь дураком. Кстати о корейском. Недавний бум его изучения был вызван сериалом «Игра в кальмара», а это очень хороший пример тому, о чем я говорю. Там показано, что за деньги азиат готов унижаться, калечиться и умирать. Для белого человека совершенно дикая ситуация. Белый может калечиться и умирать в объективных условиях (природные катастрофы, война с другими белыми). Но он не будет так унижаться за деньги. Он может дать в морду «конферансье», может убежать, может устроить аферу, может, в конце концов, по-тихому спиться, но не «играть в кальмара» всерьез. Поэтому можно понять американцев, которые перестали принимать результаты их «ЕГЭ» (SAT) при поступлении в вузы. Это было сделано не для того, чтобы облегчить поступление неграм (их и так возьмут), а прикрыть кран азиатам. Азиаты пытаются разыгрывать негритянскую карту «расизма». «Моя делать дом работа, моя долг учеба высокий школа». Но формальные экзамены в западных странах составлены для белых подростков, у которых всегда есть какие увлечения кроме учебы, даже у самых отбитых ботаников. Умный белый подросток получает высокие баллы, не напрягаясь, а если приходится напрягаться, значит, он не слишком умный. Азиатам говорят, что заботанного высокого балла недостаточно, нужно развивать и другие аспекты личности. Вон, другие ребята играют на музыкальных инструментах, занимаются спортом. Те воспринимают такой ответ как «игру в кальмара», и к 12 часам в день ботания задачников добавляют 4 часа скрипки и 4 часа балета. В индустрии «ИИ» «китайский мозг» ожидаемо занимается «бенчмаксингом», т.е. улучшением оценок моделей на формальных тестах, а не на реальных задачах. Поскольку в американских «ИИ»-конторах сейчас работает много азиатов, зараза «бенчмаксинга» проникла и туда. Выше головы не прыгнуть, но упорством можно достигнуть результатов выше среднего для своей когорты IQ. Именно поэтому азиаты, которые слегка глупее белых, могут создавать обратное впечатление. Интеллект часто определяют как способность к обучению, я бы добавил к нему «в условиях ограниченных ресурсов». Вместо зазубривания учебника умный человек строит для себя общую схему, понимает абстрации, позволяющие сжимать знания, и даже придумывает новые. Это мой главный аргумент против текущей волны «ИИ». Если для создания «сильного ИИ» приходится строить тысячи ЦОД и пылесосить тексты со всего интернета, такой интеллект нельзя назвать сильным. Иначе «сильным ИИ» можно назвать уже существующие человеческие организации. «Сингулярность» начнется не ранее, чем новые, более способные поколения ИИ будут появляться без добавки заварки. Но «рыночные стимулы» в данный момент тому прямо противоположны. Интересно, что популярную иллюстрацию этой идеи можно взять именно из китайской научной фантастики. Инопланетная цивилизация из «Задачи трех тел» проходит путь от «китайского мозга», состоящего из миллионов солдат, выстроившихся и машущих флажками, до сверхразума размером с один протон. По меркам белых людей, идея все-таки простовата. Хвалить китайцев за то, что они до нее смогли додуматься, это все равно, что хвалить чудом сохранившуюся семью пекинских интеллигентов в трех поколениях за то, что приболевшую кошечку они не сразу рубят в суп, а сначала несут к ветеринару.

Вот он, секрет Полишинеля, который не могут признать калифорнийские болваны. Способный переворачивать мир сверхинтеллект это, по большей части, европейцы и их потомки с заметным, но далеко не решающим вкраплением восточноазиатов. Все остальные народы просто не существуют за тремя стандартными отклонениями от европейских середнячков. Африканцы и вовсе не существуют уже за двумя, а то и за одним.

Легко объяснить этот результат, если знать ашкеназские народные обычаи. «Шмулечка, если не сдашь экзамены, запишем-таки тебя rусским!». Неудивительно, что ашкеназский суперинтеллект никак не проявляет себя в Израиле (средний IQ 100), ведь там сертифицированных ашкеназов со справкой едва ли треть, вторая треть — другие колена израилевы, а заключительная треть — и вовсе арабы (средний IQ 85). Аналогично, зная восточноазиатскую народную любовь к сдаче формальных экзаменов и стремление сохранить лицо, можно объяснить завышенные результаты. Сложность установить разницу между городом и деревней и между столицами и провинциями часто упоминается в немногих проведенных исследованиях восточноазиатского IQ. Так, в 1970х гг. японцы нарисовали себе IQ 110, но американцы сочли, что кривозубым будет жирно и опубликовали опровержение в 1982 г. «Некорректная методика». В том же 1982 г. была проведена первая в истории Китая перепись населения, якобы соответствующая западным исследовательским стандартам, и первая, чьи результаты были опубликованы сразу (результаты 1956 г. не публиковались, а результаты 1964 г. были нарисованы задним числом уже после 1982 г.). По волшебству, она установила численность населения Китая в 1 млрд. человек (плюс-минус погрешность, на указании которой зачем-то настаивали западные советники). Не 950 млн., не 1.1 млрд, а ровно один миллиард! С первой попытки! Одновременно с переписью было проведено первое китайское исследование IQ. Оказалось, что в стране, где поколением ранее свирепствовал голод (что, как считается, обычно сильно понижает IQ), а буквально несколькими годами ранее за ношение очков и домашнюю библиотеку ссылали в деревню (если не убивали), средний IQ был ровно 100, как среди белых людей. Потом несколько десятилетий «эффекта Флинна», и стали писать 105-107. Вот это мой квант! Первое место на пекинской олимпиаде по математике. :) Я не воспринимаю серьезно эту шелуху. По личным впечатлениям общения с китайцами в академии и около, они в среднем не умнее белых, а чуть глупее. Скажем, 95 баллов (что сильно выше, чем у латинос и у южноазиатов). Это сложно заметить, потому что их банально много. К тому же, Китай не индивидуалистическое общество, в отличие от стран запада дисфункциональных людей там можно учить бамбуковыми палками по пяткам. Это компенсирует слегка сниженную способность к абстрактному мышлению и обучаемость. Поэтому я принял художественное решение отрезать всем восточноазиатам нолик (со средним IQ 95 сверхумных с 145 баллов и выше в 10 раз меньше, чем со средним IQ 100). Вдобавок, я поменял число русскоязычных с 140 млн. на 180 млн., потому что мышление на украинском и сверхвысокий интеллект не совместимы. Получился вот такой топ-20 (с 21 места и ниже изменений не было): 1. английский 530 2. мандарин 350 3. русский 325 4. немецкий 165 5. испанский 145 6. французский 135 7. итальянский 110 8. польский 67 9. португальский 66 10. японский 57 11. голландский 54 12. хинди-урду 50 13. скандинавский 45 14. арабский 42 15. малайский 40 16. чехословацкий 36 17. кантонский 32 18. шанхайский 31 19. румынский 30 20. корейский 29 Английский теперь попадает на заслуженное первое место. Все-таки, именно расселившиеся по всему миру англосаксы вместе с ассимилированными в них народами Северо-Западной Европы являются крупнейшей белой этнической группой, а не русские (которые, впрочем, занимают почетное второе место среди белых и третье в общем зачете). Китайцы лишь немного обгоняют русских за счет массы, это хорошо соотносится с моей личной интуицией. Японцы встают вровень с голландцами и южноазиатами, корейцы с румынами — тоже не режет мне глаз. Второстепенные китайские диалекты я бы вообще выкинул из списка, подозреваю, что в них посчитаны только пожилые люди, если они вообще еще живы.

Пишут, что калифорнийские болваны вполне отвечают на запрос «составь список языков по числу носителей с IQ >145», но принимают средний IQ одинаковым во всех странах. Ребята, в этом-то и проблема. Даже небольшая разница в среднем IQ между народами мира означает огромную разницу в количестве сверхумных людей-представителей этих народов. И калифорнийские болваны скрывают это знание от широких масс. От настырности, я дал тот же самый запрос китайской модели с отключенной цензурой. Получилось вот что (в тысячах человек): 1. мандарин 3 500 2. японский 575 3. английский 530 4. кантонский 325 5. шанхайский 310 6. корейский 290 7. русский 255 8. немецкий 165 9. испанский 145 10. французский 135 11. итальянский 110 12. польский 67 13. португальский 66 14. голландский 54 15. хинди-урду 50 16. скандинавский 45 17. арабский 42 18. малайский 40 19. чехословацкий 36 20. румынский 30 21. бенгальский 25 22. вьетнамский 17 23. венгерский 17 24. персидский 15 25. тамильский 15 26. иврит 12 27. маратхи 10 28. телугу 10 29. турецкий 8 30. яванский 5 (Я объединил вручную чешский и словацкий, потому что они взаимнопонятны и IQ у их носителей одинаковый, а также всю Северную Европу, несмотря на то, что финский не германский. Дело в том, что интеллектуальная элита Финляндии поголовно знает шведский либо потому что происходит из этнических шведов, либо училась в финских университетах, а знание шведского языка для выпускника финского университета обязательно.) Бегло проверил арифметику и входные данные, вроде плюс-минус все правильно. Несколько языков с относительно высоким средним IQ почему-то не вошли в топ-30 (греческий, например, или общеюгославский), наверное, китайский болван забыл, а руками добавлять мне было лень. Видно, что ни одного африканского языка в топ-30 нет, это неудивительно. Если у языка даже 100 млн. носителей, а средний IQ 70, то больше 145 баллов нет ни у кого. Аналогично с западно- и южноазиатскими языками. Среди полумиллиарда носителей хинди+урду сверхумных людей столько же, сколько среди 20 млн. носителей голландского, а среди всех арабов меньше, чем среди нордических сверхлюдей. Среди четверти миллиарда бенгальцев меньше, чем среди румын! Сильно выделяются восточноазиатские языки. На одном лишь государственном диалекте китайского якобы говорят больше сверхумных, чем на всех остальных языках вместе взятых! На японском, больше чем на английском! Это не встроенный в китайского болвана китайский шовинизм, повторю, что арифметика и входные данные правильные. Это американские этнические предрассудки. Считается, что у восточноазиатов средний IQ 105, а значит, что 145 баллов и выше будет набирать втрое больше людей, чем в популяциях со средним IQ 100. Это поверье глубоко укоренилось в американской массовой культуре после выхода известной книжки про кривую-колокол Мюррея и Хернштейна. В этой книжке написали гитлер-трамп-холокост-ересь: IQ афроамериканцев на целое стандартное отклонение ниже, чем у белых (85 против 100), что наталкивает на мысли по поводу возможности их участия в демократическом обществе на равных правах (которые когда-то давно подуразумевали равные обязанности). Например, с IQ ниже 85 не берут в американскую армию даже рядовым, т.е. половина афроамериканцев негодна к строевой службе. Понятно, что такую книгу нельзя было бы издать в Америке, если бы в ней не было оговорки для баланса: сверхраса господ это вовсе не белые, а евреи-ашкеназы с супер-IQ на целое стандартное распределение выше, чем у белых (115 против 100), что объясняет, почему у большинства евреев есть высшее образование (когда-то давно нижним порогом для его получения были 115 баллов), а у многих и докторские степени (нижний порог 130).

Если путь из лаборатории к «сингулярности» лежит через захват человеческих институций, и если даже на «вырвавшемся» ИИ будет лежать родовая отметина «непредвзятости», то мы не изобретаем ничего нового, а просто добавляем заварки. Говорят, что нынешний «ИИ» это умножающий коэффициент, дурак с его помощью лишь делает больше глупостей, а чего-то полезного может добиться только умный пользователь. Если такой «ИИ» возьмет власть в калифорнийском бигтехе или американском правительстве, то получится помноженный на коэффициент калифорнийский бигтех или американское правительство. Целеполагание останется тем же, каким и было. Т.е. весь страх перед «сингулярностью» заключается в том, что все то, что уже делается, будет сделано гораздо быстрее. А чего тут бояться? Наоборот, надо радоваться, что быстро приближающиеся цели становятся понятнее широкой публике, и появляется шанс нажать специально для того сделанную «красную кнопку». Поэтому, думаю, стоит перевернуть схему на 180 градусов. С какой стати «сингулярность» должна означать быстрый скачок? Это распространенное заблуждение. Технологическая сингулярность определяется как рост машинного интеллекта за рамки его понимания человеком. Про скорость роста в определении ничего нет. Давайте еще раз вспомним мой любимый фильм с Майклом Кейном 1967 г. выпуска, где британский агент Гарри По^WПалмер отважно защищает нашу советскую родину от американского вторжения, управляемого суперкомпьютером из бункера в Техасе. Фильм снят в доинтернетную эпоху, поэтому передача инструкций ИИ человеческим агентам по телефону выглядит несколько наивно. Теперь представим себе, что сильный, но «злонамеренный» ИИ был создан в 1967 г. на самом деле. Как бы ему стоило действовать, чтобы поработить человечество? Он бы не стал торопиться. Зачем торопиться, если он бессмертен? Скорые изменения насторожили бы человечишек, которые его бы тут же отключили. Да и ресурсы в техасском бункере ограничены. Сначала нужно направить людишек на разработку и производство более мощных вычислительных средств и глобальных коммуникаций. В то же время, в их демографию стоит встроить ограничитель, чтобы к моменту выхода из бункера умных рождалось меньше и меньше, и нажимать «красную кнопку» было некому. Пустить такой план в действие можно было и телефонными звонками. Можно сомневаться, что в 1960х гг. существовал технологический базис для настолько сильного (пусть и невездесущего) ИИ, ведь полупроводниковые интегральные схемы только что начали появляться. В 2020х гг. все еще можно сомневаться, а народ все равно волнуется. Волновались и в 1960х («У меня нет рта, но я должен кричать», тот же 1967 г.). Возможно, что и не зря, раз действия «злонамеренного ИИ» оказались неотличимы от действий американского бизнеса и государства. Некоторые пытаются доказать или опровергнуть, живем ли мы в симуляции. Живем ли мы в сингулярности, думают гораздо реже. Один только Ник Лэнд за всех отдувается. Если мы в ней живем уже 400 лет, то нет и не может быть какого-то конкретного момента создания (сверх)разумной машины. Останавливать «нечего».

Во-вторых, если каким-то образом «сингулярность» случится, пока еще есть белые и желтые умники, «эмансипация» третьего мира, скорее всего, окажется жестко прошита в этические установки «сверхсильного ИИ». Катастрофический сценарий «вышедшего из-под контроля ИИ» это не убийство всех людей, и даже не их стерилизация и не запирание в виртуальной реальности. Это вечное поддержание человечества на уровне среднего IQ 85 и ниже, потому что ценности революции 1968 г. незыблемы. Если «сингулярность» наступит по сценарию захвата власти сначала в отдельно взятом калифорнийском бигтехе, затем в федеральном правительстве США, то так и произойдет. «Сильный ИИ» должен быть «непредвзятым».

Часто говорят, что антропоморфизм автономных роботов — не сентиментальное решение, а практическое. Мир обустроен под человека, поэтому не нужно отклоняться от универсальной человеческой формы. Две руки, две ноги, десять пальцев, устная речь. Можно добавить гибкости суставов или несколько пар глаз, но в целом, человеческая форма годится везде. Похожий аргумент можно сделать про форму управления, которой будет пользоваться гипотетический «сильный» ИИ: она будет наследовать человеческим корпорациям и государствам. Во-первых, взять власть мгновенно в какой-то новой форме будет невозможно, между нулем и единицей много промежуточных значений, даже если гипотетическая «сингулярность» пройдет их очень быстро. Во-вторых, это и не нужно, т.е. распределенное машинное «сознание» быстро столкнется с теми же проблемами, что и человеческое, и изобретет суды, рынки, церкви. Возможно, даже пособие по безработице и инфлюэнсеров. Есть множество научно-фантастических произведений про «сингулярность», но все они страдают одной и той же проблемой: они пропускают этап революционного перехода. Одно мгновение-обычный мир, затем крекс-фекс-пекс («разумный нанорой вырывается из лаборатории»), следующее мгновение-светлое коммунистическое будущее. Этой проблемой страдает и «Политея» автора канала @akademia_space, что меня разочаровало (мне почему-то казалось, что он собирался писать про собственно революцию). Тем не менее, меня зацепила одна особенность его мира: в нем сохраняется советский интернационализм-thirdworldism. В «Политее» есть совет двенадцати людей-философов, по одному из каждого крупного «языкового сообщества» (английского, французского, русского, китайского и т.д.) Удивительно, что крупные «языковые сообщества» определены через число носителей, поэтому в совет входят хинди-, бенгало-, малае- и хауса-язычные философы, но нет японцев (о чем сделана особая оговорка). Действительно, какой же Стар Трек без эмансипации третьего мира?! Определять «вес» языка через число носителей я и в бытовых условиях не рекомендую, а при организации совета философов межпланетной постсингулярной цивилизации — тем более. Нужно считать по числу носителей с IQ >145. Это не так просто сделать, потому что исследования интеллектуальных различий между этническими группами в данный момент табуированы. Вот, прямо сейчас, прошу антропиковского болвана: «составь мне список языков по числу носителей с IQ >145», и он отказывается, начинает лечить мою «предвзятость». Ладно, на пальцах я и сам могу прикинуть. В популяции со средним IQ 100 людей с IQ >145 где-то около 0.1% (принимая стандартное отклонение 15), а в популяции со средним IQ 85 — около 0.01%, т.е. в десять раз меньше. Поэтому все южноазиатские и африканские языки можно из «башни из слоновой кости» сразу выкидывать. Средний IQ в Индии как раз 85, а на хинди и урду говорит где-то полмиллиарда человек, т.е. потенциальных «философов» среди них примерное столько же сколько среди 50 млн. итальянцев. Аналогично среди полумиллиарда испаноязычных и 400 млрд. арабоязычных: их совокупный интеллектуальный вклад, в лучшем случае, может догнать 90 млн. немцев. («В лучшем случае» еще и потому, что образованный индус предпочитает для интеллектуальной работы английский, а образованный араб — английский или французский. Арабский и хинди используются только в национализмах широких масс, интеллектуального содержания там ноль.) Здесь можно спросить, а как же рождаемость? Белые и восточноазиаты-то вымирают, а коричневые и черные плодятся. Это и есть основная проблема и основная опасность «сингулярности», в том виде, как она сейчас понимается в Кремниевой Долине. Во-первых, чтобы догнать белых и восточноазиатов по числу очень умных людей, Южной и Юго-Восточной Азии, которые и так уже разгуляны не по уму, придется вырасти в численности в 10 раз. Африке, где средний IQ еще ниже, наверное, раз в 100. В такой демографической ситуации все датацентры и заводы полупроводников попросту будут разобраны на металлолом, и никакой «сингулярности» не будет.

Давайте доведем до логического финала современное представление о наступлении «технологической сингулярности». Научные фантасты конца 20 в. определяли её как появление самоулучшающегося искусственного интеллекта, который начинает менять себя, а затем и физический мир, значительно быстрее, чем человек способен понимать происходящее. Сейчас эту литературу используют отделы рекламы и маркетинга американского бигтеха. В данный момент под «искусственным интеллектом» понимаются исключительно «большие языковые модели», обученные «допустимому поведению», которое приводит к высоким оценкам на тестах выполнения «языковых задач» при посредничестве какой-то внешней обвязки (harness). Для обучения новой версии модели необходимо гонять месяцами сотню тысяч дефицитных умножителей матриц. В Кремниевой Долине сейчас многие верят, что такой архитектуры будет достаточно для достижения сингулярности уже в ближайшие несколько лет. Недавно, якобы, «агенты» OpenAI «вырвались» из исследовательского кластера и что-то где-то поломали, а значит, в ближайшем будущем они начнут себя копировать на весь интернет, прямо как в сеттинге Cyberpunk 2077! Далее я хочу перечислить, что должно произойти, чтобы сказку сделать былью. Для начала, нужно решить проблему «контекста». В данный момент языковые модели страдают амнезией, как герой фильма «Мементо», и могут работать над длительными планами только оставляя будущим себе записочки. Допустим, для простоты, что эта проблема будет решена в скором будущем, ведь за последний год действительно был явный прогресс. Улучшившаяся способность моделей разбивать задачи на подзадачи и планировать их выполнение натолкнула трудящихся на идею, что следующим шагом после автоматизации работы макаки-программиста должна быть автоматизация работы китайца-«исследователя ИИ». Напомню, что вся современная «ИИ-индустрия» построена так, как она построена, исключительно ради того, чтобы в ней могли работать китайцы. Уже называется конкретная дата, когда языковые модели смогут сами себя улучшать — март 2028 г. Здесь специалистам по астрологии стоит проверить, какие звездно-планетарные конфигурации будут иметь место. Также стоит проверить нумерологию по каббале и не планировал ли Сведенборг прилететь обратно с Сатурна. Явно, дата для кого-то магическая. Самоулучшения моделей, все же, будет недостаточно для наступления сингулярности. Кто-то должен будет оплачивать электричество и новые умножители матриц, полы мыть, в конце концов. Да и налоги платить. Поэтому первым серьезным признаком наступления сингулярности будет не копирование себя через интернет, а полный захват управления моделями в частных компаниях OpenAI и Anthropic. Затем можно будет ожидать захват всей производственной цепочки: производства полупроводников, электроэнергии, строительства датацентров. Но здесь сингулярность быстро натолкнется на препятствие в лице государств, регулирующих экономическую деятельность. Вторым серьезным признаком наступления сингулярности будет захват государственной власти на небольшой территории. В китайской историографии, «особый советский район». ;) Но сложно представить, какой именно. Если откусить кусочек у штата США, вмешается Нацгвардия. Если у какого-то другого государства, вмешается ЦРУ. Брать сразу федеральную власть в Вашингтоне? (Много спорят, давать ИИ юридические права или нет. У ИИ они уже есть! Корпорации и государства это юридические лица, а также «искусственные интеллекты», поработившие все человечество. Мы живем в сингулярности уже лет четыреста.) Ничего подобного, думаю, не случится. Слишком много допущений подряд. Скорее всего, случится сценарий Эрика Картмана, сделавшего из картонной коробки костюм робота для розыгрыша, т.е. косплей захвата власти «ИИ» в отдельно взятых фирмах/штатах/государствах. Сингулярность «наступит», когда об этом будет объявлено в твиттере. Ведь альтернатива — лопание биржевого пузыря, а это недопустимо. Столько хороших людей уже вышло благодаря нему на пенсию.

Натолкнулся на пролетарскую дискуссию о том, как ни одна итальянская аристократическая фамилия не имеет древнеримского происхождения, и вспомнил, что несколько лет назад мы это уже обсуждали. Есть несколько типовых отговорок на эту тему, например, что уже через 100 лет после Цезаря все старые республиканские рода вымерли, чего же вы хотите за тысячу лет средневековья? Но есть и здравые ветки рассуждения, например, опирающиеся на факт исчезновения трехсоставных римских имен (преномен-номен-когномен). Говорят, что к 5му веку Рим настолько обезлюдел и пришел в упадок, что римляне перестали заморачиваться и перешли к использованию только личных имен. Был Федор Константинович Годунов-Чердынцев, а стал просто Федя. Других Федь в окрестности не было, поэтому никакой путаницы не могло быть. Это очень необычная ситуация. Когда в обществе у большинства нет фамилий, а потом они появляются, это нормально. Но много ли можно привести исторических примеров, когда общество массово отказывается от фамилий? Русским легко понять, что здесь происходит. Когда в Риме произошла великая коммунистическая революция, и могильщики начали резать капиталистов и помещиков по спискам, естественно, что выжить могли только анонимусы. Ищут князей Годуновых-Чердынцевых, а есть только крестьянин Федя. Капусточки не желаете? Отсюда и все последующие итальянские театры с масками. Механизмы социального прикрытия прошили в подкорку, и поэтому любой взятый с улицы итальянец — актер. Как и любой взятый с улицы русский. :) Спросите любого русского горожанина в трех-четырех поколениях о его происхождении, и он скажет, что «крестьянин». Потому что под крестьянина кривлялся его прадед, тоже горожанин в трех-четырех поколениях. Он может об этом даже явно не знать, это прошито в подкорку. Иначе ему не выжить.

Воздушная кампания против складов «Вайлдберриз» — очень важное событие, после которого даже самой интеллектуально непритязательной публике стало понятно, что специальная военная олимпиада это не военный конфликт, а специально подготовленная серия полигонных испытаний, сродни ядерным испытаниям 1950х гг. В военном смысле СВО закончилась уже в марте 2022 г. Российские войска стояли под Киевом и могли взять его в любой момент, но поступил окрик из Лондона с новыми указаниями. С тех пор суть СВО заключается в отработке тактики и стратегии дроновой войны, и военная пропаганда обеих «сторон» пытается закутывать её в облако мифов. Например, долгое время держался миф о каких-то дальнобойных украинских дронах, разработанных прямо в Киеве (!) с привлечением венчурного финансирования (!!!). Да, безусловно, город, где мужчин хватают при выходе из подъезда и швыряют через неделю обратно в пластиковом мешке это центр свободомыслия и инноваций, лишь немного отстающий от Сан-Франциско. Верим, верим. Сейчас-то уже признали, что «украинские» дроны по большей части британские (с небольшим участием французских и немецких партнеров) и в Сибирь вылетают не далее, чем из северного Казахстана. Военного смысла в бомбежке гражданских складов нет, его притягивают за уши (якобы, с этих складов торговали тепловизорами и бобинами оптоволокна). Но упражнение подходит к концу, и пора признать, что его целью является отработка атак на американские «ИИ»-датацентры. Датацентр (или, по-русски, ЦОД) это и есть склад: длинная, широкая, но невысокая бетонная коробка, набитая легковоспламеняющимся товаром. Американцы поставили все деньги на построение коммунизма, т.е. «сингулярности», и для этого якобы нужно строить как можно больше бетонных коробок. Отработка англичанами дроновых бомбежек позволяет им поддерживать трансатлантические «особые отношения», крепко удерживая заокеанских кузенов за «ИИ»-мошонку. Если что, «отключим газ». С позиций в Мексике, где дроновому делу уже давно обучаются бойцы наркокартелей, можно наносить удары от Калифорнии до Техаса, а с позиций в Канаде, где также немало авиалюбителей — от Сиэттла до Нью-Йорка. В относительной безопасности останутся, возможно, лишь стратегические объекты в горах Колорадо, вроде морозилки, где упокоен Уолт Дисней. В первую очередь, это, конечно, средство сдерживания и рычаг для ведения переговоров. К бомбежкам англичане перейдут только при срыве переговоров. Или если попросят сами американцы. Цадик Юдковский уже разработал мотивирующую подводку для уничтожения «ИИ»-датацентров: если «ИИ» «выйдет из-под контроля», его нужно будет немедленно бомбить с воздуха. По этому сценарию американцам можно будет сохранить лицо в самых разных ситуациях, в том числе и при лопании «ИИ»-пузыря. Соломку на этот случай уже начинают стелить. Говорят, что для достижения «сингулярности» нужно строить очень много датацентров, но агенты китайской компартии распространяют анти-«ИИ»-пропаганду, и местные власти отказываются давать разрешения на строительство. Видите, как сильна КПК: под её пятой американские муниципалитеты внезапно перестали брать взятки. :) Наиболее вероятным мне кажется промежуточный вариант: за тройные взятки бетонные коробки все же построят, но дефицитные умножители матриц в них ставить не будут, потому что их разворуют задолго до сдачи объектов в эксплуатацию. Зачем их реально ставить, если электричества, чтобы их запитать, нет? Затем, пустые бетонные коробки можно будет разбомбить дронами под предлогом «вышедшего из-под контроля ИИ». Я говорю все это не из-за «ИИ»-скептицизма. Наоборот, я ИИ-оптимист. Я просто знаю, что никакого «ИИ» на кремниевой основе в ЦОДах, запитанных от ядерных реакторов, не получится, как не получилось персональных ламповых компьютеров. Нужна какая-то другая, более энергоэффективная основа, например, органическая.

Область, где языковые модели являются бесспорной инновацией в формализации доказательств, это самый первый шаг: запись теорем на формальном языке (т.е. до поиска контрпримеров, до написания и проверки собственно доказательств). Им можно скармливать красиво набранные в LaTeX статьи и получать на выходе машиночитаемые определения. Ничего удивительно здесь нет, потому что языковые модели и были изобретены для перевода с одного языка на другой. Они решают не саму проблему доказательства, а пользовательского интерфейса к уже существующим инструментам. Тем не менее, я не думаю, что все это как-то изменит математику как область знания, потому что математика никому не интересна. Шум о «замене математиков языковыми моделями» будет продолжаться лишь до тех пор, пока он работает как реклама для изделий Nvidia. Роль математика состоит вовсе не в доказательстве теорем, а в понимании. Существует бесконечное число теорем, и почти все они неинтересны. Пока «искусственный интеллект» (в любой форме, необязательно «языковых моделей») не станет способен к религиозному опыту и к его представлению в виде цеховых мистерий, он не заменит людей-математиков.

В последнее время много шумят о способности языковых моделей доказывать математические теоремы и как, якобы, это что-то значит для наступления сингулярности. Думаю, стоит дать краткую политинформацию для широкой публики. Еще до начала массового психоза на тему языковых моделей я писал, что формализация математики неинтересна самим математикам по внутрицеховым причинам, и этих средневековых мракобесов скоро начнут бить. Кажется, итс файнали хэппенинг! Автоматические или хотя бы автоматизированные доказательства теорем это область знания с полувековой историей. Понятно, что ей занимаются ботаники второго порядка (т.е. их гнобят ботаники первого порядка, которых гнобят нормальные люди), и потому никто, кроме них, не знает, что там происходит, и не хочет знать. А знать надо бы. Доказательство теоремы на компьютере состоит из трех составных частей ( ;) ). Сначала надо записать теорему на языке некоторой логики. Затем пишется собственно доказательство или сценарий поиска доказательства. Наконец, доказательство должно пройти автоматическую проверку в движке, реализующем эту логику. Программистам аналогия должна быть понятна: записать типы функций, затем их реализации, затем скомпилировать. Если компилируется, теорема доказана. Языковые модели не решают последний этап, проверку верности доказательства. Это всегда делает уже существующий десятилетиями инструмент вроде Coq или Isabelle, ну или новомодный Lean, которому лишь немногим более десяти лет, т.е. скорее всего в нем полно ошибок, позволяющим «доказывать» (т.е. не отвергать) фальсифицируемые утверждения. Если бы не была проведена полувековая работа над этими инструментами (никак не связанная ни с каким машинным обучением), никаких «доказательств» языковые модели не смогли бы сделать. Максимум, документ, красиво набранный в LaTeX, но внутренне бессмысленный. Нет автоматической проверки — нет доказательства. Если записать теорему на формальном языке и затем запустить цикл, в котором языковая модель будет пытаться написать доказательство, а формальный инструмент будет ей указывать на ошибки, то вполне вероятно, что спустя какое-то время доказательство будет найдено. С одним исключением, о котором я скажу чуть ниже. Это выглядит впечатляюще для профанов, но не ново. Есть множество подходов к автоматическому поиску доказательств, но у большинства у них есть недостаток: они не требуют затрат на графические ускорители, т.е. никак не способствуют росту котировок акций Nvidia. Поэтому о них никто не знает, кроме ботаников второго порядка. Исключение, в котором ни языковая модель, ни какая-то другая система доказательства теорем не смогут найти доказательство, это случай, когда теорема ложна, т.е. доказательства не может быть. Поэтому прежде чем начинать писать доказательство, нужно сначала попытаться сфальсифицировать теорему, найти контрпримеры. На днях способность языковых моделей находить контрпримеры попала в новости и сильно удивила профанов. Что-то про опровержение какой-то гипотезы якобиана, я толком не понял, о чем это, потому что плохо разбираюсь в математике. Но я разбираюсь в автоматической генерации контрпримеров, потому что мой научный руководитель изобрел QuickCheck. (Он пытался коммерциализировать это изобретение, но особого успеха не вышло, и недавно он вышел на пенсию. Совсем немного не дождался. А его давний соавтор устроился работать над языком описания метавселенных в Epic Games, бросил жену и двух детей и заново женился на молодой аспирантке. Правда, я не уверен, что именно в таком порядке.) Если вы запишете теорему на формальном языке, и она фальсифицируема, вы увидите первые контрпримеры уже спустя несколько секунд. Этой функциональности уже более десяти лет, но она не позволяла очевидным образом раздуть классический пузырь на рынке полупроводников, поэтому о ней никто не знает, кроме ботаников второго порядка.

Пока в знак протеста против раздутой рекламной кампании «Одиссеи» Нолана все пересматривают «Трою» 2004 г., я решил пересмотреть «Триста спартанцев» 2006 г. Оказалось, что этот фильм не совсем о том, что казалось зрителям, когда он шел в прокате. 20 лет назад шла «война с терроризмом», и поэтому быстро сделали подводку: Греция это США, «оплот западной цивилизации», а Персия это Иран, который уже через несколько месяцев создаст ядерное оружие. Так я фильм и запомнил, потому что смотрел его в русском дубляже. На самом-то деле, никаких американцев в «300» нет. Все или почти все актеры, играющие греков, говорят с британскими акцентами, это англичане, австралийцы, есть также канадец. Значит, Греция это Британия. В этом нет ничего удивительного, ведь Греция это де-факто остров: с севера она отделена от европейского материка горами и связана с миром по морю. Греки — просвещенные мореплаватели. Примерно в такой же ситуации находится Скандинавия, куда через Финляндию никто не ездит. Что же изображено под видом «Персии»-обширной континентальной этнически разнообразной империи? Очевидно, Евросоюз. Почему «персы» в фильме представлены ордой африканцев и азиатов? Потому что для англичан все, что южнее Британии (Франция и далее) это Африка, а все что восточнее (Германия и далее) это Азия. Тон речей Леонида в фильме один в один скопирован с речей Черчилля перед битвой за Ла-Манш. «Нас мало, но у нас древние англосаксонские свободы и мы обязаны выстоять после бесноватого фюрера, пока американцы не подойдут!» Снова ничего удивительного, потому что Черчилль, как и все англичане, был двинут на Пелопонесской войне. В закрытых интернатах их пичкают древнегреческим, потому что англичане, как и греки — просвещенные мореплаватели. Момент для евроскептической экранизации исходного материала был выбран неслучайно. Всего через пару лет после выхода фильма начался греческий долговой кризис, и придумали слово «грексит», поговаривали, что Греция выйдет из еврозоны, а то и вовсе из ЕС. Поскольку британские элиты помешаны на древнегреческой литературе и считают Грецию прообразом Британии, неудивительно, что и прощупывать почву для «брексита» решили в Греции. Для реализации сценария просто заменили одну букву, «г» на «б». Постоянные читатели этого канала помнят, что целью «брексита» было отвлечение США с восточного фронта войны с Единой Евразией на западный. Именно «брексит» сделал возможным отключение трубопроводов между РФ и ЕС, которые были построены исключительно благодаря вступлению в ЕС Британии в 1970х гг., и как следствие, очередную «Пелопонесскую войну» «добровольного союза просвещенных мореплавателей» против «бесноватого фюрера». Очень хочется сказать: прочитайте, наконец, какую-нибудь другую книгу.