В начале мая на примѣрѣ Whisper я один раз ужé убедился (и здѣсь подѣлился этой убеждённостью) в том, что теперича (во второй четверти XXI вѣка) употребление нейросѣтей становится просто ещё одним полезным инструментом быта блоггера — и, главное, что ту или иную нейросѣть можно запускать локально (у себя же на компé), когда понадобится чего-нибудь ею сдѣлать. То есть, с одной стороны, никоим образом нельзя спорить съ тѣмъ, что так называемыя «видеокарты» давно уж показали себя не только как средство для качественного и быстрого обсчёта трёхмѣрной картинки современных видеоигр (обсчёта, десятки раз каждую секунду цѣликомъ совершающагося), но также ещё сперва как средство для добычи криптовалют (по крайней мѣрѣ в тот первоначальный періодъ, когда для добычи конкретной криптовалюты ещё не спроектирован ни один ASIC, предлагающий много болѣе выгодное соѿношеніе затраченнаго электричества к количеству вычислений), а въ послѣдніе годы и как средство для запуска всё болѣе «умных» нейросѣтей — так что, быть может, скоро начнут называть их «нейрокартами», а не «видеокартами». Но всё же, с другой стороны, ничто не запрещает запускать Whisper и на таком компé, который вообще не оборудован видеокартою, а использует единственно видеовозможности центральнаго процессора, и если процессор тот достаточно современен (то есть способен исполнять команды AVX2 и даже AVX-512), то скорость работы Whisper даже не будет требовать чрезмѣрнаго терпенія от пользователя. В частности, лично-то у меня распознавание рѣчи в Whisper происходит хотя и не в реальном времени, но всё же отстаёт от реального времени всего лишь раза в два или около того. С этим можно жить. Я не просматривал болѣе чѣмъ полуторачасовую рѣчь Бастрыкина для того, чтобы найти в ней точный момент чтения им стихов его и сдѣлать видеоцитату, выложенную здѣсь 30 іюня — с распознаванием рѣчи Бастрыкина управился Whisper часа за три с небольшим (или около того), а мнѣ на долю остался запуск поиска по получившемуся тексту (а это минутное дѣло) и затѣмъ ещё перекодирование цитаты в формат AV1. Также не пришлось мнѣ самостоятельно смотрѣть и рѣчь Путина для видеоцитаты о будущности Украины, и рѣчь Зюганова для видеоцитаты объ изъятіи вкладовъ, и интервью Лаврова для видеоцитаты о чтении им каналов в Телеграме. Даже если бы многочасовая работа Whisper жадно занимала собою всѣ ядра CPU и всю оперативную память — и, слѣдовательно, мѣшала бы самомý мнѣ нормально работать за компьютером во всё время работы Whisper — то и тогда я мог бы просто-напросто запускать Whisper перед сном, поскольку, во всяком случае, изготавливаю не болѣе одной такой видеоцитаты в сутки. Однако этого не произошло. По-видимому, распознаваніе рѣчи требует немногим больше оперативной памяти, чѣмъ объём скачанного файла так называемой «модели» (то есть совокупности вѣсóвъ натренированной нейросѣти), а это всего-навсего три гигá в случае Whisper. По-видимому, распознаваніе рѣчи не занимает собою и всѣ ядра CPU: операционная система показывает нагрузку на CPU чуть болѣе ¼ при распознавании, ещё меньше — при пропуске паузъ въ рѣчи. Это может происходить либо оттого, что закон Амдала помѣшалъ разработчикам хорошенько распараллелить задачу, либо оттого, что реализацию Whisper для FFmpeg собирали разработчики, приравнявшие количество потоков исполнения к количеству ядер CPU — а так как ядра CPU в моём компé являются двухпоточными, то и CPU оказывается занят не болѣе, чѣмъ наполовину. В этом послѣднемъ случае такие разработчики могут быть, что называется, «косорукими» (то есть не задумавшимися о самóй возможности двухпоточных ядер процессора), а могут быть и предубеждёнными, то есть слишком сильно усвоившими тотъ извѣстный фактъ, что двухпоточность ядер процессора всё ещё не означает полноцѣннаго удвоенія количества ядер его — и оттого впредь готовыми слѣпо руководиться этим фактом несмотря на то, что увеличение количества потоков за предѣлы количества ядер всё ещё означает же нѣкоторый рост производительности (и что неполноцѣнность дополнительных потоков означает то одно только, что рост этот всё же не является строго линейным). И хотя я ужé замѣтилъ, что отставание нейросѣти при работе на CPU от её же работы на GPU не кажется мнѣ чрезмѣрнымъ в бытовом смысле (то есть что даже без современной видеокарты не возникает за сутки такое количество нейросѣтевыхъ задач, для которого не хватило бы одного только процессорного времени и потребовалось бы ещё видеокартовое), но к этому оцѣночному суждению хотѣлось бы прибавить ещё и подсчёт числовой оцѣнки величины отставания. И подсчитаю. Понятно, что различие в скоростях будет изрядно зависѣть от модели, причём не только от модели нейросѣти, но также и от модели оборудования. Под конец 2026 года полезнѣе всего разсуждать (и поэтому я буду разсуждать) на примѣрѣ сравнения одного из лучших в настоящее время процессоров (9950X) и одной из лучших в настоящее же время видеокарт (RTX 5090). В качестве отправной точки возьмём, что про Whisper на странице «Best GPU for Whisper: What the benchmarks show in 2026» в настоящее время пишут, что RTX 5090 работает с той же моделью Whisper, которую и я сам предпочитаю («large-v3», но не «turbo»), в 24,8 раза быстрѣе реальнаго времени — и, слѣдовательно, раз в пятьдесят быстрѣе CPU (считая скорость работы на CPU равною около половины скорости реальнаго времени, как у меня). Но надо ещё раз оговориться, что оцѣнка скорости CPU — это «оцѣнка снизу», коль скоро занятость процессора задачею показывается у меня менѣе чѣмъ половинною. Как эту скорость нужно соотносить съ тѣмъ обстоятельством, что на сайте NVIDIA полныя характеристики RTX 5090 упоминают о наличии 21 760 ядер CUDA, что болѣе чѣмъ на три порядка превосходит количество задѣйствованных у меня ядер CPU во время работы Whisper? — а нужно просто не считать ядра GPU и ядра CPU равными (и даже близкими) по вычислительным возможностям их. Оказывается, одно ядро CUDA на карте RTX 5090 считается способным выполнить за один такт всего одну операцию FMA (fused multiply-add) над 32-разрядными числами с плавающей точкою, что равняется двум обыкновенным операциям с плавающей точкою, при подсчёте FLOPS используемым. На указанной на сайте NVIDIA частоте Boost (2,41 ГГц) получим около 4,8 гигафлопс на одно ядро. Суммарная мощность 21 760 ядер окажется чуть менѣе 104,88 терафлопс. Правда, эту оцѣнку возможности выполнить одним ядром «за один такт всего одну операцию FMA» поневоле приходится считать не точною как есть, а выводимою как частное в результате арифметическаго дѣленія двух фактов: во-первых, количество исполняемых за один такт операций FMA равно 128 штук на каждый потоковый мультипроцессор (streaming multiprocessor) согласно документации на сайте NVIDIA, а во-вторых, количество ядер CUDA опять же равно 128 штук на каждый потоковый мультипроцессор: конкретно для RTX 5090 вон тот лог запуска deviceQuery на Гитхабе упоминает «170 мультипроцессоров, по 128 ядер CUDA на мультипроцессор, итого 21760 ядер CUDA» ближе к началу. А вот любая модель CPU, поддерживающая систему команд AVX-512 (впервые реализованную в 2016 г.), может считаться исполняющею FMA за один раз над шестнадцатью 32-разрядными числами (16×32=512). Ядра процессора 9950X (или, во всяком случае, ему предшествующаго 9900X) наблюдались способными без задержки исполнить за один такт двѣ таких FMA-операции (что равняется вот ужé 64 «обычным» операциям с плавающею точкою за такт), что при тактовой частоте Boost (5,7 ГГц) достигнет 364,8 гигафлопс на одно ядро. Суммарная мощность 16 ядер составит чуть менѣе 5,84 терафлопс. Раздѣливъ одно количество терафлопсов на другое, мы видим, что для этого рода операций видюха RTX 5090 оказывается примѣрно раз в восемнадцать производительнѣе, чѣмъ проц 9950X. Показательно, что приблизительно во столько же раз различается не только скорость вычислений над числами с плавающею точкою, но и скорость работы с памятью: ужé упомянутыя характеристики RTX 5090 содержат упоминание о том, что эта видюха общается со своею памятью GDDR7 по 512-битной шине со скоростью 1792 гигабайта в секунду, и это нам остаётся сравнить съ тѣмъ, что CPU при работе по двум каналам DDR5-6000 передаёт ровно 96 гигабайтов в секунду. Разница в 18⅔ раз.