Сиолошная

Я согласен с тезисом Вити Кантора, но считаю, что это само по себе плохо. Ни Андрею Карпатому, ни Дваркешу Пателю не нужно было писать кликбейты — они выезжают на супер качественном материале в топ-0.001% для своей целевой аудитории и не размениваются по мелочам. К этим двум, которые сразу пришли в голову, в ряд скромно добавлю себя, так как считаю, что мой канал и media presence выросли тоже из-за качества, а не кликбейтности. Для тех, кто не следил и не интересовался — я никогда не покупал (и не продавал) рекламу, а количество взаимных упоминаний по договоренности с другими каналами, на все из которых я был подписан задолго до, можно пересчитать по пальцам если не одной, то двух рук. Поэтому весь рост сводится к контенту и реакции на него. Из 8 постов на хабре/VC я заголовки и обложки только 2 могу немного отнести к категории кринжа (тут частично @RationalAnswer постарался, если бы я делал всё один, то было бы чуть иначе), хотя сравнивая с другими по палате и то кажется адекватным. В моей картине мира кликбейт и кринж зачастую выступают как шорткат к большим цифрам, что является плохой самоцелью. Но увы, для многих именно это и есть цель. Может быть я спросонья плохо думаю, но сходу не могу вспомнить действительно хороших интересных авторов видео/блогов/статей/итд из индустрии, которым приходилось привлекать внимание кринжом и кликбейтом [я не говорю про YouTube/TikTok]. Хотя скорее всего это является моим баесом, так как на кринжовых кликбейтеров я не обращаю внимание, и как следствие они в этот список и не попадут.

«...учитывая контекст, я почти уверен, что адвокаты Илона Маска, возможно, сильно облажались» — не то, что я ожидаю прочитать в новостном материале по делу, В КОТОРОМ СУДИТСЯ САМЫЙ БОГАТЫЙ ЧЕЛОВЕК МИРА, КОТОРЫЙ МОЖЕТ НАНЯТЬ ЛЮБЫХ ЮРИСТОВ. Самого Elon уже опросили как свидетеля (он признался, что xAI дистиллировала модели OpenAI 😂), а за ним вызвали Jared Birchall, финансового управляющего состоянием миллиардера. TLDR: — в феврале 2025-го Elon сделал ставку в $97.4 миллиарда долларов за НКО OpenAI. С его слов, он хотел задать рыночную цену, чтобы в ходе раздела акций с коммерческой OpenAI некоммерческая не была усечена. На эти цифры должны были смотреть главные прокуроры, одобрявшие процесс конвертации. — один из юристов команды Elon Musk задал несколько вопросов по этому поводу — ...что позволило юристам OpenAI начать спрашивать по этой же теме и выяснить: а как получили оценку? а кто готов был давать деньги? а почему так? а какое вообще вам дело до того что происходит? И так далее. Дело в том, что никаких документов в рамках дискавери не было предоставлено, так как считалось, что это вне рамок дела. Jared Birchall отвечал не очень — многое не помнит, многое не знает, что-то слышал от кого-то где-то там-то. — тут уже в опрос вмешалась судья, которая выгнала жюри присяжных из зала (а почему не выгнали журналистов? это как?) и сама начала задавать вопросы, пытаясь разобраться, как же без всяких оценок пришли к цифре около ста миллиардов, а главное на основе чего собирали инвесторов, чтобы сделать ставку. Сто миллиардов сложно без какого-то обоснования собрать. Новость кончается так: «К сожалению, задав вопрос о сделке с xAI в самом конце прямого допроса, команда Маска, возможно, открыла дверь для дальнейшего расследования. Вы можете спросить: «открыла дверь для чего?», и ваше предположение будет таким же верным, как и мое. Дальнейшие дискавери документов? Возможно, что-то о антиконкурентном поведении? Могу сказать вам, что для Elon Musk это не сулит ничего хорошего» Суд идёт дальше, но следующий раз жюри и допрос вернутся в понедельник.

Две новости: — Anthropic начали обсуждения следующего раунда инвестиций; никаких бумаг пока не подписано, но компания рассматривает возможность привлечения капитала при оценке в $900B. Это чуть больше, чем у OpenAI в начале месяца ($852B). Наверное, где-то через месяц-полтора раунд закроют и объявят официально. Очень интересно будет посмотреть, какие компании вложатся, и войдут ли инвесторы с Ближнего Востока и суверенных фондов. — Anthropic хотели раскатать доступ к Mythos, своей самой мощной анонсированной но закрытой модели, на 120 организаций (с текущих ~50). Белый дом пока что запретил это делать, ссылаясь на важность технологии (вдруг попадет не в те руки) и переживания о том, что компании не хватит мощностей для поддержания спроса... самого государства. Да-да, вы прочитали правильно: несмотря на то, что Министерство обороны объявило компанию риском в цепочке поставок, государственные агентства всё равно пользуются моделью (правда не ясно, получилось ли так в ходе дополнительных переговоров, или всё в рамках 90-дневного срока, который выделили агентствам на переход с технологий Anthropic).

+1

🥺 пока я разбираю предыдущую статью DeepSeek, они выпускают новую — наконец-то про работу с изображениями! Обновлений не было кажется с декабря 2024-го! Статья: PDF на GitHub Thinking with Visual Primitives, как следует из названия, обучает модели и думать, и выявлять объекты (примитивы). Вместо 100 слов — 5 картинок-примеров из статьи, от «посчитай людей на картинке» до «пройди лабиринт». На выбранном наборе бенчмарков обходят GPT-5.4 и Gemini 3 Flash, при этом используя гораздо меньше токенов в контексте (=дешевле и быстрее для пользователя)

У Dwarkesh новое видео, на этот раз не интервью, а вопросно-ответная лекция с одним из создателей TPU, делающим сейчас свой стартап. https://youtu.be/xmkSf5IS-zw Анки-карточки к лекции: https://reiner-flashcards.vercel.app/ В лекции поговорят про то, как прикидывать цену токенов моделей, как и почему возникает трейдофф скорости и цены (вот эти Fast-моды в Codex/Claude Code) и многое другое. Мне интересно, пока смотреть не буду — готовлю всем сюрприз про дипсик 😮

Хорошо, что новый метод не даёт погрешность в 2 раза 😨 (если кроме шуток, то в статье есть и интересные тезисы — например, какие из моделей OpenAI были обновлением/тренировкой новой базовой модели, и в целом ранжирование моделей скорее ближе к правде, чем нет)

Если сделать грубую прикидку, то DeepSeek потратили на предтренировку DSv4 Pro примерно 10^25 FLOPs (оценка на основе количества токенов, написанных в статье, и количества активных параметров). Для сравнения, уже появляются датацентры, где устанавливают по 100'000 видеокарт (например, у Elon Musk и xAI — правда карты предыдущего поколения, Hopper, а не Blackwell. Прямо как у DeepSeek). На таком объеме с утилизацией 22% (что ниже достижимого) 10^25 FLOPs можно выжать за...18 часов. То есть такую модель можно обучить ЗА СУТКИ😦. Китайцы там поди пару месяцев потели-высиживали тренировку. Понятно, что нужно настроить инфраструктуру, подготовить данные, написать очень эффективную тренировку, но всё это так и так делается и будет делаться дальше. Плюс после предтренировки нужно ещё запускать SFT, RL, дистилляцию — заняться есть чем. И всё же... the compute gap real.

🤣 Микрофон адвоката Илона Маска выключался четыре раза за время его вступительной речи по делу «Маск против OpenAI». В пятый раз федеральный судья заявила: «Ну что могу сказать... Нас финансирует федеральное правительство». Из других приколов — судья также попросила не активничать в социальных сетях, пока идет дело. Илон на днях репостил буквально каждую новость, где что-то было плохо сказано про Сэма Альтмана. Даже не просто репостил — некоторые из них были платно забущены в рекомендациях, так что появились на верху ленты у многих пользователей 🙂 Следить за текстовой версией хода суда можно на CNBC

Telegram doesn't show this post on the web. Open it in Telegram to see it.

Не коррозия, а «хорошо известное поведение металла». Сейчас будет урок европейского космического новояза и это абсолютно феерическая история. На прошлой неделе развернулась ещё одна драма по лунной станции Gateway, комментариев Джареда Айзекмана на выступлениях в сенате и небольшого пожара внутри ESA. Следите за руками: - В 2021 году NASA заказало у Northrop Grumman модуль HALO для Gateway. - Сам контракт по фиксированной стоимости за $935 милллионов и сдачей в 2024 году. - Northrop Grumman заказали производство бочки для жилой части у европейской Thales Alenia. - Также ESA заказали у Thales производство готового модуля I-HAB для Gateway за €327 миллионов. - ESA также курируют производство обоих национальных проектов для Gateway. - Thales уже делали модули для МКС и поставляют бочки для грузовика Cygnus в Northrop Grumman, так что это «логичный выбор подрядчика». - Thales также участвуют в производстве модулей для частной станции/блоков для Axiom (это будет важно позже). - В 2025 по отрасли расползается информация, что Thales не могут сдать ни HALO, ни I-HAB из-за коррозии бочек. - В 2026 администратор NASA Джаред Айзекман замораживает программу Gateway для создания базы на поверхности. - На последних слушаниях в сенате перед профильной комиссией, которая в том числе влияет на решение о финансировании станции, Айзекман открыто говорит, что NASA не могут принять модуль HALO из-за коррозии элементов на стороне подрядчика (это одна из веских причин для отмены Gateway). - Начинается срач, что Айзекман открыто кинул под поезд европейских партнёров (которые задержали изделие на 3 года), и ситуация «не настолько серьёзная» (нарушение спеков сдачи объекта). - ESA якобы «не были в курсе» того, что Айзекман честно и открыто ответит на вопрос профильной комиссии в сенате о состоянии станции Gateway (видимо надо было врать под присягой). - Сегодня ESA и Thales передали заявление сайту Europeanspaceflight о «хорошо известном поведении металла», буквально с формулировкой A well-known metallurgical behavior. - И вообще компания уже «сталкивалась» и «решала подобные проблемы», а такое «поведение металла уже было десятки лет назад при производстве модулей для МКС», но почему-то не получилось предотвратить «используя преимущества экспертизы». - Ситуацию с HALO для Gateway обещают исправить к «концу третьего квартала 2026», то есть скорее в начале 2027. - Также Thales работает с ESA над исправлением аналогичной проблемы для I-HAB, но без сроков. - Журналист Эрик Бергер также написал, что *барабанная дробь* и у модулей для Axiom есть проблемы с коррозией. А теперь контекст, почему так носятся с этим, тут 2 фактора: - У ESA до сих пор нет нового плана по орбитальным станциям на эпоху после МКС, точнее он был до марта этого года с лунной Gateway. В отрасли есть байка, что NASA пытались уже некоторое время продать/передать/обменять существенную часть Gateway на европейский баланс, но ESA отказались от такого предложения (слишком дорого и всё равно зависимость от США по логистике), своей станции на НОО пока также нет, а летать куда-то надо. И пока NASA хотят сфокусироваться на поверхности и базе, у ESA просто нет направления для своей пилотируемой космонавтики. Поэтому база *пока что* менее интересна, чем орбитальная станция, отсюда и отсутствие новых договорённостей и видимой поддержки плана Айзекмана. - Thales является одним из столпов европейского космоса при ESA и публичный кейс, в котором важный заказчик отказывается принимать изделие с нарушением спеков — катастрофа для пиара и финансовые риски на будущее. Бизнес компании, включая модули для Axiom, строится на репутации и сдачи заказов, а если проблемы с национальным проектом, то их на производство нельзя полагаться. Это одна из причин, почему Vast не стали аутсорсить у них производство (и не прогадали). Не забываем и про Northrop Grumman, которые не хотят брать на себя издержки, хотя это и их косяк по точкам контроля, как и постоянная смена требований со стороны NASA. В итоге, за замороженный американский модуль будет расплачиваться европейский налогоплательщик.

Сегодня на Лондонском марафоне произошло невероятное: марафонскую дистанцию впервые* пробежали менее, чем за 2 часа, при этом сразу 2 человека. Но во всех новостях и на всех фото только один — тот, что пришел первым. За второго грустно — он тоже много тренировался (UPD: аххаха нет написали что это его первый марафон 😂), тоже выдающийся атлет, и чуть сложись судьба иначе был бы первым, кто выбежал из 2 часов. Но нет. *: предыдущий забег не был засчитан из-за пейсмейкеров, задававших темп бега.

В очередной раз увидел, как одна модель смогла исправить баг, который друге не могли. Такое происходит постоянно, и часто истории продаются как «блин вот из-за такого видимо придётся переходить с модели X на Y». При этом я во многом не считаю такие примеры показательными. Давайте подумаем почему. Во-первых, навыки модели во многом обусловлены данными и задачами, на которых их тренируют. Из-за этого даже модель, которая лучше в среднем по широкому набору задач может проигрывать в отдельных подзадачах каки-то доменов. Вот одна компания обучала модель искать баги одним пайплайном с такой-то инструкцией, и LLM научилась, а у другой было гораздо более обширно, но конкретно такой аспект не выучился. Во-вторых, модели недетерминированы, и что не решается 1 запуском может решаться 3, 5 или 10 попытками. Может просто так получиться, что в запросе к другой модели чуть больше повезло. В-третьих, все такие тесты подвержены проблеме восприятия. Когда новая модель решает что-то, что не решила старая, то мы автоматически предполагаем, что она решила бы всё, что у меня решала предыдущая. С такой точки зрения кажется, что нужно переходить на вот эту новую модель — она ведь ничем не хуже, а только лучше. Но это не так: все задачи, которые у нас сразу сработали на первой, не обязательно работают на второй. И сменив модель можно быстро попасть в ситуацию, где уже привычные вещи не работают (кстати, поэтому менять модели сложно — вроде привык, а вот какая-то достаточно простая штука не работает, и всё, кажется, что супер-тупая; хотя надо просто по другому промптить). Такая картина бывает даже с опенсурсом, когда условный DeepSeek решает проблему, которую не смог решить Opus. Является ли один-два таких примера показательными? Конечно, нет. Что может быть каким-никаким прокси сигналом — это сколько таких заявлений в целом появляется при релизе по отношению к предыдущим (и важно делать поправку на аудитории моделей). Но поскольку такую аналитику делать никто не будет, то и говорить нечего 🤷‍♂️ А для конкретного пользователя действительно может оказаться, что под его стак (язык + библиотеки + LLM-клиент + как он промптит + что угодно) одна модель лучше другой, если подобные ситуации повторяются часто.

Neuralink напоминают, что они работают над прототипом для управления робо-рукой силой мысли (тот же чип в голове, что и для управления компьютером). По показанным демонстрациям самое впечатляющее на 0:32 (если это управляется не теле-оператором с джойстиком), когда трубочку насаживают на маленький колышек. Для людей, которые несколько лет прикованы к койке и не то что передвигаться не могут, а даже просто что-то держать — это невероятное увеличение их автономности и уменьшение зависимости от окружения.

Через неделю начинается судебный процесс Musk v Altman, в ходе которого их обоих, а также многих директоров OpenAI и Microsoft, вызовут на трибуну для ответов под присягой. Судебный процесс обещает стать одним из самых масштабных зрелищ противостояния двух сил, которые когда-либо порождала Кремниевая долина. Обе стороны — компании на триллион долларов, Elon вообще самый богатый человек в мире. Это не первый и даже не второй иск от него в сторону OpenAI, но первый, который дошёл до слушания в зале суда. В понедельник компании будут выбирать присяжных (ChatGPT говорит, что этот процесс не затягивается, и заканчивают в тот же день или в худшем случае за 2-3), а потом пойдет замес. Elon утверждает, что стартап нарушил данные ему обещания и по ряду пунктов нарушил свою благотворительную миссию. Он добивается возврата активов. Экономист с его стороны оценил долю в 109 миллиардов долларов 😂, в то время как OpenAI оценивалась в 500 миллиардов долларов. При последней оценке OpenAI эта доля может составить 187 миллиардов долларов (судья уже сказала, что экономист «взял цифры из воздуха»). Напомню TLDR: OpenAI уже предлагали акции Elon'у ранее, и он отказался, а до этого, ещё до ухода, он предлагал сделать компанию коммерческой и объединить её с Tesla. Юристы OpenAI наверняка будут ссылаться на это. Они также будут утверждать, что Маск слишком долго тянул с подачей иска, и срок давности истек. Если жюри признает OpenAI виновной, Elon также просит судью отменить октябрьскую реструктуризацию OpenAI, в результате которой коммерческая часть некоммерческой организации была преобразована в корпорацию. Юристы, следящие за делом, заявили, что суд вряд ли вынесет подобное деструктивное постановление, так как сделка была одобрена двумя генеральными прокурорами. Лично я думаю, что Elon иск проиграет — но в моё «проиграет» входит и исход, где OpenAI выплачивают какую-то очень маленькую сумму (условно те же 38 миллионов, которые Elon вложил) и больше ничего не меняется. То есть иск не будет удовлетворён в хоть сколь нибудь значимом объеме. Elon уже сказал, что ему-то деньги не нужны, поэтому всю сумму должна будет получить некоммерческая часть новой OpenAI 👀 Будем следить за ситуацией, запасаемся попкорном 🍿

Вот в этой табличке я просил GPT посчитать разницу в эффективной цене моделей при использовании кодинг-агента. Получилось, что GPT-5.4 в 2 раза дороже большой DeepSeek v4 Pro, а GPT-5.5, соответственно, в 4 раза. Но при этом важно учитывать эффективность рассуждений — моделям OpenAI нужно меньше токенов, чтобы достичь такого же или лучшего результата. Пока что это сравнение можно сделать лишь на основе одного бенчмарка, TerminalBench 2.0 — обе компании выпустили графики, где по горизонтали количество токенов, а по вертикали качество. Как иллюстрация: GPT-5.5, чтобы достигнуть 75%, нужно сгенерировать 7000 токенов. DeepSeek v4 Pro для 68% нужно 50 тысяч. Но есть сомнение, что горизонтальная ось здесь одинаковая: у DeepSeek подпись «Total Tokens», так что сюда могут входить описание задачи и результаты вывода в терминале. С другой стороны, DeepSeek-V3.2 вон тоже какое-то качество показывает на 10-15 тысячах токенов. Так что скорее всего разница какая-то есть, но она точно не в 7 раз. Для более точного сравнения нужно подождать прогон от Artificial Analysis, ну и побольше других бенчмарков, которые тоже замеряют эффективность. (и всё это — не говоря про то, что DeepSeek традиционно медленно генерирует токены, так что разница в скорости решения вашей задачи может быть больше, чем в 4-5 раз)

Как же всё таки приятно видеть возвращение табличек, где уместно, в GPT-5.5. Welcome back, o3 😊

На картинке с сайта под табличкой есть приписка: Из-за ограничений в вычислительных мощностях текущая пропускная способность сервиса весьма ограничена. После запуска Ascend 950 [GPU от Huawei] во второй половине этого года ожидается значительное снижение цены на DeepSeek v4 Pro.

😂

🍿 самая интересная часть

Вышли превью DeepSeek v4: 🔹 DeepSeek-V4-Pro: 1.6T total / 49B active params. 🔹 DeepSeek-V4-Flash: 284B total / 13B active params. Статья тут Архитектурные фичи: — новые виды аттеншена для поддержки длинных контекстов: CSA и HCA (третья картинка) — mHC из недавней статьи — Engram нет — претрейн на 32Т токенов с Muon, FP4 Играться можно на сайте deepseek.ai В API тоже есть, $0.14/$0.28 за Flash и $1.74/$3.48 за Pro~ Happy DeepSeek v4 day everyone