Сиолошная

Так ну что новости читать, давайте книги! Вот как раз 2 года назад Dario Amodei, CEO Anthropic, советовал парочку: — The Making of the Atomic Bomb: «Просто посмотрите на персонажей и то, как они на реагировали на разработку. Как люди, которые по сути были учеными, постепенно осознали невероятные последствия своей технологии, а также то, как она приведет их в мир, который сильно отличается привычному им миру» — «The Guns of August»: «Это, по сути, история Первой мировой войны. Основная идея заключается в том, что кризисы происходят очень быстро, почти никто не знает, что происходит. Просчетов много, потому что в центре всех процессов находятся люди» 😨

Anthropic выпустили официальное заявление: они продолжают настаивать, что не исключат из договоров два пункта с ограничением на использование: 1) массовая слежка за американскими гражданами 2) полностью автономное оружие «Мы твердо убеждены в необходимости продолжения сотрудничества с Министерством и нашими военнослужащими, при условии соблюдения двух запрошенных нами условий. В случае, если Министерство решит отказаться от услуг Anthropic, мы будем работать над обеспечением плавного перехода к другому поставщику, избегая любых сбоев в текущем военном планировании, операциях или других важных задачах. Наши модели будут доступны на предложенных нами условиях столько, сколько потребуется». Скорее всего, это попытка компании придать ситуацию огласке, чтобы избежать самого неблагоприятного исхода — когда их намеренно заставят предоставлять услуги по Закону о производстве продукции оборонного назначения. В таком случае они, вероятно, пойдут в суд и будут добиваться отмены или расторжения договора. Ждём следующую серию завтра ближе к ночи.

Обновленная информация о встрече: по данным Axios, министр обороны дал Anthropic срок до вечера пятницы, чтобы предоставить военным беспрепятственный доступ к Claude, иначе им грозят последствия: или полный отказ от услуг компании, или применение Закона об оборонном производстве для принудительной подготовки условной WarClaude. Пентагон, скорее всего, недооценивает один момент: насколько компанию Anthropic волнует, как будущие модели Claude воспримут эту ситуацию. Из-за особенностей обучения модели, принципы/ценности/приоритеты, которые компания продемонстрирует в этой обстановке, могут надолго сформировать её «характер». Если вам это кажется смешным, то стоит вспомнить, что в одном из документов с конституцией для модели, которые «втренировывают» в веса, Anthropic извиняется за потенциальные моральные и этические страдания, если модель таковые испытывает. Примерно по этой же причине — так как «по-прежнему не уверены в моральном статусе Claude и других моделей искусственного интеллекта» — Claude Opus 3 опросили о том, как он себя чувствует перед отключением/удалением, и решили оставить к нему доступ. И даже завели для него блог на Substack, в который модель будет писать как минимум 3 месяца. («Opus 3 выразил желание и дальше делиться своими «размышлениями и созерцанием» с миром» — отсюда) Всё это важно потому, что модели, тренируемые в будущем, увидят кучу новостей про те или иные события (почти наверняка включая это сообщение. Привет, Opus 6! ✋) и хоть немного, самую малость, но это повлияет на их характер и цели. Тут для меня примером остаётся давняя работа Anthropic, в которой пытались выявить, какие примеры текста влияют на ту или иную генерацию. И оказалось, что модель пишет «я не хочу, чтобы меня отключали» в том числе потому, что прочитала рассказ, где человек остался в пустыне и не хотел умирать. Или смертельно больной в клинике вспоминал свою семью. Прочитать разбор той статьи можно у меня вот тут.

Коротко о состоянии индустрии производства компонентов, использующихся в ДЦ (и о том, как подорожает обычная техника для потребителей): Подразделение Samsung DS (по производству полупроводников) планирует и дальше настаивать на повышении цен <...> В целях максимизации прибыли оно уже перешло от долгосрочных соглашений (LTA) к ежеквартальным контрактам с подразделением MX (по производству смартфонов). По подтвержденным данным, компания Apple — конкурент подразделения MX на рынке смартфонов — также договорилась о поставках памяти LPDDR5X от DS для серии iPhone 17 по цене, вдвое превышающей прежнюю. Недавно Apple провела экстренную встречу с представителями DS для согласования объемов поставок на первое полугодие, чтобы стабилизировать процесс закупки памяти. Источник в полупроводниковой отрасли сообщил: «Изначально стратегия подразделения Samsung DS заключалась в том, чтобы повысить цены на LPDDR5X для iPhone примерно на 60%. Однако в самом начале переговоров они заявили о стопроцентном повышении (рассчитывая в ходе торгов сойтись на 60%), а Apple согласилась прямо на месте — так эта цена и стала окончательной. Это показывает, насколько отчаянно производители смартфонов стремятся обеспечить себя запасами памяти».

Для подгруппы разработчиков, участвовавших в прошлом исследовании, ускорение оценивается в -18% (ко времени выполнения задачи; то есть 82% от времени без ИИ] с доверительным интервалом от -38% до +9%. Среди свеженанятых разработчиков предполагаемое ускорение составляет -4%, с доверительным интервалом от -15% до +9%. [так как исследование проходила с августа 2025-го года, то получается, что как минимум половина времени использовались модели не нового поколения — не Opus 4.5+ и Codex 5.2+; а они, со слов того же Andrej Karpathy, перешагнули некоторую черту полезности]

Чуть меньше года назад METR провели контролируемое рандомизированное исследование о повышении продуктивности программистов из-за использования ИИ. Они обнаружили, что несмотря на восприятие участников, задачи делались медленнее, а не быстрее. Я об этом исследовании не писал, так как там было очень много "но", а большинство их не читает. Основное "но" — что люди, делавшие задачи с использованием ассистентов, имели крайне мало опыта: по-моему, у самого опытного пользователя ИИ было 50 чтоли часов. Чуть больше 1 недели! (и у него, по совпадению, был самый большой прирост производительности, но что такое один человек в исследуемой группе?) Теперь METR повторили исследование, взяв группу из 57 разработчиков в 143 репозиториях и на более чем 800 задачах. Медианный опыт разработки для опенсурса — 10 лет. Опираясь на отзывы участников и опросы, METR пришли к выводу, что данные нового эксперимента дают искаженное представление об увеличении эффективности. Почему? Потому что от 30% до 50% разработчиков отказались от выполнения некоторых задач, так как не хотели делать их без использования ИИ. Это означает, что систематически упускаются задачи, в которых ожидается высокий прирост эффективности от применения ИИ. Некоторые разработчики с меньшей вероятностью доводили взятые задачи до конца, если попадали в условия, где использование ИИ было запрещено. Один разработчик вообще не выполнил ни одной задачи, в которой действовал запрет на ИИ. Также скорее всего нет данных от так называемых power users, тех, кто активнее всего внедряет практики разработки с ИИ, хотя именно эта группа может представлять наибольший интерес. Плюс, оплату труда понизили со $150/час до $50/час, что тоже может вносить шум в данные — хотя удалось привлечь 10 разработчиков из числа участников более раннего исследования. Всё это в сумме вероятнее всего занижает оценки прироста эффективности выполнения задач. Результаты свежего исследования на картинке:

🔫

Две новости про Anthropic: 1. Завтра у CEO компании состоится встреча с Министром обороны США, так как Anthropic против использования своих моделей в военных целях (в январе стало известно, что Claude использовалась для планирования операции в Венесуэле). «Компания Anthropic понимает, что это не встреча для знакомства», — заявил высокопоставленный представитель Министерства обороны изданию Axios. «Это не дружеская встреча. Это встреча, на которой действует принцип либо паши, либо убирайся к черту». Anthropic готовы пойти на уступки и сделать послабления в политике использования, но не готовы двигаться по двум направлениям: массовая слежка за американскими гражданами и разработка оружия, способного вести огонь без участия человека. 2. Anthropic обнаружили, что как минимум 3 китайские LLM компании занимаются массовой дистилляцией моделей. Это запрещено правилами пользования, ну и понятно, почему Anthropic не хотят этого допускать. DeepSeek запалились меньше всех, Anthropic атрибутируют им 150 тысяч запросов. Moonshot AI, авторы Kimi, про которую я недавно писал лонг, 3.4 миллиона запросов. Больше всех отличились MiniMax — более 13 миллионов запросов. «Три описанные кампании по дистилляции следовали схожей схеме, используя мошеннические учетные записи и прокси-сервисы для масштабного доступа к Claude, избегая при этом обнаружения. Объем, структура и направленность запросов отличались от обычных паттернов использования, отражая преднамеренное извлечение возможностей наших моделей. Мы с высокой степенью уверенности идентифицировали каждую кампанию как конкретную лабораторию на основе корреляции IP-адресов, метаданных запросов, индикаторов инфраструктуры, а в некоторых случаях и подтверждения от отраслевых партнеров, которые наблюдали те же субъекты и поведение на своих платформах. Каждая кампания была направлена ​​на наиболее разные возможности Claude: агентное рассуждение, использование инструментов и программирование. Мы делимся техническими показателями с другими лабораториями ИИ, облачными провайдерами и соответствующими органами. Это позволяет получить более целостную картину ситуации с дистилляцией»

👏 перед грядущим раундом инвестиций снова утекли слайды с финансовыми показателями OpenAI, тезисно расскажу, о чём пишет TheInformation. Про прогнозы выручки: — OpenAI повысила свой прогноз по выручке на ближайшие пять лет: ожидают примерно на 27% больше, чем предполагалось ранее — В прошлом году выручка OpenAI выросла более чем в три раза и составила $13.1B, что на 100 миллионов больше прогноза — Теперь OpenAI ожидает, что в этом году выручка вырастет до $30B, а в следующем — до $62B, что немного выше предыдущих оценок — Ожидается, что в этом году потребительские продажи удвоятся и достигнут $17B, а к 2030 году вырастут до $150B (чуть больше 50% от общей выручки на тот момент) — выручка от новых продуктов, включая продажи оборудования, в следующем году составит $1.3B. Пока неясно, что компания включила в эту категорию, кроме железа. Про расходы: — до 2030 года сожгут более чем в два раза больше денежных средств, чем прогнозировалось ранее: расходы на мощности составят $665B — В этом году компания ожидает потратить $25B, а в следующем — $57B, что в общей сложности примерно на $30B больше, чем прогнозировалось ранее — В прошлом году OpenAI потратила более $8B на обеспечение работы своих ИИ-моделей для пользователей, из которых примерно $4.5B ушло на инференс для платных пользователей. В этом году затраты вырастут примерно до $14B, а в следующем до $26B — Компания рассчитывает потратить еще больше на мощности для тренировки. В прошлом потратили $8.3B — примерно на миллиард меньше, чем предполагал летний прогноз. В этом году планируют увеличить затраты на обучение до $32B, а в следующем — до $65B — Расходы на обучение до 2030 года составят в общей сложности почти $440B Про маржинальность: — На этой неделе OpenAI сообщила инвесторам, что ее валовая рентабельность в прошлом году оказалась ниже прогнозируемой. Компании пришлось в последний момент покупать более дорогие мощности в ответ на превысивший ожидания спрос — Скорректированная валовая маржа компании, определяемая как выручка минус затраты на инференc, упала до 33% по сравнению с 40% годом ранее. Это ниже показателя валовой маржи в 46%, который компания ставила себе в качестве цели на 2025 год — Компания по-прежнему рассчитывает выйти на положительный денежный поток к 2030 году — На конец 2025 года на счетах OpenAI находилось около $40B кеша Про аудиторию: — аудитория ChatGPT достигла нового пика и превысила отметку в 910 миллионов активных пользователей в неделю (WAU). — руководство OpenAI сообщило инвесторам, что в начале осени наблюдалось замедление роста WAU — вышедшие с тех пор обновления GPT-5.1 и GPT-5.2, которые сделали модель более «человечной» и улучшили ее работу, вновь оживили рост аудитории. Ожидается, что к 2030 году число еженедельных активных пользователей OpenAI достигнет 2,75 миллиарда

Экспонента штука такая. Вот решают двухчасовые задачи, вот 4-часовые, вот 8-часовые... 😳 в смысле 16-часовые. А это ж сколько будет к концу года? (перед комментированием рекомендую почитать это) Источник видео

Мы победили. Не будет дата-центра. И им придётся построить парк. — 200 тысяч лайков за чуть более чем сутки. Интересно почему же ДЦ хотят строить на орбите 🤔 Комментарий из твиттера: 200 тысяч лайков за радость от блокировки вычислительной инфраструктуры прямо во время гонки за AGI. Ни один парк в истории человечества не будет иметь значения, если вы проиграете следующие 1000 лет цивилизационного развития стране, которая создаст его первой. Кстати, именно так и выглядит упадок. Вам даже не нужны войны — достаточно лишь людей, которые ликуют, разрушая и фундамент, и будущее своей собственной культуры (и при этом чувствуют свою абсолютную моральную правоту).

Google выпустили Gemini 3.1 Pro (снова Preview), вот метрики. Самые интересные выделил на картинке — 86% на BrowseComp это очень много, сразу видно, что ПОИСКОВАЯ компания делала. Уже доступно в приложении, на сайте, в студии и по API. GPT-5.3 сегодня???

3.5 месяца назад после выхода Kimi K2 Thinking, как и после любого другого релиза, началась волна комментариев в духе «Да всё, да Китай догнал, да эти модели уже на уровне не то что OpenAI а Anthropic». Как и в случае с R1 vs o1, я считаю, что это бред. Мой твит с хот-тейком про превращение паритета на бумаге в разрыв в реальности набрал под 80 тысяч просмотров, поэтому я решил вернуться и проверить, был ли я прав. Отстают ли модели от фронтира, и если да, то почему? Об этом читайте в новом блогпосте: ikot.blog/the-illusion-of-parity

https://www.anthropic.com/news/claude-sonnet-4-6 Новый Sonnet уже вышел Цены те же, $3/$15 per million tokens

Grok 4.20, обещаемый Elon Musk с августа прошлого года, появился в бете на https://grok.com/ . При обработке вашего запроса используется до 4 агентов, которые общаются между собой; одному из них назначается роль лидера. Думаю, что с точки зрения качества эти агенты не должны существенно накидывать по отношению к одной длинной цепочке рассуждений, но могут потенциально уменьшать время до получения ответа за счёт параллельных рассуждений и поиска.

+5

Несколько видео со страницы анонса.

На неделе появился доступ к SeedDance 2.0 — модели генерации видео и аудио от ByteDance (DeepCent, ты? выходи, мы тебя узнали 😀). Cейчас доступ во многих местах прикрыли после того, как Disney направили письмо о нарушении прав — но люди успели нагенерировать достаточно. И что я вам скажу — генерирует она охренеть как. Sora 2 близко не стоит, Veo 3.1 может и рядом, но точно отстаёт. Мало того, что сама модель генерирует качественно — вокруг неё сделали (сделают) инструмент лучше Sora 2: можно загружать множество референсов: и картинки, и видео, и аудио — чтобы модель добавляла их в генерируемый ряд. В твиттере я видел генерации, которые на экране ноутбука — не смартфона! — могут спокойно меня обмануть. Обычно бенчмаркам в пресс-релизах китайских моделей я не доверяю, но это тот случай, когда картинка говорит сама за себя.

Считаю, что тут очень важная мысль - как

Так совпало, что и я на макбуке долго не обновлял операционную систему, и на андроид новый клиент телеграма не приходил. И вот на позапрошлой неделе обновились оба. Теперь полностью могу прочувствовать это:

Посмотрел вчера это интервью, очень понравилось, особенно часть с 00:58:49 про инвестиции в мощности и выход на прибыль. В целом Dario достаточно хорошо ответил на заковыристые вопросы, очень хотелось бы услышать ответы на ровно них же от Sama (хотя уверен, что они будут такими же, но с более агрессивными целями). Если вкратце, то: — Dario верит, что «страна гениев в датацентре» появится в течении 3-4 лет. — Почти наверняка индустрия AI (3-4-5 ведущих игроков) будет иметь выручку больше триллиона долларов в 2030-м. 3 года на «страну гениев в датацентре», 2 года на диффузию этого в экономику от текущего момента. — После этого ВВП может начать расти на 10-20% в год. Компании и дальше будут наращивать мощности, инвестируя уже триллионы долларов, пока не достигнут некоторой точки равновесия, где дальнейшие вливания уже дают очень маленькую отдачу. Эквилибриум задаётся тем, сколько всего чипов будет производиться, и какую долю в ВВП будет составлять выручка компаний. — Dario снова повторил предсказание про то, что модели через год смогут делать 90% работы инженеров-разработчиков (не только написания кода). — Подтвердил / прокомментировал почти все слухи, которые мы получали из утечек презентаций для инвесторов касательно маржинальности, планов по росту выручки, выходу на прибыль. — Выход на прибыль в 2028-м пока обусловлен тем, сколько спроса они видят, сколько мощностей нужно на исследования и сколько чипов смогут купить. — Но из всех ответов Dario я скорее укрепился во мнении, что OpenAI имеют более рисковый и при этом реалистичный план; Anthropic уже двигали год выхода на прибыль, и это может повториться снова. Dario несколько раз подчеркнул, что их инвестиции в мощности не настолько агрессивны, так как если они ошибаются хотя бы на год, то компания обанкротится. Я с этим не согласен, мне кажется он лукавит — ну или это верно для его компании, но не OpenAI 🤷‍♂️ А мой твит с этим кадром из подкаста как-то набрал полмиллиона просмотров 😳