Kantor.AI

У Артура (руководителя Yandex AI Studio) в принципе очень крутой карьерный трек в AI. С интересом следил в этом году за его участием и победой в Forbes 30 до 30, поэтому вдвойне рад его интервью. Здорово, что Артур (неожиданно для провайдера моделек, которому вообще-то было бы даже выгодно продать вам побольше токенов) прямо говорит о том, что расходы на ИИ сильно зависят от оптимальности его использования. Когда все вокруг меряются количеством сожженных токенов, важно об этом помнить и оптимизировать свои подходы к применению ИИ. Что касается снижения стоимости токена с развитием ИИ, вопрос на мой взгляд чуть более дискуссионный. Принципиально скорее соглашусь, что стоимость в ближайшем будущем продолжит снижаться, но ответ ещё зависит от дефицита вычислительных мощностей, электроэнергии и прочей инфраструктуры с ростом популярности ИИ. Так что я бы советовал учиться эффективному использованию ИИ в своих задачах уже сейчас. Применять что-то и учиться это применять это совершенно разный порядок затрат и вторым лучше заниматься, пока есть определенность с ценами и в целом инструменты широко доступны.

По мотивам записи кружочка с приглашением на вебинар: кот намекает, что кого-то не того я записывал 😁😁😁

Что думаете по поводу Навье-Стокса? Гипотеза Римана на очереди или рано праздновать?

Завтра в 19:00 МСК встречаемся на вебинаре с Виктором Кантором о карьерном пути в ML в 2026 году. В кружке выше Виктор рассказывает, что будет на эфире👆 А ещё можно заранее отправить свой вопрос — Виктор разберёт вопросы участников в прямом эфире. Задать вопрос Зарегистрироваться на вебинар

Тем временем уже завтра веду вебинар перед стартом нового потока Базы ML у нас в MLinside. Если давно подумываете вкатиться в ML, но еще сомневаетесь - пишите свои вопросы в форму, регистрируйтесь и приходите :)

Венгерское чудо начала XX века, часть 1 У меня есть два очень теплых воспоминания из студенчества: теоремы Эрдеша с курсов по дискретной математике, вероятностному методу в комбинаторике и гиперграфам, а также раздел про голографию в семестре общей физики, посвященном оптике, где все начиналось со схемы Габора - одного из родоначальников голографии. И то и другое было завораживающе красиво и стало моими любимыми частями курсов. Другое теплое воспоминание, еще школьное, это задача про муху, которая летает между едущими навстречу друг-другу велосипедистами, пока они наконец не встретятся. Зная расстояние между ними и скорости движения всех участников событий, нужно найти пройденный мухой путь до столкновения. Та самая, кстати, которую главный герой рассказывает студентам в «Играх разума». Попытки просуммировать весь путь мухи - очень сложный способ решить задачу, а просто посчитать время до столкновения и умножить на скорость мухи - простой. Так вот согласно легенде, когда отца архитектуры компьютера Джона фон Неймана (а еще кстати изобретателя merge sort, алгебр фон Неймана и родоначальника теории игр) спросили про ответ в этой задаче, он дал его моментально, а на пренебрежительное «вы конечно знали подвох в этой задаче» фон Нейман словно оставаясь погруженным в свои мысли мимоходом ответил: «Какой еще подвох? Я просто просуммировал ряд». Что объединяет Джона фон Неймана, Денниса Габора, и Пола Эрдеша? Они все жили примерно в одно и то же время и все трое родились в Будапеште. А еще список можно долго продолжать: за конец 19 и начало 20 века Венгрия дала миру какое-то невероятное количество выдающихся ученых. Первое, что приходит в голову: где-то в Будапеште была очень сильная школа или очень талантливый учитель, промежуток времени как раз подходит под годы активной работы нашего гипотетического героя. Но минимальной проверки гипотеза не выдерживает: практически у всех были разные школы и разные учителя. Что же тогда объединяло этих ученых, кроме города и языка? Ответ есть, и он очень поучителен. Об этом и о том, причем здесь Марс - в следующем посте.

Про роли в промптах, часть 2 Продолжая предыдущий пост, основное на мой взгляд наблюдение дано в конце статьи: хоть роли, улучшающие ответ, и были, выбор роли под вопрос оказался сложной задачей. Если собрать оракула, который знает, какая роль лучшая, получается заметный прирост точности. Но вот попытки сначала честно подобрать роль увы не дали результата лучше, чем её случайный выбор. В жизни мы прописываем в промпте роль, понимая, что хотим получить от LLM (и даже до точной формулировки вопроса), поэтому проблема выбора роли как будто бы частично снимается. Кроме того, роль мы прописываем не просто для более точного ответа, а для более уместной стилистики. Таким образом, тезис «роли не работают» ничуть не лучше инфоцыганского «всегда пишите роль». И то и то передергивание, а в результатах, если добавить другие исследования, есть существенный разброс. Кратко что в других публикациях 2024-2025 года: Kong et al., NAACL 2024, "Better Zero-Shot Reasoning with Role-Play Prompting" - аргумент сторонников ролей. Двухшаговый ролевой промпт (роль, подтверждение от модели, задача) на ChatGPT поднял, например, AQuA с 53.5% до 63.8%; авторы считают роль неявным триггером chain-of-thought. Разница постановок со статьей, что разбирали с вами ранее: там был выбор варианта в фактических вопросах, тут рассуждение с генерацией решения. https://arxiv.org/abs/2308.07702 Salewski et al., NeurIPS 2023, "In-Context Impersonation" - эксперт своего домена отвечает лучше эксперта чужого, но та же механика внезапно вытаскивает еще и стереотипы: "от лица мужчины" модель описывает автомобили лучше, чем "от лица женщины". https://arxiv.org/abs/2305.14930 Gupta et al., ICLR 2024, "Bias Runs Deep" - 24 датасета на рассуждение, 19 демографических персон. Персона роняет точность, часть ошибок - очень интересные отказы вида "как человек с инвалидностью, я не могу решить эту задачу" (58% ошибок этой персоны было у ChatGPT-3.5). https://arxiv.org/abs/2311.04892 Luz de Araujo, Röttger, Hovy, Roth, EMNLP 2025, "Principled Personas" - 9 моделей, 27 задач. Экспертная роль в среднем не вредит и иногда помогает, но есть другое наблюдение: нерелевантная деталь в описании роли (например, имя) роняет точность почти на 30 п.п. Образование, специализация и близость домена влияют непоследовательно. https://arxiv.org/abs/2508.19764 Iadisernia, Camassa (Banca d'Italia), ICAIF 2025, "Prompting for Policy" - 2368 биографий экономистов из PersonaHub, GPT-4o воспроизводит опрос профессиональных прогнозистов ЕЦБ за 50 кварталов. Без персоны ошибка прогноза та же (p=0.31), а разброс между персонами на два порядка меньше, чем между людьми. https://arxiv.org/abs/2511.02458 Что добавили свежие публикации этого года (препринты, рецензирования не было, так что продолжаем вести наблюдение): Hu, Rostami, Thomason, 2026, "Expert Personas Improve LLM Alignment but Damage Accuracy" - наконец-то задались вопросом, почему результаты исследований расходятся. На знаниевых задачах роль вредит: MMLU 68.0% против 71.6% без роли, длинное описание хуже короткого. На задачах про формат, тон и отказы (письмо, извлечение данных, jailbreak-бенчмарки) роль помогает, и чем длиннее, тем сильнее: +17.7 п.п. отказов на JailbreakBench с ролью "safety monitor". Гипотеза в том, что длина контекста просто дает LLM сигнал «надо рассуждать». Что меня смущает в этой статье: она хоть и марта 2026 года, а исследует модели, которые с нами с начала 2025, да и в целом большие модельки не трогает, только их дистилляты. https://arxiv.org/abs/2603.18507 "When Does Persona Prompting Actually Help?", 2026 - 1140 открытых вопросов, 38 ролей, оценка LLM-судьей. Роль повышает "глубину экспертизы" и структурность, снижает ясность и прямоту. Выигрывает в консультативных доменах (медицина, психология), проигрывает на объяснительных вопросах. https://arxiv.org/abs/2605.29420 Итого: Роль в промпте может быть полезна для тона, формата, стилистики и границ поведения. Если нужен факт или расчет, роль может быть лучше убрать или сократить до одной фразы.

Здесь прекрасно все

Промпт "ты - эксперт" не повышает точность ответов LLM Гайды по промптингу, особенно в материалах свежеиспеченных AI-экспертов, советуют начинать промпт с роли: "Ты - опытный юрист", "Ты - senior data scientist". Zheng, Pei и др. (Findings of ACL) еще в 2023-2024 году проверили, влияет ли это на точность в задачах с проверяемым ответом. https://arxiv.org/abs/2311.10054 Для экспериментов выбрали 162 роли: 112 профессий (юрист, геолог, "Medical Diagnostic AI", "helpful assistant") и 50 социальных (мать, коллега, друг). В исследовании участвовало 9 моделей: Flan-T5-XXL, Llama-3 8B и 70B, Mistral-7B, Qwen2.5 от 3B до 72B. Для оценки точности использовали 2410 вопросов MMLU. Форматы "Ты - {роль}" и "Ты разговариваешь с {роль}", контроль - вопрос без роли. В результате выяснилось, что точность ответов либо на том же уровне, что и без ролей, либо хуже. Более того, можно было ожидать, что в более крупных моделях польза от ролей будет больше, но не тут-то было: вышло прямо наоборот, «вредных» ролей из всего эксперимента оказалось еще больше для моделей с бОльшим количеством параметров. Тут резонно заметить, что ссылаться на статью с последним апдейтом в 2024 году это очень сильно замороженная рыба для темпов развития ИИ в наше время, поэтому если пост соберет 50 сердечек, напишу, что еще интересного публиковали про исследование ролей в последние два года.

Мне обычно интереснее доклады, где показывают не отдельный удачный эксперимент, а весь путь модели: как её обучали, почему выбрали именно такой подход и что пришлось исправлять по дороге. На Practical ML Conf в этом смысле есть два любопытных кейноута. Николай Смолянский, который сейчас работает над world models для Physical AI, сравнит этот подход с VLA/LLM, обученными через имитацию поведения. Расскажет, почему реактивные политики ломаются при изменении среды, как world model позволяет перепланировать действия, и покажет реализацию Dreamer/RSSM, которую можно обучить на обычном ноутбуке. Александр Боймель разберёт полный цикл обучения Alice AI LLM: от претрейна, где модель получает базовые знания и способности, до алайнмента, превращающего их в полезное поведение в продуктах. Конференция пройдёт 19 сентября в Москве и онлайн. Здесь программа и регистрация. Реклама. ООО "ЯНДЕКС". ИНН: 7736207543. Erid: 2VtzqwGxY27

Про боль простого и понятного изложения сложного материала У меня, к сожалению, пока нет возможности сказать "мои курсы для души, а не для знаний", потому что мы, увы, учим всякому там машинлернингу и сопутствующей математике и программированию (хотя одна идея развлекательного курса у меня уже есть, может хоть там вздохну спокойно :). В частности, столкнувшись с тем, что успешно пройдя собес по ML после обучения у нас, слушатель может зарубиться на алгоритмической секции, мы решили добавить немного контента про алгоритмы и структуры данных во введение. Тут можно смело сказать: "Что за наивность, несколько лекций для алгосекции?". Но на самом деле пройти алгосекцию не на Software Engineer это все же не медаль на ACM взять, и что-то с этим сделать можно. Как решил поступить я: в модуле с пререквизитами к ML рассказываем несколько базовых тем (бинпоиск, сортировки, несложные жадные алгоритмы, динамическое программирование в простых кейсах, простые структуры данных), объясняем, зачем вообще этот сыр-бор, и накидываем ссылок на задачки с литкода. Во всех случаях объясняем, где это используется в работе с данными и когда выстреливает. А дальше, пока слушатель изучает ML, ему ничто не мешает решать в неделю хотя бы по несколько задачек на литкоде. После этого есть надежда, что на джунском или миддловом собесе на DS уж односвязный список человек развернет или бинпоиск напишет, не налажав в граничных условиях. Так вот, вычитывал и правил сегодня утром составленные LLMкой конспекты про уроку, где рассказывается про работу массива переменной длины (который list в питоне или vector в плюсах) и вижу опасное утверждение, что время добавления нового элемента в конец в среднем О(1). Чем опасное? Ой, в бытовом смысле ничего страшного в нем нет, тем более в целом это нормальное утверждение, особенно если вы не изучали алгоритмы серьезно. А вот если изучали, вы знаете, что есть время работы в среднем и время работы амортизационно, для работы в среднем надо обсуждать какой-то случайный вход, а амортизационно считается усреднением по большому количеству операций и часто оценивается с помощью всяких неочевидных для неподготовленного слушателя подходов вроде банковского метода или метода потенциалов. Я естественно в холодном поту бегу проверять, что там было у преподавателя в лекции: сейчас научим слушателя путать "в среднем" и "амортизационно" и его завалят на собесе. А добавлять еще приличное количество нетривиального материала, чтобы четко и понятно объяснить новичку разницу прям совсем не хочется, тем более до модуля по теорверу. К счастью, оказывается, что в лекции действительно рассказано про амортизационную оценку, так она и называется, и в целом можно сильно не переживать, только аккуратненько поправить в конспекте. Но сама проблема, как составляя понятный курс для слушателя, не посвятившего Computer Science лучшие годы жизни, не ввести его в заблуждение и не подставить так на собеседовании или в работе - очень реальная и с ней приходится работать постоянно. И, кстати, по этой причине LLMки хоть и ускоряют подготовку материалов для курсов (тех же конспектов, например), но требуют очень тщательной проверки преподавателями. Таких тревожных моментов как я описал выше у меня при подготовке любого курса в MLinside, на Физтехе и в Вышке десятки. Так что всем, кто думает, что преподавание это очень классно, приятно и вдохновляюще, вынужден сказать, что это еще и про постоянный страх подвести своего слушателя и борьбу с этим страхом с помощью перепроверок и исправления ошибок.

Кто что-то слышал про скандал вокруг лекций Ани Виленской, в её недавнем интервью в итоге поставлена жирная точка в нем. Самое классное, что Анна сделала все не по методичке, а как ей велело сердце - не пропала с радаров на две недели как ей все советовали, а пошла и нормально все прокомментировала и объяснила, еще и успешно, т.к. ажиотаж начал спадать. Хотя может быть как раз пришло время, когда всем стало пофиг, но в любом случае совпадение или нет - финал удачный. Для тех, кто пропустил: в Страдариуме вышел курс Анны про средневековую музыку, опытные музыковеды нашли в нем ошибки, о чем публично написали, а Аня публично признала их и предложила нашедшим самим записать исправления (что в целом неплохо с точки зрения поделиться славой с глубокими экспертами). Но в итоге разверзлась преисподняя: предложение было воспринято не как возможность тоже посветить фейсом, а возможно и стать соавтором и уже получить не только пиар, а как оскорбительный и унижающий достоинство ученого призыв поработать бесплатно на Анин бренд и финансовое благополучие. В итоге из-за старой как мир дилеммы людей в академических кругах - кто первый должен заговорить про то сколько платят за работу (и эмоциональной реакции на любые неустраивающие предложения) - начались метания говн, делание мемов и прочий угар в соцсетях. Додумывали все направо и налево, обвиняли и Анну в том, что не имеет права брать денег за свои лекции, и тех, кто её хейтит, в том, что не понимают, что её лекции это edutainment и про удовольствие, а не про сделать слушателя ученым-музыковедом. В общем обсуждение курса по средневековой музыке и соревнование, кто веселее додумает сказанное и сильнее оскорбится, ненадолго затмило в соцсетях войны, политику и стихийные бедствия. С одной стороны, круто, что Анна сама все пояснила и разрулила. С другой стороны даже жалко, что это закончилось: этот срачик был по-своему очень милым ❤️

Демо с ИИ-агентами почти всегда выглядит круто, а на практике все упирается в границы ответственности и безопасности. ИИ-агент — это не только LLM. Это еще и инфраструктура вокруг: где он запускается, какие инструменты ему доступны, как логируются действия. У Cloud.ru сейчас вышел Agents Space — пространство, где вся инфраструктура уже готова, а вам остается только запустить ИИ-агента. Задачи ставятся в чате, туда же можно загружать файлы и подключать сервисы. Что мне кажется важным в Agents Space: — есть коннекторы к почте, календарю и другим сервисам — необратимые операции можно поставить на явное подтверждение — можно настроить необходимость подтверждения действий вами — доступы остаются под контролем пользователя и могут быть отключены Последние пункты, на мой взгляд, особенно важны. Вопрос с агентами не в том, могут ли они иногда ошибаться. Конечно, могут. Вопрос в том, насколько дешево эти ошибки обнаруживать и насколько они обратимы. Мне кажется, это хороший пример того, куда будет двигаться массовое использование ИИ. Не обязательно всем становиться разработчиками кастомных ИИ-агентов. Но подключить готового агента и работать с ними безопасно — придется почти всем. Посмотреть Agents Space можно здесь.

Напоминаю, как понять, что человек не шарит в нашей теме: если утверждает, что он эксперт, но спрашивает «у вас тут ML или AI?» или как-то еще их противопоставляет, значит вызывайте ему санитаров. 🚑 То же самое «это ML или DS?». Различия между этими областями есть, но в 100% случаев тот, кто задает такие вопросы, их не понимает.

Кстати, если хотите промокод на скидку на Базу ML, приходите на вебинар Саши Дубейковского в этот четверг 3 сентября в 19:00 по Москве. Вебинар бесплатный, регистрация по ссылке Расскажет Саша про то, как профессия ML инженера уже изменилась и продолжает меняться под влиянием LLMок, так что будет интересно 🥰

Всех с первым сентября! Только что провел первую пару по ML у студентов в этом семестре. За 16 лет преподавания еще ни разу начало моего курса не выпадало на 1 сентября, вот сегодня впервые. Состояние после пары неприлично радостное, причем без каких-то рациональных причин. Ну только может потому что тема интересная, приятно было самому вспомнить - введение в reinforcement learning. Да и аудитория сильная, физтехи, так что можно было практически сразу формулами разговаривать, не всегда есть такая привилегия. И вопросы по делу задавали. В общем ладно, есть причины для хорошего настроения :))) Кстати у нас в MLinside тоже начало учебного года - стартует поток курса База ML. Так что если вы уже не студент, а поучиться ML тоже не прочь - приходите ❤️

Большая конференция про AI-юзкейсы и AI-скиллы из Revolut, Yandex, Doordash, Nebius, Т-банк и других ⚡️ 8-10 сентября будет очередная конфа про AI-юзкейсы от Community Sprints, на которой я тоже буду выступать :) Сходить на конференцию рекомендую всем, кто хочет оставаться на острие возможностей AI в личной продуктивности и эффективности команд ❤️ Своим опытом использования AI в работе и бизнесе поделятся продакты, маркетологи и инженеры из: • Plata • Т-банк • Nebius • Yandex • Revolut • DoorDash • Whisper AI • И других команд Только реальные юзкейсы внедрения AI в работы компаний и команд. 0 теории ⚡ Отличная возможность перенять опыт у лучших и не повторять их ошибок 😁 Большая AI-конференция пройдет 8-10 сентября со стартом в 17:00 СET / 18:00 МСК Всё бесплатно и без необходимости регистрироваться на кучу TG-каналов 🔥 РЕГИСТРАЦИЯ и подробное расписание выступлений на сайте Community Sprints 🔥

А теперь авторский ответ на два опроса выше. Про Карпов Курсы или Синергия вопрос очень простой - Синергия сейчас топ-1 российская образовательная компания по выручке (16+ млрд рублей выручки за 2025 год). И все фифифи и фуфуфу от уважаемых профессионалов конечно могут иметь свои основания, но с денежной точки зрения это очень заметный в общем объеме рынка бизнес. С ProductDo и УИИ вопрос чуть более сложный. Если мы пойдем на сайт УИИ, найдем название их юрлица (например в политике обработки данных в подвале сайта) и выясним, что это ООО "Терра Эйай", то беглое изучение на том же rusprofile.ru приведет к замечательному открытию. За последние 4 года эта организация заработала без малого миллиард рублей выручки. В два года из четырех при этом превысив 300 млн рублей в год (см. скриншот в аттаче). Можно отдельно дискутировать про прибыль (которая может быть небольшой по разным причинам), и это содержательная дискуссия, однако давайте попробуем понять, что мы знаем про ProductDo. Листаем их сайт до подвала и видим, что имеем дело с ИП. Тут можно смело заявить, что вряд ли кто-то гоняет сотни миллионов выручки через ИП, и, кстати, ошибиться. Законом не запрещено, выручка только ограничивает применяемый режим налогообложения. Поэтому ситуация из разряда верю/не верю, что при сопоставимой выручке с УИИ ребята оставались бы в формате ИП. Почему все не так однозначно, легко догадаться: идем в состав учредителей УИИ и видим... что 100% принадлежит одному физлицу. Т.е. довод про важность зафиксировать юридически доли в юрлице с большими денежными потоками внезапно ломается. Так что все, что нам остается, это легкий флер того, что одна компания - это ООО с выручкой 100-300 млн год от года, а другая - ИП. Значит ли это, что через первую не гоняют выручку по принципу "продам рубль за девяносто копеек", а на второй нет миллиардного оборота? Строго говоря нет, но матожидание плюс-минус понятное. В итоге мой вердикт - если Джин придет, берите УИИ. А лучше Синергию.

Telegram doesn't show this post on the web. Open it in Telegram to see it.