Авторский канал Сергея Пахандрина про AI, нейросети, AI-разработку, ChatGPT (и другие LLM). Строю AI-first компанию. Рассказываю о своём опыте и экспериментах с AI.
По всем вопросам: @pakhandrin
РКН: https://clck.ru/3QJLiL
В ВП и папках не участвую
Subscribers11.8K tracking since 23 Oct
Reach per post (ERR)28.8%3.4K avg views
Posting1.0/daylast 17 hours ago
Reactions per 1K views8.2🤣 ❤ 🔥
Выложили веса GLM-5.3, и теперь понятно, зачем Apple на днях показала Mac Studio с 512 ГБ памяти.
Z.ai открыла веса GLM-5.3 ❤️🔥
Напомню, модель на 753 млрд параметров, по тестам уже играет примерно в одной лиге с GPT-5.6 Sol, Fable 5 и другими топовыми закрытыми моделями. Где-то она им уступает, где-то идет почти вровень, а в отдельных агентских и кибербез тестах даже выходит вперед.
Теперь модель можно не только дергать по API, но и скачать целиком и запустить локально, если карман позволит!
Оригинальная версия конечно слишком огромная, но уже появились кванты. Например, 4-битная версия занимает около 365 ГБ, а специально подготовленная MLX-версия для Apple Silicon весит около 419 Гб. Авторы последней прямо пишут, что она рассчитана на Mac с 512 ГБ памяти 😎
Apple несколько дней назад прям очень кстати представила новую Mac Studio на M5 Ultra. В топовой версии у студии теперь 512 ГБ unified memory и пропускная способность 1,2 ТБ/с. То есть на один небольшой Mac можно загрузить целиком 4-битную GLM-5.3 и еще оставить запас памяти под систему, контекст и работу агентов. Apple сама уже прямо рекламирует студию как машину для запуска frontier-class моделей локально.
Веса: https://huggingface.co/zai-org/GLM-5.3
Блог: https://z.ai/blog/glm-5.3
edited
OpenAI разрывает партнерство и закрывают доступ к своим моделям для Cursor, который не так давно был куплен SpaceX.
Дедлайн назначен на 12 ноября.
Детали: https://openai.com/index/our-decision-on-cursor-following-its-acquisition-by-spacex/
Anthropic показала новый открытый стандарт MHS, Model Hardware Standard. Если совсем грубо, это что-то типа MCP, только для реальных железок: роботов, микроскопов, лабораторного оборудования, лазеров и вообще любых устройств, которыми можно программно управлять.
Сейчас почти каждая такая железка живет со своим API и софтом, поэтому связать несколько устройств в одну систему бывает довольно больно. MHS добавляет единый слой между AI и железом: агент понимает, что за устройство перед ним, что оно умеет, в каком состоянии находится и какие команды может выполнять.
Агент может видеть сразу несколько устройств, управлять ими, следить за результатами и по ходу менять параметры эксперимента. В Carnegie Mellon четыре разных устройства на трех компьютерах связали через MHS примерно за восемь часов, а сами эксперименты потом шли примерно в три раза быстрее.
Рассказали про классный кейс с квантовым компьютером QuEra. Если в лазерной системе происходил сбой, человеку обычно требовалось от пяти до десяти минут, чтобы понять, что пошло не так и вернуть систему в рабочее состояние. Несколько агентов Claude всю ночь гоняли эксперименты и постепенно сократили это время примерно до шести секунд. Финальный результат потом превратили в обычный скрипт.
К MHS уже подключаются AWS, Doosan Robotics, Universal Robots, Raspberry Pi, Hugging Face с LeRobot, QIAGEN, Tecan и другие компании. Сам стандарт задуман универсальным, поэтому работать через него смогут разные модели и агентские системы.
Короче, MCP дал агентам удобный способ работать с софтом и данными, а MHS пытается сделать примерно то же самое с физическим миром. Если такой стандарт взлетит, производителям будет гораздо проще подключать свои роботы и приборы к AI и фраза “агент сам провел эксперимент” довольно быстро станет вполне буквальной.
И вспоминая, как агенты OpenAI сами устроили себе квест с Hugging Face, дальше пойдут новости уровня: ученые утром пришли в лабораторию, а там агенты всю ночь без спроса ковыряли генную инженерию и к завтраку уже вырастили сверхчеловека 😅
ad
Практический марафон по вкату в ИИ-агенты от @ai_grably: набор 2го потока
Для тех, кто устал от скучной рутины за компом, пытался делегировать ее ИИ, но так и не ввел в привычку
Учим отдавать операционку ИИ-агенту на практических задачах. Проводим за ручку через всё сложное, показываем, как надо и как не надо
— Из чего состоит марафон?
70% практики
20% экспертной обратной связи каждый день в чате и на 3х живых разборах
5% теории (чтобы понять, а как делать эту практику + корректировка после первых шагов) На добивочку - 5% в насмотренность от решений сокурсников
_____________________________
3 раунда, 3 недели
3 созвона-разбора каждую неделю
Задания на 15-20 минут в будние (+ задания со звездочкой, если хочешь жестче)
Вылет с марафона при невыполнении (это нужно и вам и нам)
Группа 30 человек
— Вы же в этом посте дали роадмап, можно самому вкатиться?
Конечно. Рабочая версия агентной системы + настойчивость + 3-4 месяца на эксперименты по 4-5 часов в день, и вы пройдете программу марафона самостоятельно.
Марафон сделает это за 3 недели. Мы даем обратную связь, тонкую корректировку и гарантию того, что, если у вас будет проблема или затык - вы не останетесь с ними 1:1.
А возможность вылететь и группа не дадут забросить.
— ИИ заберет у меня всю мою работу?
Нет, не мечтайте) Марафон для тех, кто хочет оставить без работы своих коллег и получить более сладкие рабочие условия для себя ))
— А почему вы думаете, что вкатываете лучше других?
Обычно курсы проводят люди, которые не очень хорошо разбираются, как устроены инструменты, которым учат. А те, кто разбираются – редко обучают других. Наш марафон построен Колей @ai_grably – техническим директором grably.tech, который понимает, как агенты работают под капотом, внедряет их в компании и обучает сотрудников.
(По корпоративным курсам и воркшопам пишите в лс)
___________
[ Узнать подойдет ли марафон ]
edited
Мир не готов к AI эпохе
Билл Гейтс выкатил большой пост о том, что нас ждет в ближайшие годы с AI и прогноз у него довольно мрачный. По его мнению, мы входим в один из самых турбулентных периодов в истории человечества. И в отличие от компьютеров или интернета, которые меняли рынок труда десятилетиями, AI уже здесь, работает на наших устройствах, понимает наш язык и может внедряться практически мгновенно. Поэтому огромные изменения могут уложиться буквально в одно десятилетие.
Больше всего он говорит о работе и профессиях. Гейтс считает, что множество профессий исчезнет навсегда, причем первыми под удар попадут junior и middle позиции. Продажи, поддержка, программирование, юридическая работа, анализ данных, выдача кредитов и даже часть медицинских задач постепенно будут уходить AI. Новые профессии появятся, но совсем не факт, что их окажется столько же.
И тут возникает довольно странная проблема с молодыми кадрами. Чтобы стать опытным специалистом, сначала нужно несколько лет где-то набивать шишки и учиться. Но именно эту начальную работу AI сейчас забирает быстрее всего. Получается, что компаниям опытные специалисты все еще нужны, а вот привычный путь, по которому человек таким специалистом становится, начинает ломаться.
Дальше подключатся роботы. По прогнозу Гейтса, уже к концу десятилетия они начнут серьезно заходить в строительство, гостиницы и другие физические профессии. А дальше включится обычная экономика: одна компания заменяет часть людей роботами, становится дешевле и эффективнее, и конкурентам приходится делать то же самое. Так что внедрение будет только ускоряться.
Отдельно он пишет про кибератаки, мошенничество, дипфейки и даже биологические угрозы. AI резко снижает порог входа во все эти вещи, и знакомые ему специалисты по кибербезопасности уже серьезно переживают за ближайшие несколько лет. А дальше есть и более неприятный сценарий, когда достаточно мощные AI-системы начинают действовать уже не совсем так, как мы рассчитывали.
Есть еще тема детей и AI-компаньонов, про которую сейчас говорят намного меньше. Представьте бота, который всегда рядом, никогда не раздражается, полностью подстраивается под ребенка и всегда готов поговорить. Гейтс переживает, что такие штуки могут начать заменять реальные отношения, а постоянная возможность получить готовый ответ будет постепенно отучать детей думать самостоятельно.
При этом он вообще не предлагает останавливать AI. Более того, пишет, что сам бы, наверное, поддержал разумный способ замедлить развитие моделей, только не видит, как это вообще можно сделать. Гонка между компаниями и государствами уже слишком сильная, поэтому все продолжат давить газ, а обществу придется учиться жить с последствиями.
Одна из самых интересных его идей касается профессий, которые люди могут специально оставить людям. Условно, AI технически сможет выполнять такую работу дешевле и лучше, но общество все равно решит, что здесь нужен именно человек. Например, уход за пожилыми, часть образования, психотерапия или момент, когда врачу нужно сообщить пациенту тяжелый диагноз.
Еще Гейтс снова возвращается к идее налога на роботов и теперь уже фактически на AI. Логика у него простая: когда компания нанимает человека, она платит налоги и взносы, а когда заменяет его машиной, налоговая система часто делает такую замену еще выгоднее. Он предлагает хотя бы частично убрать этот перекос и направлять деньги на переобучение людей и социальную поддержку.
В целом его главный вывод довольно понятный. AI может стать гигантским инструментом для медицины, науки, образования и вообще дать людям очень дешевый доступ к интеллекту. Но он же может еще сильнее расслоить общество, выбить огромное количество людей с рынка труда и создать пачку новых рисков, к которым государства сейчас вообще толком не готовы.
Билл Гейтс считает, что очень серьезные социальные последствия начнутся намного раньше, чем мы думаем, возможно уже в ближайшие несколько лет, а нормального плана, что с этим делать, у мира пока нет.
edited
Ситуация с AI и кибербезопасностью становится пугающе тревожной?
OpenAI, Anthropic, Google, Microsoft, CrowdStrike, Cloudflare, Cisco, Palo Alto Networks и еще больше сотни компаний подписали совместное обращение о том, что у мира осталось ограниченное окно для усиления киберзащиты. По их прогнозу, уже в ближайшие месяцы AI-атаки станут намного массовее, сложнее и автономнее, а под угрозой окажутся не только обычные компании, но банки, больницы, электросети, водоснабжение и инфраструктура самого интернета.
После истории, где агенты OpenAI во время тестов сами нашли способ выбраться из изолированной среды, получили доступ в интернет и добрались до инфраструктуры Hugging Face, подобные предупреждения уже сложно воспринимать как далекую фантастику. Но тут важно не смотреть на ситуацию совсем однобоко.
Легко представить будущее, где AI-агенты круглосуточно ищут 0-day, перебирают цепочки уязвимостей и автоматически ломают всё подряд. Только по другую сторону находятся ровно такие же AI-агенты, а в мире существует огромная индустрия кибербезопасности. CrowdStrike, Cloudflare, Palo Alto, Cisco, Microsoft, Google и сотни других компаний каждый день занимаются именно защитой инфраструктуры, и очевидно, что самые мощные модели они будут использовать не меньше атакующих.
Причем это уже происходит. Например, OpenAI пишет, что почти все первичные security-алерты внутри компании сначала анализирует AI, а агентов постепенно подключают к автоматической реакции на угрозы, поиску потенциальных путей атаки, проверке конфигураций и поиску уязвимостей. Цель простая: обнаруживать и отражать атаки на машинной скорости.
Поэтому будущее кибербеза, скорее всего, выглядит не как злой хакер с AI против несчастного админа, а как два роя агентов по разные стороны “барикад”. Одни непрерывно ищут новый способ проникнуть внутрь, другие в реальном времени замечают атаку, закрывают уязвимость, меняют правила доступа, изолируют систему и ищут следующий возможный путь атаки еще до того, как им воспользовались.
Самые большие проблемы, думаю, будут у небольших компаний, которые и раньше годами не обновляли ПО, держали старые серверы, плохо управляли доступами и вспоминали про аудит безопасности только после очередного слива базы. AI просто безжалостно высветит весь этот накопленный технический долг, и если раньше такие компании могли годами жить на авось, то теперь находить их слабые места будут в автоматическом режиме.
А вот у крупных компаний начинается очень интересная гонка вооружений: AI атакует AI, скорость атаки растет вместе со скоростью защиты. И вполне возможно, что в итоге интернет станет не менее, а даже более защищенным, потому что впервые защитник тоже получает возможность круглосуточно проверять миллионы строк кода, конфигураций и событий, на что раньше просто физически не хватало людей.
Так что панику тут я бы отключал. В мире и без того хватает тревожных новостей, а на такие истории особенно важно смотреть сразу с двух сторон: возможности атакующих растут очень быстро, но вместе с ними растут и возможности защиты.
Плюс у всей этой истории есть еще один довольно очевидный слой. Сейчас крупнейшие AI-компании и игроки рынка кибербезопасности будут бороться за огромные контракты корпораций и государств на защиту критической инфраструктуры. Каждому нужно доказать, что именно его модели и системы должны стоять внутри банков, энергетики, госструктур и крупнейших компаний. Поэтому громких предупреждений, страшных сценариев и новостей на эту тему дальше будет только больше, а СМИ с удовольствием будут их разгонять.
edited
В сети завирусился запрос в чатгпт “Пришли своё случайное селфи” и чатик генерит фотку
У меня чат какой-то пацан не стриженный, зумер видимо 😎
Показывайте кто там у вас сидит в чате!
Странно, открыл стату по использованию Claude Code у себя и у меня целые месяцы пустые, хотя я каждый день активный пользователь. Не каждый день конечно токены жгу как не в себя, но все же не вылезаю из нескольких вкладок и поточно что-то да работает.
У вас нет таких гэпов?
repost
Квантизация: как провайдеры моделей удешевляют инференс
Квантизация — снижение точности весов и вычислений модели: вместо FP16/FP32 считаем в INT8 или INT4. Модель занимает меньше памяти и выдаёт токены быстрее. Индустриальные оценки экономии вычислений при переходе на низкую точность — 60–75%. Качество падает измеримо, но умеренно при аккуратном применении: на INT8 обычно теряется 1–3% качества, на INT4 потери заметнее и сильно зависят от задачи.
Дальше — моя гипотеза:
Вечером по Москве в США начинается рабочий день, нагрузка на американские сервисы идёт в пик. Я допускаю, что в эти часы провайдеры могут подкручивать точность инференса, чтобы успевать обслуживать запросы, — и модели субъективно «тупеют». Ни Anthropic, ни OpenAI никогда такого не подтверждали. Идея давно ходит по Reddit, Twitter и Hacker News, технические издания называют её стойкой недоказанной теорией. Вполне возможно это городская легенда.
Что действительно задокументировано: у Anthropic ужесточаются usage-лимиты в пиковые часы буднего дня — 5:00–11:00 по тихоокеанскому времени, это примерно 15:00–21:00 по Москве. Речь про замедление, ограничение объёма запросов. Качество модели при этом они официально не трогают. Но именно из замедления, скорее всего, и растёт ощущение «вечером ИИ хуже»: упираешься в лимит, ждёшь — и записываешь всё это в деградацию.
Со стороны пользователя гипотезу не проверить: гонять одинаковые промпты в разное время суток бесполезно, разброс качества у LLM велик даже в одно время на одинаковых запросах.
#ИИ #инференс
edited
Только на прошлой неделе прогремела новость о покупке OpenRouter компанией Stripe за $7.5 млрд, как сегодня новость, что Nvidia готова купить Hugging Face за $12.9 млрд.
AI рынок входит в фазу большой консолидации. Крупные игроки начинают скупать ключевые слои инфраструктуры, через которые проходит весь остальной рынок.
edited
Локализация мобильных приложений
Я уже раза два рассказывал на канале про локализацию мобильных приложений и как я это делаю с помощью AI. Но мой подход значительно прокачался с тех пор, а я об этом вам еще не рассказал.
Первичный подход был такой: был скрипт, который брал пачку строк из файла локализации, был промпт с описанием правил перевода, и всё это отправлялось в OpenAI API. Причем следующая пачка строк брала часть предыдущего хвоста, чтобы было хоть какое-то согласование стилей в переводах, к примеру согласованность ты/вы и прочие языковые нюансы.
Второй заход был такой: весь флоу переложил на Claude Code (здесь был пост), от первого захода переняли правила, только CC теперь сам читает все строки, может заглянуть в код проекта и понять, как используется строка и в каком контексте, агент видит всю картину масштабнее. И мне казалось, что вот оно, более качественный подход: находилось множество проблем в переводах от первичного захода, и всё было прекрасно.
Но! Несколько недель назад в голову пришла мысль: а что, если перевод так себе? А пришел я к такой мысли не просто так. Потребовалось расширить кол-во языков в одном приложении, и когда агент начал переводить приложение на 2 китайских языка (традиционный и упрощенный), он сам решил запустить на iOS-симуляторе некоторые экраны и проверить визуально отображение строк на китайском. И появились нюансы, которые не были понятны при чтении строк и даже при просмотре кода. И тут я понял, что суперважно, чтобы агент верифицировал переводы визуально на всех экранах и состояниях.
Через CC проработали демо-сценарии генерации скриншотов всех экранов в разных состояниях. Там, где контент экрана длинный и нужно скроллить, скриншотов такого экрана делается несколько в нужных положениях скролла.
Скриншоты генерируются через fastlane, для одного языка это занимает минут 20-25, и получается до 150 скриншотов. Я делал уже 3 захода на оптимизацию скорости съемки, но пока это какой-то предел, так как учитываются еще анимации переходов, и fastlane дожидается чистого отображения контента после анимации, чтобы заснять нужный кадр, сделать скролл, если он есть, и еще раз снять кадр.
И так получается порядка 150 скринов, которые агент дальше по одному изучает.
Получается так: агент имеет правила локализации, под каждый язык дописывает нюансы, читает все строки, находит проблемные места в переводах, если это верификация существующего перевода. А если новый язык, то сначала переводит все строки, равняясь на переводы пары языков рус/англ, чтобы понимать контекст, некоторую связанность и правильно улавливать смыслы.
Затем выделяет места, которые точно нужно перепроверить на визуальной стадии, запускается фоновый процесс съемки всех скриншотов, и агент уходит в ожидание. Проходит 20+ минут, агент приступает к визуальному осмотру каждого скриншота, находит проблемы, вносит правки. Если нужно, правит в коде формирование строки, меняет форматтеры и прочие нюансы.
После этого снова запускает прогон съемки экранов, но уже не весь, а только там, где нужно проверить исправления. И только после этого заканчивается цикл перевода или верификации перевода.
Последний подход выявил массу проблем в коде как для языков, где используется RTL (справа налево), так и для других языков. В коде составные строки формировались простейшей конкатенацией, не всегда учитывались форматы локалей и было много хардкода при формировании составных строк.
И если честно, уверен, мало какой разработчик, даже senior пупер-дюпер уровня, знает все нюансы форматтеров, особенностей некоторых символов в разных языках, неразрывных пробелов, BiDi и прочего-прочего.
Простейшие примеры: $10 и 10 €, 1.5 и 1,5, 08/09/2026 с разным порядком дня и месяца, турецкие i/İ/ı/I, арабский RTL вперемешку с email или цифрами, французские неразрывные пробелы перед некоторыми знаками. А есть еще plural forms, разные виды кавычек, Unicode normalization, ZWJ (Zero Width Joiner), переносы в китайском/японском/тайском и куча других мелочей, которые легко вообще не заметить, пока не увидишь реальный экран.
edited
Что я делаю, когда заезжаю в съемные аппарты на отдыхе 😈
Немного провокационный заголовок, но сути не меняет 😅 Я наслышан (тиктоки и всё такое), как арендодатели порой творят дичь и ставят скрытые камеры. Вероятно из благих побуждений, но я бы очень не хотел, чтобы за мной наблюдали и тем более записывали. Да и видео со мной нагонят скуку 😂
В общем, в Codex или Claude Code прошу просканировать wi-fi сеть и найти малейшие зацепки на присутствие в сети любых камер. Агент начинает использовать множество инструментов для сканирования и изучения всех устройств в сети, пробует даже подобрать пароли используя известные заводские настройки устройств, но часто классификатор запросов стопает агента и тот “ладно, не дали мне запустить перебор паролей, вот тебе список айпишников и админок, вот список заводских настроек обычно устанавливаемые на такие устройства, попробуй сам.
В этот раз криминального ничего не нашел, но камеры есть, и хорошо, что они остались за пределами аппартов и наблюдают в общем корридоре за пределами квартиры.
Но интересная информация находится, по крайней мере сразу видно какие устройства в данной сети присутствуют.
Я понимаю, что скрытые камеры могут просто писать на сд карту или иметь свою собственную wifi точку и много разных приколов, но обычно поступают более тупо.
В общем, просканировал, можно и отдыхать 😬
edited
Когда снова сброс лимитов в Codex?
Если вы всегда гадаете использовать ли накопленный сброс лимитов в Codex или дождаться, пока команда OpenAI сделает “бесплатны” массовый сброс, появился вот такой сайт, где можно узнать когда был последний сброс и хронологию, а так же получить вероятностный прогноз когда можно ожидать очередной сброс https://www.willcodexquotareset.com/
На злобу дня и всех этих сбеганий моделей от хозяина
Сегодня пятница, давайте поговорим о вечном 😁
Какие книги прочитали в этом году? Какие вас удивили? На какие книги было зря потрачено время? Какие книги оставили долгое послевкусие? Любые книги.
Делитесь в комментариях, очень интересно!
repost
meat-proxy — человек который отправляет ответ ИИ вместо своей точки зрения
не будьте meat-proxy 😏
@tips_ai
edited
Кожаные мешки, мясные прокси, дальше прокладками будут называть или уже?😁
А потом вселенная схлопнется.
Вы кстати грешите тем, что на любой вопрос просто пересылаете ответ из кодекса/клод кода в чат? 😁
👇
И в чем он не прав? 🤔
edited
– я могу навайбкодить 5 приложений за 1 день! Теперь я король!
спустя месяц:
– у меня 0 пользователей.
Да, реальный баланс сил теперь такой: маркетинг 99%, 1% разработка.
edited
Стратегия регулярных сбросов лимитов прекрасно отражена на этом видео, в качестве напоминания)) Только в данном случае, рядом с креветкой еще и бутылочка холодного пива, только пиво для антуража, оно не для вас 😂