ideasAI / Идеи для ИИ - Анисимов Андрей

@ideasforai · ai · Russian · active

Subscribers 2.1K Subscribers, last 30 days: 2.1K → 2.1K +0 24h
Reach per post (ERR) 13.3%281 avg views
Posting 1.1/day last 14 hours ago
Reactions per 1K views 31.2 ❤ 👍 🔥

В продолжение прошлого поста про сравнение товаров по скриншотам 🖼 Я это всё собирал, потому что хочу запускать модели second brain локально. И уже есть результаты - расскажу о них в следующих постах, но только если будет много 🔥 А пока подробнее про железо для локальных моделей. Кажется, идеально на сегодня иметь dgx spark, но это всё ещё не очень дешево - около 500 тысяч рублей 🥲 Собрал отдельный документ: "Какое железо выбрать для контекста 262K–1M токенов". В нем цены, память, ограничения и вывод под конкретную задачу. И там как раз хорошо видно, почему сравнивать железо только по объёму памяти бессмысленно Например: 🟦DGX Spark - 128 GB, зато пропускная способность памяти 273 GB/s. Много влезает, CUDA под рукой, но по скорости это далеко не чемпион. В исходных объявлениях — 417–490 тыс. ₽ 🟦Mac Studio M5 Max - до 128 GB и 614 GB/s. Та же ёмкость памяти, но выше пропускная способность памяти, если CUDA не нужна. Ориентир 450–600 тыс. ₽ в зависимости от SSD и конфигурации. 🟦RTX PRO 6000 Blackwell - 96 GB, зато 1 792 GB/s. Памяти меньше, но bandwidth примерно в 6,6 раза выше, чем у Spark. Намного выше пропускная способность памяти. Примерно 1,3–2,5 млн ₽; встречаются и сильно более дорогие варианты. 🟦H100 NVL - 94 GB и 3 938 GB/s, а H200 — 141 GB и 4 800 GB/s. Тут технически всё прекрасно, пока не посмотрел на цену и инфраструктуру. Но не стол не поставишь 😂 хотя и такие картинки встречаются))) примерно 3–4 млн ₽, но розничный разброс дикий. H200 NVL уже за 8,6–11,1 млн ₽. Для моей задачи с Qwen3.8-27B и длинным контекстом в итоге победил DGX Spark 128 GB, потому что мне важнее было спокойно держать 262K–1M токенов локально и не бороться за каждый гигабайт памяти. Но я бы хотел арендовать ее, а не покупать - есть ли такое? 💬 Присоединиться к обсуждению в чате Телеграм канал Андрей Анисимов @ideasforai Листайте скрины ниже 👇

Views over time

020040028 Aug 15:2413 Nov 00:0336928 Aug 15:24: 0 views13 Nov 00:03: 369 views
Snapshots we took after posting.
WhenViews
28 Aug 2026, 15:240
13 Nov 2026, 00:03369

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.