Можно ли получить много видеопамяти за разумные деньги в 2026 и запустить на ней модели с контекстом до 256 тысяч токенов? В новой статье на Хабре Александр Щербаков, DevOps-инженер X5 Tech, рассказывает, как собрал домашний сервер для локальных LLM на доработанных CMP 50HX: • почему первый запуск не дал ожидаемого ускорения; • зачем пришлось пересобрать стенд на серверной плате с EPYC; • как патчи драйвера сняли часть ограничений с карт; • что на самом деле даёт вторая GPU, если не удваивает скорость; • как MTP ускорил генерацию на длинном контексте. 🔗 ссылка на статью