НИИ ИИ

@ai_rostov · ai · Russian · active

Subscribers 4.4K Subscribers, last 30 days: 4.3K → 4.4K +40 24h
Reach per post (ERR) 23.0%1K avg views
Posting 10.6/day last 4 hours ago
Reactions per 1K views 3.1 ⭐
repost from Технозаметки Малышева

AMD бросает вызов NVIDIA в локальном инференсе: представлена рабочая станция Threadripper Halo с 2,6 ТБ памяти На выставке IFA 2026 компания AMD представила рабочую станцию Threadripper Halo Station с жидкостным охлаждением. Система рассчитана на локальный запуск флагманских моделей размером свыше одного триллиона параметров прямо на рабочем месте. 🖥 Архитектура персонального суперкомпьютера: В основу заложен 96-ядерный 192-поточный процессор Ryzen Threadripper PRO 9995WX (Zen 5, буст до 5,4 ГГц) со 128 линиями PCIe 5.0. За ускорение отвечают до четырех карт Instinct MI350P (CDNA 4, 3 нм). В топовой сборке станция оснащается 576 ГБ памяти HBM3e с пропускной способностью до 16 ТБ/с и до 2 ТБ оперативной памяти DDR5. Совокупный объем адресуемой памяти достигает 2,6 ТБ, что в 3,4 раза больше, чем у NVIDIA DGX Station. ⚡️ Автономия от облачных провайдеров и экономия на агентах: Главная цель AMD: переход от простых чат-ботов к роям автономных агентов. По оценке аналитиков Signal65, агентные рабочие процессы со сложными цепочками вызовов инструментов сжигают до 15 раз больше токенов по сравнению с классическими диалогами. Gartner прогнозирует, что к 2028 году корпоративные затраты на облачные токены могут превысить зарплаты разработчиков-людей. Локальная станция позволяет не оглядываться на проблемы с сетью, не смотреть на счётчик расхода токенов и закрывает риски утечек информации, обрабатываемой ИИ. 💼 Практическая ценность для команд: AMD позиционирует систему как альтернативу аренде облачных кластеров. В 577 гигабайт можно развернуть достаточно крупные современные открытые ИИ модели, вести дообучение LoRA и обслуживать рой автономных агентов. А 2Тб DDR5 оперативки, позволят или держать в памяти обойму моделей на замену или большой объем данных для обработки. В том числе, кстати, видео. Поставки стартуют в следующем году. #Threadripper #AMD #железо ——— @tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен

Views over time

02004006008 Sep 03:2612 Nov 01:106008 Sep 03:26: 0 views12 Nov 01:10: 600 views
Snapshots we took after posting.
WhenViews
8 Sep 2026, 03:260
12 Nov 2026, 01:10600

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.