НИИ ИИ

@ai_rostov · ai · Russian · active

Subscribers 4.4K Subscribers, last 30 days: 4.3K → 4.4K +40 24h
Reach per post (ERR) 23.0%1K avg views
Posting 10.6/day last 5 hours ago
Reactions per 1K views 3.1 ⭐
edited

NVIDIA выпустила публичную бету Personal AI Router, или PAIR. Программа связывает совместимые Mac, Windows- и Linux-компьютеры в локальной сети и даёт приложениям один адрес для обращения к локальным моделям. PAIR работает с Ollama и LM Studio и предоставляет совместимые с Ollama и OpenAI интерфейсы. Когда приходит запрос, система проверяет, на каких компьютерах есть нужная модель и свободные ресурсы, а затем выбирает один из подходящих узлов. Практический смысл появляется при параллельной работе. Например, несколько ИИ-агентов одновременно анализируют документы, пишут код и обрабатывают изображения. PAIR может отправить одну задачу на Mac, другую на компьютер с RTX, следующую на DGX Spark. Главное ограничение: это диспетчер запросов, а не способ собрать несколько видеокарт в одну. PAIR не объединяет память, не делит модель между компьютерами и не ускоряет отдельный ответ. Каждый запрос целиком выполняется на одной машине. Дополнительные компьютеры увеличивают количество задач, которые можно выполнять одновременно. Чтобы несколько узлов могли обслуживать одну модель, она должна быть заранее установлена на каждом из них. Планировщик текущей беты пока не учитывает объём свободной памяти, класс видеокарты, задержку, «прогретость» модели и предполагаемую сложность запроса. Поэтому предсказуемее всего PAIR должен работать с похожими по мощности машинами. Запросы между подключёнными узлами защищены взаимным TLS. При этом NVIDIA советует использовать PAIR только в доверенной локальной сети: часть сведений о компьютерах и их загрузке доступна другим устройствам в том же сегменте сети. Главная ценность PAIR — распределение множества независимых локальных работ. Один разговор с моделью быстрее не станет. А вот домашняя инфраструктура из нескольких машин получает единую точку входа, к которой можно подключать приложения и команды ИИ-агентов. Проект открыт под лицензией Apache 2.0. Это ранняя бета, поэтому сейчас его разумнее рассматривать как инструмент для экспериментов, а не как готовую производственную инфраструктуру. pimenov.ai/blog

Views over time

02004006008004 Sep 17:5812 Nov 01:107254 Sep 17:58: 0 views12 Nov 01:10: 725 views
Snapshots we took after posting.
WhenViews
4 Sep 2026, 17:580
12 Nov 2026, 01:10725

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.