Ассоциация ФинТех

Базис представляет Basis AIR для управления GPU и ИИ-нагрузками. 🤖 Базис (входит в ГК «РТК-ЦОД», Ростелеком) представил Basis AIR — самостоятельный продукт для оркестрации ИИ-нагрузок и управления GPU. По оценке компании, решение повышает эффективность использования графических ускорителей более чем вдвое, с 30% до 80%. Об этом сообщают Ведомости. Платформа рассчитана на компании, которые развивают ИИ-сервисы и используют общий парк GPU для нескольких команд. Она распределяет мощности с учётом квот подразделений и приоритетов задач, а свободные ресурсы можно отдавать сверх квот. Данные о реальном потреблении помогают руководителям понять, какие нагрузки поместятся на имеющихся ускорителях и где действительно нужны дополнительные мощности. Ускоритель можно выдать задаче целиком или поделить между несколькими задачами, в том числе с помощью MIG-профилей. В едином интерфейсе доступны обучение моделей, инференс и работа исследователей в Jupyter и VS Code. По оценке разработчиков, автоматизация предоставления ресурсов сокращает подготовку рабочей среды для сотрудника с месяца до 1–2 часов.