Низкая цена облачных GPU - не всегда конкурентное преимущество Большинство основателей считают, что если их модель может работать на облачном GPU за $0,12 за час, то они уже в выигрыше. На деле цена часто оказывается лишь второстепенным фактором. В 2021 году два бывших инженера из NVIDIA запустили стартап “EdgeMind”. Их цель - предлагать клиентам мгновенный вывод нейросетей в точке продаж, где сеть нестабильна. Они решили, что единственное, что отличит их от крупных облачных провайдеров, - это собственный микрочип, спроектированный за $1,5 млн. На старте они арендовали небольшое помещение, наняли пять инженеров и начали производство в Китае. Первые заказы пришли от сети кафе, где каждый терминал должен был обрабатывать заказы за ≤ 200 мс. EdgeMind установил свой чип в 30 точках, заплатив $120 000 за начальный тираж. Однако уже через месяц выяснилось, что средняя загрузка чипа - 15 % от заявленного потенциала, а время отклика - 450 мс. Клиенты начали переходить к облачным решениям, где за $0,12 за час можно было арендовать V100 и получать 1 ms отклика. В итоге за полгода EdgeMind потерял $350 000 на невостребованных микрочипах и вынужден был переключиться на аренду облачных GPU. При этом их расходы упали до $18 000 в месяц, а время отклика упало до 190 мс, что удовлетворило всех заказчиков. 1) Цена облачных ресурсов - переменная, но её можно масштабировать почти мгновенно. 2) Сложные аппаратные проекты требуют больших капитальных вложений и времени, которые часто превышают выгоду от небольших экономий. 3) В бизнес-контексте важнее время выхода на рынок и гибкость, чем попытка «выиграть» на единичной цене. Вывод: экономия на облаке может показаться заманчивой, но в условиях быстрых рыночных изменений она редко компенсирует затраты на собственный аппаратный путь. Бизнес Империя • Digital Finance - Подписывайтесь! Реклама: @AS_katrin