☝🏻OpenAI сделала свой ИИ-чип лучше NVIDIA Корпорация OpenAI показала первые замеры собственного инференс-чипа Jalapeño — на публичном бенчмарке InferenceX он обошёл системы на NVIDIA GB200 и GB300 сразу на всех трёх протестированных моделях. Сравнение честнее, чем звучит: считали не «на чип», а на ватт. У Jalapeño паспортные 700 Вт против 1200 у GB200 и 1400 у GB300, а под нагрузкой он не выходил за 550.⚡️ На DeepSeek R1 чип выдал 700 токенов в секунду на пользователя против 169 у GB300, на Kimi K2.5 — 694 против 182. Полная задержка ответа ниже в 1,7–3,6 раза. ☝🏻Секрет в узкой заточке: KV-кэш держится вплотную к вычислительным блокам, а вся нагрузка целиком помещается внутри одной связной системы и никуда не ездит по проводам. Заодно OpenAI признаётся, что проектировать чип ей помогали её же ИИ модели.🤖 ☝🏻☝🏻Ставить Jalapeño в свою инфраструктуру начнут до конца года, второе поколение уже в разработке, третье — на подходе. Но хоронить NVIDIA рано: OpenAI отдельно оговаривает, что продолжит закупать её ускорители и для обучения, и для инференса — остается вопрос в цене и масштабируемости. На этом фоне NVIDIA пока выигрывает.🤔 ================ 👁 News | 👁 Soft | 👁 Gear | 👁 Links