Apple выпустила 5 ИИ-моделей, созданных с Google Вчера команда опубликовала новое семейство моделей AFM 3. Главная инженерная история - AFM 3 Core Advanced. Модель из 20млрд параметров работает теперь на вашем устройстве. Это нереально, подумаете вы, но Apple решила эту задачу. Вся модель хранится во флеш-памяти. Перед генерацией лёгкий предиктор читает запрос и выбирает, какие «эксперты» (подмножество весов) загрузить в RAM и только их. Генерация идёт с фиксированным набором весов, без повторных обращений к флешу. Это отличает архитектуру от стандартного MoE, где маршрутизация происходит на каждом токене. Apple перенесла решение на уровень промпта: один раз выбрал, дальше работаешь. В результате качество близко к полным 20B, скорость как у 3B-модели. Техника называется Instruction-Following Pruning. 3 серверные модели работают на Private Cloud Compute. Но для самой мощной модели, AFM 3 Cloud Pro, этого оказалось недостаточно и Apple совместно с Google и NVIDIA расширила PCC на GPU NVIDIA в Google Cloud. Apple, компания, которая строила собственный Silicon именно ради независимости, вынесла топовые AI-вычисления на чужую инфраструктуру. Выбор Google, а не Azure, вероятно, не случаен, отношения уже существуют: поисковик в Safari. Но сам факт примечателен. _______ Источник | #blockchainRF @F_S_C_P ------- Поддержи канал подпиской -------