Google раскрыла устройство EmbeddingGemma 2: мультимодальная модель на 740 млн параметров, работающая прямо на смартфоне Google DeepMind опубликовала технический отчёт EmbeddingGemma 2 с подробностями архитектуры, обучения и результатами экспериментов. Модель преобразует текст, код, изображения, аудио и видео в единое векторное пространство. Например, можно искать нужный фрагмент видео текстовым запросом или находить изображения по описанию. Ключевые цифры: - 740 млн параметров в полной мультимодальной конфигурации. - 270 млн достаточно для работы только с текстом и кодом. - 567 МБ памяти для весов полной модели с int4-квантованием. - 768 измерений у эмбеддингов с возможностью сокращения до 512, 256 или 128 благодаря Matryoshka Representation Learning. - 8192 токена контекстного окна. По результатам авторов, EmbeddingGemma 2 превосходит ряд специализированных моделей и конкурентов, которые в 2–12 раз крупнее, на задачах мультимодального поиска. Архитектура модульная: ненужные энкодеры можно отключать, экономя память. Например, для семантического поиска по кодовой базе не требуется загружать компоненты обработки аудио и изображений. В отчёте также разобраны этапы обучения и ablation studies, показывающие вклад отдельных архитектурных решений. Модель доступна с открытыми весами под Apache 2.0. Для разработчиков особенно интересны локальный RAG, поиск по репозиториям, мультимодальные базы знаний и приложения без передачи пользовательских данных в облако. Исследование: https://arxiv.org/abs/2610.37364 Модель: https://huggingface.co/google/embeddinggemma-2