Google DeepMind 發布了 EmbeddingGemma 2，這是一個擁有 7.4 億總參數的開源多模態嵌入模型。該模型能夠將文字（包含程式碼）、圖像、影片和音訊輸入及其組合映射到單一的 768 維向量空間中。其架構結合了 2.7 億參數的文字模型與模組化的視覺編碼器（1.7 億參數）及音訊編碼器（3 億參數）。
EmbeddingGemma 2 設計用於在消費級硬體（如行動裝置和筆記型電腦）上運行，旨在為搜尋、檢索增強生成（RAG）、分類和聚類等端側應用提供低延遲的語義表示。該模型基於 Gemma 4 的架構與能力進展，具備以下核心功能：
1. **原生多模態性**：在單一的共享 768 維嵌入空間中統一處理文字、圖像、影片和音訊四種模態。 2. **多語言與程式碼支援**：理解超過 100 種語言，且在程式碼任務上的表現較前代提升約 14%。 3. **靈活的資源佔用**：開發者可根據用例選擇性載入所需的模態編碼器，僅加載文字骨幹（1.3 億 Transformer + 1.4 億 Embedder）或包含視覺與音訊組件。 4. **Matryoshka Representation Learning (MRL)**：原生支援 128d、256d、512d 和 768d 的截斷嵌入向量，可在對品質影響極小的情況下，將向量儲存成本降低最多 6 倍。 5. **上下文長度**：具備 8K token 的上下文視窗，能夠處理數分鐘的音訊或影片。 6. **任務導向表示**：使用輕量級文字指令前綴來優化不同任務（如搜尋、分類、聚類、語義相似度等）的嵌入向量。
此外，該模型已獲得 llama.cpp 支援，並提供了由 GG 和 Unsloth 發布的 GGUF 格式版本。
事件背景
嵌入模型將數據轉換為數值向量以進行語義比較。Matryoshka Representation Learning (MRL) 是一種在單一嵌入中編碼不同粒度資訊的技術，允許在不重新訓練的情況下截斷向量維度以滿足計算限制。統一的嵌入空間則使得文字、圖像等不同資料類型之間能夠進行直接的語義比較和檢索。
社群觀察
社群對 Google 發布更新版嵌入模型感到驚訝，部分用戶指出音訊輸入支援的新穎性。有用戶認為發布時機正好滿足他們對數據集索引的需求，並提及幾週前 Arena AI 的洩漏可能與此有關。另有用戶批評發布連結往往指向 Unsloth 等第三方量化版本，而非 Google 的原始發布來源，認為 Google 才是主要貢獻者。
