Hugging Face 發布 AnyLanguageModel 1.0、swift-huggingface 1.0 及 swift-xet 1.0,這是該專案推出一年後的重大更新。AnyLanguageModel 作為 Apple Foundation Models 框架的即插即用替代方案,允許開發者透過修改 import 語句(從 `import FoundationModels` 改為 `import AnyLanguageModel`),即可使用相同的 session 程式碼來選擇適合其應用的模型與供應商。
核心功能增強包括: 1. **工具調用 (Tool calling)** 與 **引導生成 (Guided generation)**:現已支援所有供應商,包括嵌套的 `@Generable` 類型及其陣列。 2. **圖像支援**:允許使用 Foundation Models 27 語法將圖像附加到提示中,適用於 iOS、macOS 和 visionOS 27 上的系統模型。 3. **OS 27 整合**:在 OS 27 上,AnyLanguageModel 可與任何符合 Foundation Models `LanguageModel` 協議的模型協作,包括 Core AI 模型。 4. **託管模型支援擴展**:新增對 OpenAI (Chat Completions/Responses API)、Open Responses、Anthropic (Messages API,含自適應思考與努力選項)、Google Gemini、Ollama、Private Cloud Compute (OS 27) 以及 Hugging Face Inference Providers 和其他 OpenAI 相容端點(如 OpenRouter)的支援。 5. **開發者體驗改進**:API 金鑰現在透過閉包而非字串提供,允許從伺服器獲取短期令牌;推理區塊在切換供應商時會自動省略若新供應商無法重放;AnyLanguageModel 現也支援 Linux,使相同程式碼可在伺服器上運行。
此外,開源權重模型的能力顯著提升,使得小型模型成為良好的起點。文章列舉了目前 Hub 上下載量最高的幾個模型: - **Gemma 4 E2B** (Google):GGUF 格式,Q4_0 量化約 3.4 GB。 - **LFM2.5 2.6B** (Liquid AI):GGUF 格式,Q4_K_M 量化約 1.7 GB。 - **Qwen3.8 27B for MLX** (Alibaba):4-bit 量化約 16 GB。 前兩個模型可運行於 iPhone,而 Qwen3.8 27B 則需要記憶體為 32 GB 或以上的 Mac。對於資源更豐富的環境,Z.ai 的 **GLM-5.3** 在 BF16 格式下約需 1.5 TB,適合擁有四台頂配 Mac Studio 的用戶,其他用戶可透過 Inference Providers 使用。
升級至 1.0 版本需在 Swift Package Manager 中更新依賴項。開發者應參考 AnyLanguageModel、swift-huggingface 和 swift-xet 的發布說明以進行程式碼遷移。未來計畫包括引入更多模型能力,如決策模型與語音識別模型。
尚待確認:原文未提供具體的社群討論內容或用戶評論數據。
事件背景
AnyLanguageModel 於去年十一月首次推出,旨在回應應用開發者對本地模型的興趣以及避免支援多個推理供應商所帶來的複雜性。該專案基於社群回饋發展而來,強調本地與託管推理各有優勢,並透過共享 API 簡化為每個任務選擇合適模型的過程。swift-huggingface 和 swift-xet 是配套構建的庫,旨在將 Hugging Face Hub 的加速模型下載功能帶入 Swift 應用。



