三混合架構提升邊緣裝置的長上下文處理效率

LFM3-1.7B-Base 採用了經過硬體迴路架構搜尋（hardware-in-the-loop architecture search）優化的新設計，旨在針對代理應用場景提供更高的每參數能力與快速推論。該模型包含 24 層結構，混合了 13 層閘控短卷積、5 層滑動視窗注意力（SWA）以及 6 層全域注意力機制。

相較於前代 LFM2，LFM3 將卷積核大小從 3 增加至 7，並引入了頭部閘控注意力（Head-wise gated attention）與部分 RoPE 技術。這些改進有助於抑制量化過程中可能影響精度的激活異常值，並在長上下文處理上展現優勢。

在短提示詞測試中，LFM3-1.7B 在各類邊緣裝置上的表現與 LFM2-1.2B 相當；但在處理 8K token 的上下文時，其速度約快 25%。模型預訓練於 22T tokens，並在最後 3.5T tokens 的中期訓練階段擴展了上下文視窗至 256K tokens，同時增加了代理軌跡與工具調用的數據比例。

視覺模型首次支援影片輸入並大幅降低計算需求

LFM3-VL-2B 是 Liquid AI 首款支援影片輸入的視覺語言模型，能夠對錄製的講座、手機拍攝的鏡頭或相機串流進行提問與推理。該模型配備了自研的視覺編碼器，結合卷積與注意力機制，其計算量僅為先前 SigLIP2 編碼器的三分之一。

在準確度方面，這個 164M 參數的編碼器在相同語言骨幹下，達到了 Qwen3.5-2B 視覺編碼器的水準，但所需的浮點運算量（FLOPs）減少了 2.2 倍。對於影片處理，編碼器將每對採樣幀嵌入為一個時間切片，從而將時間序列長度減半。

與前代 LFM2.5-VL-3B 相比，LFM3-VL-2B 的參數從 3.1B 減少至 1.9B，但在 62 項視覺基準測試中的平均分數卻從 57.6 提升至 71.4。官方宣稱其表現與參數規模超過六倍的 Gemma 4 12B 相當，並強調其在空間推理與機器人應用上的潛力。

全模態模型整合語音、視覺與文字處理以取代多系統架構

LFM3-Omni-2B 是該系列的首個全模態（Omni）模型，參數規模為 2.2B，旨在單一模型中同時處理文字、影像、影片與音訊輸入，並輸出文字與語音。這使得開發者可以取代原本需要分別部署的 ASR、視覺語言模型、LLM 和 TTS 系統。

該模型引入了自研的 LiquidCodec 音訊分詞器，能在 Apple M4 Max 單 CPU 執行緒上以約 87 倍實時速度將生成的 token 轉換為語音，並支援串流解碼。這意味著語音回應可以隨著模型的生成過程即時串流輸出，而非等待完整句子生成完畢。

在音訊視覺影片理解任務中，LFM3-Omni-2B 在 Daily-Omni、WorldSense 和 AV-SpeakerBench 等基準測試上，超越了參數規模達 10.7B 的模型（如 Qwen2.5-Omni-7B）。它保留了獨立 LFM3 模型的核心能力，包括視覺問答、語音識別與合成，並能將所見所聞轉化為工具調用。

決策模型 d1 系列提供單次前向傳播的校準答案

d1-2B 與 d1-omni-2B 是專為快速結構化決策設計的模型，而非用於生成自由文本。它們接受情境輸入（如支援工單、發票、應用程式畫面或語音筆記）與問題列表，並在單次前向傳播中輸出帶有校準機率的回答。

d1-2B 基於 LFM3-VL-2B 構建，參數比前代 d1-3B 減少三分之一，但在四項決策測試套件中的分數均更高，例如在 ImajevBench 上得分從 64.0 提升至 75.5。d1-omni-2B 則基於 LFM3-Omni-2B，額外支援音訊輸入，並在語音提問時保持幾乎不變的準確度。

這些模型不僅能回答是非題或選擇題，還能標記物件位置、從文件中讀取數值、估計帶有範圍的數字，以及選出所有適用選項。這種設計適用於需要高可靠性與低延遲的自動化決策流程，而非通用對話場景。

微調工作流與機器人應用實例

LFM3 系列被設計為可針對特定任務進行專業化微調，所有模型均可在單張 GPU 上完成微調。官方提供了涵蓋 SFT、DPO、GRPO 和 CPT 等多種方法的 Notebook 範例，任務包括從雜亂文件中提取結構化 JSON、根據檢索文檔回答問題、以及學習新語言等。

在機器人應用示範中，LFM3-VL-2B 被微調為三個互補模型：協調器（Orchestrator）、導航器（Navigator）與操作 VLA。協調器透過工具調用控制機械臂並驗證結果；導航器僅用五個 token 預測空間目標與路徑軌跡；操作 VLA 則將影像、語言與機器人狀態映射為連續動作區塊。

在跨 15 種實體配置的聯合訓練下，該 VLA 模型在 LIBERO 測試套件中達到 96.2% 的平均成功率，並在 RoboCasa-GR1 桌面任務中達到 45.7%。在搭載 TensorRT FP16 的 Jetson AGX Orin 嵌入式硬體上，動作區塊的生成時間低於 50 ms，顯示其在即時控制上的可行性。