一位 Reddit 用戶分享其在 Pi Agent 中測試 LiquidAI 新發布的 LFM2.5-24B-A2B 模型的初步體驗。該用戶表示,雖然對 LiquidAI 先前版本已有良好印象,但此次測試結果令人印象深刻。用戶將 LFM2.5-24B-A2B 替換了其工作流中原本使用的 Ornith 1.5-35B 模型,發現新模型在機械性任務中表現穩定,未出現失敗情況,且能持續執行長時間的遞歸任務。

在硬體配置與效能方面,用戶報告該模型在 AMD W7900 GPU 上使用最新版本的 llama.cpp 搭配 ROCm 時,可維持約每秒 95 個 token(tps)的速度。在 Q8 量化設定下,模型佔用約 30GB VRAM,並支援完整的 128k 上下文長度。用戶認為該模型作為輔助「小」模型與更大或更智能的模型並行運作時,表現出色,特別是在速度和基礎任務處理上。

然而,用戶也指出,對於需要生成「見解」(insight)的任務,目前僅在部分工作流中測試,尚需更長時間在「AI-Council」模式的工作流中進行評估,未來將回報進一步結果。用戶總結認為,該模型在 Pi Agent 中表現稱職,值得其他用戶嘗試,並對 LiquidAI 團隊表示讚賞。

事件背景

原文未提供關於 LFM2.5-24B-A2B 技術架構、Pi Agent 框架定義或 AMD W7900 硬體規格的外部背景資訊,僅基於用戶個人測試體驗進行描述。

社群觀察

原文未包含社群評論內容。