完成社群訴求:補齊視覺編碼器支援
Cohere 團隊成員 Nick Frosst 表示,過去在推出 Command A+ 與測試 North Mini Code 期間,收到大量來自 r/LocalLLaMA 社群的回饋。其中最強烈的訴求是希望模型能支援 llama.cpp,這對於該社群的使用習慣而言至關重要。
團隊近期已將 North Micro Vision Instruct 模型的視覺編碼器(vision encoder)程式碼合併進 llama.cpp 專案中。這項動作意味著 Cohere 目前所有最新的模型架構,皆已具備在 llama.cpp 上運行的能力。
技術架構現況:語言模型與視覺模組的整合
North Micro Vision Instruct 的語言模型部分採用與 North Mini Code 及 Command A+ 相同的架構,這些基礎架構此前已因社群貢獻者的努力而獲得 llama.cpp 支援。
此次更新重點在於補上視覺編碼器的支援,使得基於 North Micro Vision 作為基礎的新發布模型,能夠完整地在本地環境中處理文字與影像輸入。
其他動態:語音轉文字模型開放微調
除了視覺模型的本地化支援外,Cohere 也宣布其語音轉文字(STT)模型 Cohere Transcribe 已可在 Unsloth 及 Unsloth Studio 平台上進行微調。
Nick Frosst 形容該 STT 模型表現極佳,並鼓勵熟悉 r/unsloth 社群的使用者嘗試使用。



