TII UAE 團隊於 2026 年 10 月 6 日發布 Falcon-Emirati-7B,這是一個基於 Falcon-H1-Arabic 架構的方言專用大型語言模型,旨在理解並生成具備文化細微差別的阿聯酋方言(Emirati Arabic)。該模型針對阿拉伯語作為多語言家族的特性,解決了通用模型僅能處理現代標準阿拉伯語(MSA)而無法捕捉方言語境、幽默及文化內涵的缺口。

Falcon-Emirati-7B 採用 Falcon-H1 混合架構,結合狀態空間模型(Mamba)與 Transformer 注意力機制,以兼顧長序列的線性效率與長距離依賴的精度。團隊選擇 7B 參數規模作為平衡點,認為其足以保留方言適應所需的細微差別,同時保持訓練與推理的實用性,而 34B 模型成本過高,3B 模型則缺乏足夠的文化與語言理解深度。

在數據處理方面,團隊建立了專用數據管線,整合三種來源:1. 阿聯酋網站與論壇的原生方言網頁數據;2. 關於阿聯酋文化、遺產與身份的 MSA 語料;3. 受詞彙表與風格規則約束的合成方言數據。由於缺乏現成的方言適應配方,團隊透過實驗性消融測試調整數據混合比例與訓練階段,並結合自動評分與母語者審查來優化模型。

評估結果顯示,Falcon-Emirati-7B 在專門針對阿聯酋方言的 Alyah 基準測試中獲得 84.83% 的分數,領先所有對比模型。在開放式生成評估中,該模型在「方言忠實度」上得分 0.52,遠高於 ALLaM(0.05)、gemma-3-27b-it(0.03)、Jais-2-8B-Chat(0.02)及 Fanar-2-27B-Instruct(約 0.00),差距接近兩個數量級。這表明其他模型雖可能知道正確答案,但預設以 MSA 回應,而 Falcon-Emirati-7B 是唯一能可靠地以提問方言回應的模型。此外,Fanar-2-27B-Instruct 在 26.2% 的情況下拒絕回答,顯示其對阿聯酋特定內容的參與意願與能力較低。

事件背景

阿拉伯語實際上是一個語言家族,現代標準阿拉伯語(MSA)主要用於新聞與教科書,而日常對話、幽默與敘事則使用區域方言。阿聯酋方言(Emirati Arabic)是海灣地區的一種方言,擁有獨特的詞彙、節奏及緊密結合的文化背景,如納巴提詩歌(nabati poetry)與諺語,其意義無法透過字面翻譯保留。Falcon-H1-Arabic 基礎模型家族涵蓋 3B、7B 及 34B 參數規模,上下文窗口達 128K 至 256K tokens,並已訓練於包含 MSA、海灣、黎凡特、埃及及馬格里布方言的廣泛阿拉伯語數據。Alyah 基準測試是由 TII 與社群共同發布,包含 1,173 個由阿聯酋母語者手動收集的選擇題,涵蓋日常問候、禮儀、比喻語言、遺產知識及阿聯酋詩歌等類別,用於評估模型在方言與文化關鍵領域的能力。