NVIDIA 研究團隊於 2026 年 10 月 7 日發布報告，指出基於 Nemotron 3 基礎模型，透過監督式微調（SFT）、強化學習（RL）及反饋驅動推理技術，成功在國際資訊學奧林匹克競賽（IOI 2026）與國際數學奧林匹克競賽（IMO 2026）中達到金牌級水準。在 IOI 2026 中，Nemotron-3-Ultra-CC 模型獲得 535.4/600 分，超過金牌門檻 361.12 分及人類最高分 498.27 分；該結果來自與人類參賽者相同時間、網路存取及提交限制下的即時測試，但屬於非官方、無監督的基準測試，未列入官方排名。在 IMO 2026 中，系統結合 Nemotron 3 Ultra 通用模型、SFT 及 RL 檢查點，採用生成-驗證-精煉（generate-verify-refine）架構，獲得 30/42 分，超過官方金牌門檻 29 分，且提交的證明由官方 IMO 評分員評分。
研究團隊提出一套可重複使用的專業化配方：從強大的 Nemotron 基礎模型出發，策劃領域特定問題與高品質推理軌跡，應用標準後訓練方法（如 SFT 和 RL），並搭配生成、評估與改進候選答案的推理迴圈。在 IOI 項目中，團隊策展了 22,000 個問題並生成合成推理軌跡，訓練了兩個專家模型：Nemotron-3-Nano-CC（300 億總參數，30 億活躍參數）接受 SFT 和 RL；Nemotron-3-Ultra-CC（5500 億總參數，550 億活躍參數）僅接受 SFT。在 IOI 2025 的進展顯示，Nano 模型從訓練前的 130 分提升至 SFT 後的 280 分及 RL 後的 291 分，配合 GenCorrect 迭代策略達到 468 分並跨越金牌門檻；Ultra-CC 則以相同測試時策略達到 502 分。實驗表明，較強模型僅需一個 SFT 週期即可超越完全後訓練的 Nano 模型，此發現指導了 IOI 2026 的專用系統設計。
在 IMO 項目中，團隊從 Nemotron 3 Ultra 出發，訓練了一個 SFT 專家與一個 RL 專家。SFT 語料庫包含 414,890 個經過品質過濾的範例，涵蓋 15,818 個獨特證明問題，數據涵蓋證明生成、精煉、驗證及元驗證，使模型學會構建論證、識別缺口及回應批評。RL 模型則在接近模型能力邊界的 9,597 個證明問題上訓練。最終系統結合了 SFT 檢查點（在第一輪搜尋中最強）、RL 檢查點（單一檢查點整體表現最佳）及通用模型，針對每個 IMO 問題生成候選證明、評分、產生批評並精煉最有希望的嘗試，最後由高計算階段選擇最終提交。整個系統僅使用自然語言，無形式化證明器、外部工具或網路存取。
事件背景
國際資訊學奧林匹克競賽（IOI）要求演算法與程式碼在嚴格的時間與提交限制下通過隱藏測試，而國際數學奧林匹克競賽（IMO）則要求嚴謹的自然語言證明。兩者測試的技能不同，但在兩者皆成功則指向更廣泛的能力。NVIDIA 強調，「易於微調」意味著能透過清晰、可重複的配方將強大的基礎模型適應到高要求領域，而非僅是使檢查點可訓練。團隊指出，獎牌並非僅由微調或暴力採樣產生，而是來自模型、數據與推理迴圈的共同設計。相關資源已開放：Nemotron Labs IMO 2026 集合包含 SFT 與 RL 檢查點、訓練數據集及 Nemotron-IMO-Bench（200 個奧林匹克級問題的新基準）；Nemotron-3-Ultra-CC 模型、IOI 論文及 GenCorrect 方法論亦已在 Hugging Face 及 NeMo-Skills 儲存庫中提供。
