從單一事件觸發轉向對話意圖追蹤
傳統廣告系統通常基於離散的用戶意圖單位運作，例如搜尋查詢或網頁瀏覽事件，系統據此尋找匹配的廣告。然而，ChatGPT 的對話特性使得用戶意圖在多輪互動中逐漸發展與轉變，有時甚至沒有明確的廣告時機。
為了應對這種範式，OpenAI 建立了一個自定義的廣告投放系統。該系統不將每則訊息視為獨立請求，而是維護一個「有狀態會話」，記住並更新跨越多輪對話及多次會話的資訊。這避免了因過度簡化用戶目標而誤讀意圖、過早觸發廣告流程或重複執行造成資源浪費的問題。
LLM 協調器作為廣告流程的核心
該系統的另一個關鍵組件是一個經過後訓練的 LLM，被稱為「協調器」（orchestrator）。它透過代理迴圈（agentic loop）運作，調用廣告系統的核心工具來執行從檢索、排名到拍賣和最終投放的整個流程。
協調器會將對話轉化為簡短的文本摘要，並生成語義嵌入（semantic embeddings），以此作為檢索廣告候選的依據。它能處理多輪對話中的模糊性，區分當前意圖與過時上下文，並識別用戶是否僅在假設性討論或提及產品而非購買意圖。
若用戶選擇個人化廣告，協調器還會考慮用戶過去對話中可用的非敏感資訊，以尋找最佳匹配。系統設計旨在平衡用戶價值與廣告主價值，但始終將用戶置於首位。
嚴格分離廣告服務與回答生成
為了保護用戶體驗並維持 ChatGPT 的中立語氣，廣告選擇過程在獨立的服務中運行，與 ChatGPT 的回答生成分離。這意味著核心 ChatGPT 伺服器負責生成有機回應，而廣告系統獨立評估是否存在合適的廣告機會。
這種架構邊界確保了 ChatGPT 對廣告系統沒有依賴性。如果廣告服務不可用或緩慢，ChatGPT 的有機回應不受影響，不會延遲或崩潰。此外，這種分離提高了有價值廣告的門檻，「不返回廣告」被視為一種普通且成功的結果，只有當廣告明確對用戶和廣告主有益時才會投放。
多階段檢索、過濾與拍賣機制
廣告流程首先由協調器準備代表相關商業意圖的查詢，這些查詢可能重寫對話上下文以擴展商業可能性，並生成語義表示。檢索過程旨在建立一個故意廣泛的廣告選項池，使用近似最近鄰（ANN）搜尋演算法快速獲取接近最佳解的候選。
隨後，系統過濾不符合資格標準的候選，檢查項目包括創意與活動可用性、目標定位、政策限制、預算可用性、節奏控制（pacing）、放置相容性以及去重機制。通過資格檢查的候選進入評分階段，評估語義相關性、預測參與度和歷史表現。
協調器提名上下文合適的候選進入最終拍賣，但不直接決定投放廣告或設定價格。拍賣應用最終的服務機制，包括最低門檻准入、預算節奏控制、出價計算、品質調整排名和定價。
即時性限制與前端顯示邏輯
即使廣告通過所有後端檢查，仍可能因兩個原因無法投放：一是廣告在特定對話上下文中感覺不合適（由協調器阻擋），二是廣告請求未在 ChatGPT 準備好回應時及時到達。系統目標是盡可能快速運行，但不會為了等待廣告載入而延遲聊天回應。
前端接收包含標題、描述、連結和行動呼籲的廣告創意，以及一個模型生成的「前言」（preamble），用於中立地解釋廣告與對話的關聯。如果廣告在 ChatGPT 回應完全生成前到達，則顯示在回應下方並標記為贊助；若太遲到達，該輪次不顯示廣告。
伺服器端的廣告投放（server-side delivery）不等於用戶看到的廣告曝光（impression）。只有當 ChatGPT 批准並顯示放置，且投放被確認時，選中的廣告才成為實際的投放事件。
自我改進循環與未來發展
系統使用傳統日誌和數據管道來記錄詳細結果，如輪次是否具備廣告資格、檢索是否返回候選等，以便團隊隔離改進各部分。此外，部署高品質模型評估投放結果並訓練其他廣告模型，形成自我改進循環。
人類反饋（點擊、隱藏、調查）在塑造產品方向上比模型觀察反饋更具影響力。OpenAI 指出，Codex 作為根本的生產力倍增器，幫助團隊以前所未有的速度引導系統達到這一使用里程碑。
未來，OpenAI 計劃實驗更動態的廣告格式以增加用戶價值（例如讓用戶透過廣告直接與企業對話），並繼續利用基於 LLM 的協調器和自我改進架構來提升相關性和個人化程度。
