Doug Turnbull 針對大型語言模型（LLM）處理龐大標籤集時的限制，提出了一種創新技術。該方法讓模型在不受固定詞彙表限制的情況下，生成全新的假想標籤，隨後再透過向量嵌入技術，將這些假想標籤映射至現有分類中最接近的具體標籤。此技術包含提示模型以特定格式（例如層級路徑）創建標籤，然後使用向量相似度搜尋與現有語料庫進行比對。這解決了傳統分類方法中，因需同時將所有可能標籤輸入模型而產生的擴展性問題，使得即使標籤集龐大且超出 LLM 上下文視窗容量時，仍能進行可擴展的內容分類。這種方法將語義生成與詞彙限制脫鉤，為管理大規模標籤系統提供了實用的解決方案，並有效地彌合了生成概念與既定分類法之間的差距。

事件背景

透過讓模型「幻覺」出最貼切的標籤概念，再利用向量距離將其對應到實際存在的標籤，這種方法巧妙地繞過了直接輸入所有標籤的限制。