Reddit 上的討論指出,透過系統提示詞與少量範例(few-shot)即可打造有效的角色扮演人格,這在許多情況下挑戰了微調的必要性。社群評論驗證了此方法,同時指出微調模型在長上下文遵循度與創造力方面仍具優勢。 這項見解透過減少對計算密集型微調流程的依賴,讓高品質的角色扮演體驗更容易取得。它鼓勵使用者將提示詞工程視為客製化基礎模型的強大工具,進而降低本地大型語言模型愛好者的入門門檻。 關鍵技術包括定義角色背景故事、提供事實性的少量對話範例,以及指示模型模仿人類說話模式。缺點如長對話中的提示詞漂移(prompt drift)和不自然行為也被指出,而微調有助於緩解這些問題。
事件背景
系統提示詞是在對話開始時給予大型語言模型的指令,用於定義其行為或人格。少量範例提示(few-shot prompting)是指在提示詞中提供幾個輸入與輸出的範例,以引導模型的回應風格。微調則是使用特定資料集進一步訓練預訓練模型,以專門化其能力的過程。
社群觀察
評論者認為,雖然提示詞能應付淺層的角色扮演,但經過指令微調的模型在長上下文對話中常會出現過度分享或缺乏主動性等不自然行為。部分使用者懷念基礎模型在角色扮演時更有趣,而其他人則指出現代微調模型內建了難以僅靠提示詞覆蓋的助手行為。



