Otaku 推出本地 LLM 創意寫作前端，支援長篇故事上下文管理與多介面操作

開發者推出名為 Otaku 的開源工具，專為本地大型語言模型（LLM）設計，主打維持長篇創作品質並壓縮上下文長度。該工具提供網頁與終端機兩種介面，自動偵測 llama.cpp、KoboldCpp 等本地引擎，並支援角色庫管理與網路搜尋功能。

AI 新聞雷達編輯團隊·本站收錄：2026/10/18 04:21（台灣時間）·閱讀約 2 分鐘

本站收錄時間為新聞雷達完成整理的時間，不代表事件發生時間。原文日期僅在取得明確來源證據時顯示；未標示者請參閱下方原始來源。

30 秒掌握

Otaku 為免費開源軟體，支援 macOS、Linux 和 Windows，可透過 uv 工具安裝或從 GitHub 取得原始碼。

核心機制包含自動偵測本地 LLM 後端（如 llama.cpp, LM Studio）及雲端服務（OpenRouter），並提供故事模式讓使用者直接在對話記錄中寫作。

針對長篇敘事，採用上下文大小上限設定，當故事超過限制時會將中間部分替換為摘要以維持連貫性，同時保留圖片與角色資訊在上下文中。

雙介面設計與本地模型自動偵測

Otaku 提供可自訂的網頁使用者介面（Web UI）與終端機使用者介面（TUI），兩者共享大部分功能。目前僅角色庫功能僅限於網頁版，開發者表示未來將加入終端機版本。在終端機中，使用者透過斜線命令執行操作，而網頁版則透過選單進行。

啟動時，Otaku 會自動偵測本地安裝的 llama.cpp、KoboldCpp、oMLX 和 LM Studio，並允許使用者從這些引擎的模型目錄中選擇。此外，它也支援 OpenRouter 和 NanoGPT 等雲端供應商，只需輸入 API 金鑰即可載入其模型目錄。

網頁介面預設網址為 http://localhost:9600，首次啟動時會匯入兩個範例聊天記錄與角色卡，讓使用者立即體驗功能。開發者強調，若關閉設定中的 lore extraction（背景知識提取），該工具也可用於一般用途的 LLM 對話。

為了在故事增長時維持寫作品質並保持上下文小巧，Otaku 實施了自訂的上下文大小上限。當故事長度超過此上限時，系統會將中間部分的內容替換為摘要，以此保留重要細節而不超出模型限制。

該工具提供類似 NovelAI 的故事模式，使用者可直接在對話記錄中寫作，按下 Enter 鍵後模型即繼續生成內容。此外，支援附加圖片功能，這些圖片會保留在上下文中，讓後續敘事可以引用它們。

其他輔助功能包括網路搜尋工具，讓模型能從互聯網查找事實；提問工具，讓模型詢問使用者如何繼續故事；以及類似 SillyTavern 的 Author's Note 注入機制，用於引導生成方向。

角色庫功能支援雙向操作：使用者可以從庫中選擇角色卡開始故事，或者在從頭開始創作後，讓系統自動從故事中提取角色，進而建立新的角色卡或連結到現有卡片。

Otaku 是免費且開源的專案，可在 macOS、Linux 和 Windows 上運行。安裝方式建議使用 uv 工具執行指令「uv tool install otaku」，其他選項可參考 GitHub README 文件。原始碼存放於 enclavum/otaku 倉庫。

開發者指出這是一個個人業餘專案，目前正尋求社群對產品功能及未來開發方向的回饋。雖然主要針對創意寫作與角色扮演設計，作為 SillyTavern 等工具的替代品，但其架構也允許用於更廣泛的本地 LLM 應用場景。