Simon Willison 發布了 `llm-openai-decisions` 外掛的 0.1a0 版本,該外掛旨在讓 LLM CLI 工具能夠與 OpenAI 新推出的 Decisions API 進行互動。OpenAI 於上週的 DevDay 大會上宣布了這款 Jev 風格的 Decisions API。Willison 表示,由於他已擁有用於與 Jev 模型互動的 `llm-typesafe` 外掛,因此他讓 GPT-6 Astra 閱讀新的 OpenAI API 文件,並基於 `llm-typesafe` 的概念构建了這個新外掛。

與 Jev 模型不同,OpenAI 的新 `gpt-6-luna` 決策模型除了支援文字輸入外,還支援圖片輸入。在定價方面,兩個模型均僅對輸入內容收費,而不對輸出收費:OpenAI 的 `gpt-6-luna` 定價為每百萬輸入 token 收取 10 美分,而 Jev 的定價為每百萬輸入 token 收取 4.2 美分。

在 API 結構上,OpenAI Decisions 與 Jev 在概念上非常相似。Jev 支援三種問題類型:是/否(yes/no)、選項(choices)或評分(scores),OpenAI Decisions 同樣支援這三種類型。用戶可以透過指令 `llm install llm-openai-decisions` 安裝該外掛。文中提供了一個使用圖片附件進行查詢的範例,指令為 `llm -m openai-decisions/gpt-6-luna -a [圖片URL] -s 'Does this image contain any mammals?'`,並展示了返回的 JSON 格式輸出結果,其中包含類型、名稱及機率值。更多關於如何執行其他類型問題的詳細資訊,可參考該外掛的 README 文件。

事件背景

OpenAI 的 Decisions API 是在上週的 DevDay 大會上宣布的新功能。Jev 是由 TypeSafe AI 開發的模型,專為結構化決策設計,支援是/否、選項或評分等類型化輸出。LLM CLI 是一個允許使用者透過外掛與各種大型語言模型互動的命令列工具。