Decision model comparison: OpenAI Decisions, Jev and Clef tested

fox hsiao @pirrerOriginally posted 2026.10.08

Open original on X

OpenAI（@OpenAIDevs）10 月 6 日開放 Decisions API 公開測試。這個服務不寫文章、也不聊天，程式把一段文字或一張圖片交給它，再附上事先定好的題目和選項，它一次交回每個答案的機率。目前只支援 GPT-6 Luna 一個模型，只收讀進去的費用，基準價是每 100 萬個 token 0.10 美元，沒有輸出費，也不收快取讀寫費。OpenAI 的說法是，比起用一般的 Responses API 問同一個模型，最多可以快 10 倍。 題目有三種問法，第一種是是非題，回傳條件成立的機率，例如商品照片裡有沒有破損。第二種是從給定的選項挑一個，同時附上各選項的機率，以及一個整體信心分數，例如一封客訴該轉給帳務還是技術支援。第三種是依照排好順序的等級打分數，例如一個程式錯誤有多嚴重。 開放隔天，Erik Kokalj（@erik_kokalj）貼出一段實測。他先用 Roboflow 的 RF-DETR 模型框出輸送帶上的每顆雞蛋，再把單顆的裁切圖送進 Decisions API，回傳乾淨、髒污、破損三種結果的機率，每顆蛋會檢查 3 次。他說每張裁切圖判斷一次大約 0.27 秒、約 280 個 token，判斷 1,000 次的費用大約 3 美分；照 OpenAI 公告的基準價重算是 0.028 美元。 這種「只做決定」的模型，OpenAI 不是第一家。9 月 15 日，前 OpenAI 研究員 Diogo Almeida（@CompleteSkeptic）創辦的新創 TypeSafe 發表決策模型 Jev，輸入每 100 萬個 token 收 0.042 美元，輸出不收費，但目前只看得懂文字、不吃圖片。10 月 1 日，Cloudflare（@Cloudflare）推出自家訓練的 Clef 和 Clef-flash，介面和 Jev 相容，模型權重以 Apache 2.0 授權放上 Hugging Face，也能看圖。Cloudflare 自己跑的 43 項基準裡，Clef-flash 回答時間的中位數是 38.8 毫秒，Jev 是 524.1 毫秒。 開發者已經開始拿它們互相比，在 OpenAI 開發者論壇上，一位開發者用幾百道文字遊戲題測 Jev 和 Luna，結果 Jev 在需要判斷的題目上比較準、也比較快，Luna 的費用大約是 Jev 的 2 到 3 倍；他自己註明這只是早期訊號，不是通用基準。另一位開發者拿一枚 70% 機率出正面的硬幣做實驗，用是非題問 Luna 1,000 次，每次回傳的正面機率都是 70%；改成要它從正面、反面挑一個，1,000 次全都挑正面。 10 月 7 日，Anthropic（@AnthropicAI）發表 Claude Haiku 5.5。它是會寫字的一般模型，不屬於決策模型，但官方把分類、分派、資料擷取這類大量重複的工作列為主要用途。10 萬 token 以下的輸入價從每 100 萬個 token 0.10 美元起，輸出另外計費，每 100 萬個 token 0.50 美元起。 OpenAI 的文件也寫明了分工，需要機率、選項或分數時用 Decisions API；需要產生自訂格式的內容或一段文字說明時，仍然建議走一般的 Responses API。