决策模型横评:OpenAI Decisions、Jev、Clef 实测对比
梳理 Decisions API 上线后的定价与用法,并汇总开发者用 Jev、Luna、Clef 做鸡蛋质检和文字题对比的实测数据。
OpenAI(@OpenAIDevs)10 月 6 日開放 Decisions API 公開測試。這個服務不寫文章、也不聊天,程式把一段文字或一張圖片交給它,再附上事先定好的題目和選項,它一次交回每個答案的機率。目前只支援 GPT-6 Luna 一個模型,只收讀進去的費用,基準價是每 100 萬個 token 0.10 美元,沒有輸出費,也不收快取讀寫費。OpenAI 的說法是,比起用一般的 Responses API 問同一個模型,最多可以快 10 倍。 題目有三種問法,第一種是是非題,回傳條件成立的機率,例如商品照片裡有沒有破損。第二種是從給定的選項挑一個,同時附上各選項的機率,以及一個整體信心分數,例如一封客訴該轉給帳務還是技術支援。第三種是依照排好順序的等級打分數,例如一個程式錯誤有多嚴重。 開放隔天,Erik Kokalj(@erik_kokalj)貼出一段實測。他先用 Roboflow 的 RF-DETR 模型框出輸送帶上的每顆雞蛋,再把單顆的裁切圖送進 Decisions API,回傳乾淨、髒污、破損三種結果的機率,每顆蛋會檢查 3 次。他說每張裁切圖判斷一次大約 0.27 秒、約 280 個 token,判斷 1,000 次的費用大約 3 美分;照 OpenAI 公告的基準價重算是 0.028 美元。 這種「只做決定」的模型,OpenAI 不是第一家。9 月 15 日,前 OpenAI 研究員 Diogo Almeida(@CompleteSkeptic)創辦的新創 TypeSafe 發表決策模型 Jev,輸入每 100 萬個 token 收 0.042 美元,輸出不收費,但目前只看得懂文字、不吃圖片。10 月 1 日,Cloudflare(@Cloudflare)推出自家訓練的 Clef 和 Clef-flash,介面和 Jev 相容,模型權重以 Apache 2.0 授權放上 Hugging Face,也能看圖。Cloudflare 自己跑的 43 項基準裡,Clef-flash 回答時間的中位數是 38.8 毫秒,Jev 是 524.1 毫秒。 開發者已經開始拿它們互相比,在 OpenAI 開發者論壇上,一位開發者用幾百道文字遊戲題測 Jev 和 Luna,結果 Jev 在需要判斷的題目上比較準、也比較快,Luna 的費用大約是 Jev 的 2 到 3 倍;他自己註明這只是早期訊號,不是通用基準。另一位開發者拿一枚 70% 機率出正面的硬幣做實驗,用是非題問 Luna 1,000 次,每次回傳的正面機率都是 70%;改成要它從正面、反面挑一個,1,000 次全都挑正面。 10 月 7 日,Anthropic(@AnthropicAI)發表 Claude Haiku 5.5。它是會寫字的一般模型,不屬於決策模型,但官方把分類、分派、資料擷取這類大量重複的工作列為主要用途。10 萬 token 以下的輸入價從每 100 萬個 token 0.10 美元起,輸出另外計費,每 100 萬個 token 0.50 美元起。 OpenAI 的文件也寫明了分工,需要機率、選項或分數時用 Decisions API;需要產生自訂格式的內容或一段文字說明時,仍然建議走一般的 Responses API。