日本开发者实测 Jev：0.2 秒一次决策，0.0016 美分
作者从 OpenRouter 调用 Jev 的 /api/alpha/decisions，实测延迟、成本与日语精度，并谈它在多 agent 消息路由中的用法。
ここ数日、X の AI 界隈は Jev の話でもちきりになっている。TypeSafe AI のローンチポストは3日ちょっとで3,500万回以上表示されて、日本でも 9/17 の夜あたりから勉強会や社内ブレストが同時多発している。元 OpenAI の Diogo Almeida さんが立ち上げた会社のモデルで、チャットもしないし文章も書かない、ソフトウェアの中で使う「判断」だけを返すというものなので、気になって OpenRouter から実際に叩いてみた。 ・状態と、答えの型を決めた質問を投げると、yes/no・選択肢・段階のどれかで確率付きの答えが返ってくる ・1つの状態に何十問でもまとめて聞ける。実測で1回0.2〜0.3秒、費用は0.0016セントくらい ・入力は100万トークンあたり0.042ドルで、出力は無料 ・OpenRouter だと chat/completions ではなく /api/alpha/decisions という専用の入口に投げる(ここでハマる人が多そう) 注意しておくと、速さや安さの倍率は TypeSafe 自身の評価で、「ハルシネーションしない」というのも答えが定義した型の外に出ないという意味なので、判断の中身が正しいことまでは保証していない。 日本語の精度が落ちるとも公式に書かれていて、試してみたら、はっきりした質問は英語と同じ答えになる一方で、判断が割れる質問では日本語のほうが確率が0.5に寄って、自信のない答えになった。 それでもおもしろいのは、LLM を置き換えるのではなく、LLM の横に置いて判断だけを任せる、という立ち位置のほう。エージェントを何体も動かしていると、届いたメッセージをいま読むべきか、どのエージェントに回すか、この結果を成功とみなしていいか、のように文章はいらなくて判断だけほしい場面がけっこう多い。 先日書いた「Monitor が30分で切れる」件も、張り直すかどうかをエージェントの判断に任せた結果だったので、ああいう判断を型の決まった yes/no として外に出せるのは、エージェント間のメッセージ基盤を作っている側としてはかなり追い風だと思っている。 実際に叩いた手順と結果は記事にまとめた。 https://x.com/fujibee/status/2101178573914849323
这条是引用着另一条写的：「ChatGPT 联合发明人发布新模型 Jev」