Web crawler analogy: don't call Claude at every agent step
Using a web crawler animation, the author argues that most agent work is many cheap small judgments, and suggests using Jev for those branches while calling Claude only when truly necessary.
网页爬虫有一个很多 AI Agent 都没有的优点：它不会每走一步都去调用 Claude。 看 crawler 的动画，其实很容易看出，大部分 Agent 工作真实是什么样子。系统沿着网络不断移动，有些东西直接丢掉，有些地方会停一下，有些地方继续往下走。表面上看起来是一个很复杂的过程，但内部其实充满了大量很小的判断，而这些判断本身几乎不值多少钱。 问题出现在我们拿这样的系统，加上 AI，然后开始默认几乎每一次犹豫都值得调用一次完整的 LLM。于是 Agent 连那些只需要一个简单选择的地方，也开始为“智能”付费。一步看不出来，走到第一千步的时候，就完全不一样了。 这也是为什么 Jev 对我来说有意思的地方，不是它是不是又一个可以塞进 stack 里的模型，而是它试图把一点常识重新带回系统架构里。大模型应该只在真的离不开它的时候出现。其他步骤没有必要仅仅因为我们有能力调用 expensive reasoning，就都变成 expensive reasoning。 从这个角度看，网页爬虫其实是一个很好的视觉比喻：它可以走非常远，但不会把每一步都变成一次“智能事件”。 而且这种系统看得越多，“哪个模型更强”这个问题就越不重要。更重要的是另一个问题： 你到底有多少次，其实根本不应该调用模型？ 这也是我那篇文章真正想讲的： JEV 并不是想取代 Claude。它真正想做的，是让你别再毫无必要地调用 Claude。
This post quotes another post: x.com/make_claude/status/2105380835675312294