Rethinking agent architecture with Jev's System One idea
The author discusses splitting agents into a high-frequency, low-latency System 1 and a planning System 2, arguing that computer use and voice interaction should not run a full ReAct loop on every step.
@bojie_li 这条我觉得比a16z的原帖值得看，尤其是Bojie提出的一个观点： 世界是事件驱动的，每次只做一点简单决策。 其实这句话对 Agent 架构的启发，可能比 Jev 模型本身还大。 我们现在熟悉的 Agent，基本都建立在 ReAct Loop 上：模型思考、调用工具、等待结果、观察反馈，然后再进入下一轮。 这个模式适合 Coding、研究和长时间任务，但放到实时交互场景，就会出现一个很明显的问题：绝大多数时候，系统根本不需要深度思考，但仍然要付出一次模型推理的成本和延迟。 比如 Computer Use，用户刚刚移动了一个窗口，按钮的位置变了。Agent 可能只需要重新定位一下鼠标，完全不需要让一个前沿模型重新思考整个任务。 语音交互也是一样。 人类聊天时，大量决策发生在几百毫秒以内，比如什么时候停顿、是否打断、要不要回应。这些决策可能非常简单，但对交互体验的影响却很大。 这也是为什么我觉得他提到的 System One 很值得关注。 如果把 Agent 拆成两层： System 2 负责规划、长期记忆、复杂推理，System 1 则一直运行，负责高频、低延迟的简单决策，只有遇到不确定或者复杂的问题时，才交给 System 2。 这样一来，Agent 可以持续感知环境变化，实时执行动作，而不需要每个事件都触发一次完整的 ReAct Loop。 不过，我觉得这里还需要区分一件事。 Event-driven 本身并不新，软件工程很早就是事件驱动的。真正有价值的是，模型推理的成本和延迟开始接近普通业务逻辑能够承受的范围。 而且确定性的业务规则，依然没有必要全部交给模型。System One 更适合那些过去不得不用大量规则、阈值和启发式算法拼凑起来的模糊判断。 Jev、Pine Computer 和实时语音模型虽然形态不同，但确实都指向了同一个方向：让模型参与更细粒度、更高频的环境反馈循环。 我觉得这对 Harness 的影响会很大。 因为它讨论的已经不只是 Jev 能不能取代分类模型，而是未来的软件应该怎样组织和调用智能。
This post quotes another post: “Li Bojie: Jev-style models matter for System 1 event-driven decisions”