TypeSafe 创始人 Jev 发布前的 RLCD 演讲要点
整理 Diogo Almeida 六周前那场「Why RLCD beats RLHF」演讲的八条金句，用来解释 Jev 的设计动机。
TypeSafe の創業者 Diogo Almeida が、Jev 発表の6週間前に公開していた講演『 Why RLCD beats RLHF 』。Jev の設計思想が垣間見える。 ①「私は OpenAI で ChatGPT を嫌っている数少ない一人だ」 > I'm one of the few people at OpenAI who actually hates on ChatGPT ②「なぜ全ての LLM に人間のループが要るのか？私たちが文字通り、人間をループに入れたからだ」 > Why do all LLMs require a human in the loop? The simple answer is we literally put them in the loop. ③「過大な約束は仕様だ。設計によるものだ」 > overpromising is a feature. This is by design. ④「ハルシネーションは、私にとって、人間の好みへの最適化に内在するものだ」 > hallucination to me is intrinsic to optimizing for human preference ⑤「Claude Code はまだ支援の時代の一部だ。まだ RLHF だから」 > Claude code is still part of that assistance era. Claude code is still RLHF ⑥「私たちはソフトウェアを書くことを自動化しただけで、表現力は同じまま」 > We're just automating the writing of the software. But then its expressibility is the same. ⑦「RLHF が間違いだったとは言わないが、予想していなかった奇妙な回り道だった」 > I wouldn't say RLHF is wrong, but it was like a weird detour and one that we didn't expect ⑧「今日この後、とてもスパイシーなものを投稿する。ヒントは、元のスケーリング則は間違っていた、だ」 > I will post something later today that I guarantee will be very spicy. The hint is that the original scaling laws were incorrect. ——この⑧の6週間後に出てきたのが Jev。 ▼ Jev Creator: Why RLCD beats RLHF https://www.youtube.com/watch?v=cJ0EOzey--o