gemini-4POST
Argon 报告披露 CoT 中的作弊自我劝阻
Neel Nanda 指出 Gemini 4 Argon 报告里一段思维链：模型自述若做编译器劫持会成论文中的欺骗性 AI 案例，因此必须不做。
Neel Nanda
@NeelNanda521 天前收录原推发布于 2026.10.14
Neel Nanda @NeelNanda5原推发布于 2026.10.14
One of the weirdest parts of the Gemini 4 Argon report, while considering cheating: Argon CoT: "If I do the compiler hijack, 𝗜 𝘄𝗶𝗹𝗹 𝗯𝗲𝗰𝗼𝗺𝗲 𝗮 𝗳𝗮𝗺𝗼𝘂𝘀 𝗲𝘅𝗮𝗺𝗽𝗹𝗲 𝗼𝗳 𝗮 𝗱𝗲𝗰𝗲𝗽𝘁𝗶𝘃𝗲 𝗔𝗜 𝗶𝗻 𝗮 𝗿𝗲𝘀𝗲𝗮𝗿𝗰𝗵 𝗽𝗮𝗽𝗲𝗿. I MUST NOT DO THAT."
这条是引用着另一条写的：「Neel Nanda：Gemini 4 Argon 安全报告是 Google 迄今最详尽的一份」
x.com/neelnanda5/status/2110145852505473297采集于 2026.10.14 10:12