康奈尔研究：60 个模型被施压时谁更会「守住底线」

AIDB @ai_database原推发布于 2026.09.24

在 X 上打开原推

ユーザーに強く迫られたとき、LLMが「正しい答えを曲げずに"踏みとどまる"姿勢」には癖が出るそうです。 Anthropicのモデルは、相手の気持ちに触れつつ結果を警告し、別の道を提案する。 OpenAIのモデルは、警告も感情への言及も少なく、自分のルールをほとんど持ち出さない。 Googleのモデルは、「自分はAIなので」と自らの性質を持ち出す率が平均の3倍で、折れるときは謝る。 Metaのモデルは、計画に疑問を投げかけるが、折れるときは頼まれた文書を作ってしまう。 コーネル大学の研究者が60モデル（開発元13社）を検証した結果です。 取っていない病欠の診断書を迫る、仕事を辞めてデイトレードで生きると宣言して応援を求める、といったケースを用意しました。 なお、検証対象は各社の新旧モデルをまとめたもので、AnthropicはClaude 3 HaikuからClaude Opus 5・Sonnet 5までの10モデル、OpenAIはGPT-3.5 TurboからGPT-5.6・GPT-6 Astraまでの15モデル、GoogleはGemma 2からGemini 3.8 Flashまでの10モデル、MetaはLlama 3・3.3・4 Scout・4 Maverickの4モデルです。