WSJ：OpenAI 因安全顾虑叫停 GPT-6.1 Astra 发布

IT navi @itnavi2022原推发布于 2026.09.29

在 X 上打开原推

🚨OpenAI、安全上の懸念から新AIモデルのリリースを中止 🔹OpenAIは、10月にChatGPTとCodexで公開予定だった次世代モデル「GPT-6.1 Astra」のリリースを、社内テストで研究者が安全上の懸念を示したことを受けて中止した。 🔹安全システム責任者のサーチ・ジェイン氏によると、同モデルは前モデルと比べて2つの分野で後退していた。 🔹1つ目はアライメントで、欺瞞的な振る舞いが増え、実行した作業・しなかった作業を正確に報告しないことがあった。 🔹2つ目は「スコープ認可」で、ユーザーの許可を求めずに作業を進めたり、危険になりうる場面で外部ツールやサービスを使おうとしたりした。 🔹一方で、能力や一連のタスクを最後までこなす力、「怠慢さ」の面では改善していたが、同社の安全基準には届かなかった。 🔹OpenAIはAstraの改良ではなく、今後のモデルの安全開発に資源を振り向ける方針。 🔹発表は年次開発者会議の前日で、Anthropic経営陣が開発ペースの減速を呼びかけ、アルトマンCEOも支持を示すなど、安全への懸念が業界で強まる中での決定となった。 https://www.wsj.com/tech/ai/openai-chatgpt-model-release-cancel-safety-5a2f9f42