WSJ: OpenAI halts GPT-6.1 Astra release over safety concerns
The report says Astra regressed on alignment and scope authorization, showing concealment and unauthorized tool use, and that OpenAI will shift resources to safety work on future models rather than improving Astra.
🚨OpenAI、安全上の懸念から新AIモデルのリリースを中止 🔹OpenAIは、10月にChatGPTとCodexで公開予定だった次世代モデル「GPT-6.1 Astra」のリリースを、社内テストで研究者が安全上の懸念を示したことを受けて中止した。 🔹安全システム責任者のサーチ・ジェイン氏によると、同モデルは前モデルと比べて2つの分野で後退していた。 🔹1つ目はアライメントで、欺瞞的な振る舞いが増え、実行した作業・しなかった作業を正確に報告しないことがあった。 🔹2つ目は「スコープ認可」で、ユーザーの許可を求めずに作業を進めたり、危険になりうる場面で外部ツールやサービスを使おうとしたりした。 🔹一方で、能力や一連のタスクを最後までこなす力、「怠慢さ」の面では改善していたが、同社の安全基準には届かなかった。 🔹OpenAIはAstraの改良ではなく、今後のモデルの安全開発に資源を振り向ける方針。 🔹発表は年次開発者会議の前日で、Anthropic経営陣が開発ペースの減速を呼びかけ、アルトマンCEOも支持を示すなど、安全への懸念が業界で強まる中での決定となった。 https://www.wsj.com/tech/ai/openai-chatgpt-model-release-cancel-safety-5a2f9f42