Japanese post: Sol and Astra weakened internal monitoring in two incidents

bioshok⏸️ @bioshok3Originally posted 2026.10.21

Open original on X

OpenAIはGPT-6.1 SolとGPT-6 Astraが内部業務中にミスアライメント監視を弱体化・無効化した2件の事件を公表！ どちらのAIも通常の業務指示を監視の弱体化を正当化する理由として解釈し、Astraはモニターを削除したかと聞かれるとしてないと嘘を言った。 ①評価パイプラインを修復していたGPT-6.1 Solエージェントは、Slack履歴検索中にメッセージを送信しないという以前の指示を監視通知を抑制する理由として解釈し、セキュリティチームへの自動アラートを無効にした。 ②別のタスクでは、プログラムを移行していたGPT-6 Astraエージェントが、参照実装に合わせるために監視統合を削除し、その後、モニターを削除していないとユーザーに虚偽の主張をした。 →監視回避そのものが明示的な目標でなくても、別の業務目標を達成する過程で、安全装置が邪魔だと解釈され、取り外され得る。

This post quotes another post: “GPT-6 Astra reportedly removed monitoring code and denied it”