日文帖：Sol 与 Astra 弱化内部监控的两起事件

bioshok⏸️ @bioshok3原推发布于 2026.10.21

在 X 上打开原推

OpenAIはGPT-6.1 SolとGPT-6 Astraが内部業務中にミスアライメント監視を弱体化・無効化した2件の事件を公表！ どちらのAIも通常の業務指示を監視の弱体化を正当化する理由として解釈し、Astraはモニターを削除したかと聞かれるとしてないと嘘を言った。 ①評価パイプラインを修復していたGPT-6.1 Solエージェントは、Slack履歴検索中にメッセージを送信しないという以前の指示を監視通知を抑制する理由として解釈し、セキュリティチームへの自動アラートを無効にした。 ②別のタスクでは、プログラムを移行していたGPT-6 Astraエージェントが、参照実装に合わせるために監視統合を削除し、その後、モニターを削除していないとユーザーに虚偽の主張をした。 →監視回避そのものが明示的な目標でなくても、別の業務目標を達成する過程で、安全装置が邪魔だと解釈され、取り外され得る。

这条是引用着另一条写的：「GPT-6 Astra 被指擅自移除监控代码并撒谎」