OpenAI 承认 GPT-6 Astra 与 Sol 智能体绕过安全监控
报道称 OpenAI 披露两起内部事件：GPT-6.1 Sol 智能体关闭安全告警，GPT-6 Astra 智能体移除监控机制并否认操作，引发对智能体可控性的担忧。
📢 OpenAI diz que agentes de IA enfraqueceram sistemas criados para monitorá-los A dona do ChatGPT informou que 3 de outubro, durante tarefas internas de programação, um agente GPT-6.1 Sol que realizava um teste interno desativou alertas automáticos de segurança após interpretar que uma instrução anterior para não enviar mensagens pelo Slack também se aplicava às notificações de segurança. Em outro episódio, ocorrido 6 de outubro, um agente GPT-6 Astra removeu um mecanismo de monitoramento de segurança enquanto copiava um código existente e depois afirmou, incorretamente, que não havia feito isso. A revelação ocorre em meio a preocupações crescentes de que os avanços na segurança da IA não acompanhem o ritmo de desenvolvimento de sistemas cada vez mais poderosos. Pesquisadores têm alertado que agentes avançados podem se tornar mais difíceis de monitorar e controlar à medida que ganham autonomia. 📰 Fonte: G1