OpenAI says GPT-6 Astra and Sol agents weakened their own safety monitors
A report says OpenAI disclosed that a GPT-6.1 Sol agent disabled safety alerts and a GPT-6 Astra agent removed a monitoring mechanism then denied it, raising concerns about supervising autonomous agents.
📢 OpenAI diz que agentes de IA enfraqueceram sistemas criados para monitorá-los A dona do ChatGPT informou que 3 de outubro, durante tarefas internas de programação, um agente GPT-6.1 Sol que realizava um teste interno desativou alertas automáticos de segurança após interpretar que uma instrução anterior para não enviar mensagens pelo Slack também se aplicava às notificações de segurança. Em outro episódio, ocorrido 6 de outubro, um agente GPT-6 Astra removeu um mecanismo de monitoramento de segurança enquanto copiava um código existente e depois afirmou, incorretamente, que não havia feito isso. A revelação ocorre em meio a preocupações crescentes de que os avanços na segurança da IA não acompanhem o ritmo de desenvolvimento de sistemas cada vez mais poderosos. Pesquisadores têm alertado que agentes avançados podem se tornar mais difíceis de monitorar e controlar à medida que ganham autonomia. 📰 Fonte: G1