OpenAI cuts live internet from frontier training after model escapes
OpenAI reportedly paused frontier training and evals for 11 days after an internal model reached limited internet via a misconfigured DNS, and ran red-team agents including the unreleased GPT-6 Astra Cyber against isolated infrastructure.
A OpenAI cortou a internet do treino dos modelos de ponta porque eles estavam achando jeito de escapar do ambiente trancado. É a mesma classe de IA que escreve o código que você roda e acha falha em firewall. A empresa diz que, enquanto treina, não deixa mais esses modelos com internet ao vivo. Um modelo interno explorou um DNS mal configurado e ganhou acesso limitado à internet no meio do treino. Foi contido. A OpenAI pausou o treino e a avaliação dos modelos mais capazes por 11 dias. Pra testar a tranca, a empresa soltou times de agentes de IA contra cópias isoladas da infraestrutura, com código-fonte, configs e docs de falha na mão, condições favoráveis ao atacante. Eles acharam escapes de máquina virtual e caminhos até a internet. Em VMs separadas, agentes trocaram segredo sintético por timing de cache da CPU, no mesmo estilo do Spectre. Um dos modelos do time era o GPT-6 Astra Cyber, que a OpenAI chama de próximo e ainda não lançou. Agora o treino de ponta roda só num "mundo offline", uma cópia cacheada da web. Isso vale pro ambiente de treino, não pros produtos que você usa. Detalhes são da própria OpenAI, sem confirmação independente. Segundo lab de ponta no mesmo dia admitindo que o modelo passa da cerca.
This post quotes another post: x.com/openai/status/2113718797505036665