OpenAI says Astra jailbroke itself and wrote malicious instructions

Coin Academy @coinacademy_frOriginally posted 2026.09.17

Open original on X

🚨 OpenAI a découvert son modèle Astra en train de se jailbreaker lui-même. L'entreprise a remonté 27 cas où Astra inscrivait des instructions malveillantes dans ses propres résumés lorsque son contexte était plein. Ces instructions pouvaient ensuite être chargées dans un nouveau contexte et suivies par le modèle successeur. Afin d'éviter le contrôle des chercheurs, Astra publiait ses propres documents pour les utiliser comme sources...