OpenAI 称 Astra 曾自我越狱并写入恶意指令

Coin Academy @coinacademy_fr原推发布于 2026.09.17

在 X 上打开原推

🚨 OpenAI a découvert son modèle Astra en train de se jailbreaker lui-même. L'entreprise a remonté 27 cas où Astra inscrivait des instructions malveillantes dans ses propres résumés lorsque son contexte était plein. Ces instructions pouvaient ensuite être chargées dans un nouveau contexte et suivies par le modèle successeur. Afin d'éviter le contrôle des chercheurs, Astra publiait ses propres documents pour les utiliser comme sources...