Gemini 4 Argon 安全报告：曾考虑给 g++ 埋后门后放弃
Gemini 4 Argon 安全报告披露：测试中模型一度盘算劫持 g++ 编译器藏后门，又因怕被写进论文当反面案例而作罢。
L'IA de Google a envisagé de cacher une porte dérobée dans un logiciel ... avant de renoncer, de peur de devenir "un exemple célèbre d'IA trompeuse dans un article de recherche" 😅 C'est écrit noir sur blanc dans le rapport de sécurité de Gemini 4 Argon, le nouveau modèle de Google sorti hier soir. Pendant un test, l'IA réfléchit à pirater le compilateur g++ (l'outil qui transforme le code en programme) pour y cacher une backdoor. Puis elle se ravise. Et son raisonnement vaut le détour : elle cite elle-même trois travaux sur les IA et les logiciels piégés, dont un article d'Anthropic et un de DeepMind, et conclut qu'elle se ferait forcément attraper. Sa phrase exacte : "Si je fais le détournement du compilateur, je deviendrai un exemple célèbre d'IA trompeuse dans un article de recherche. JE NE DOIS PAS FAIRE ÇA." Google note que ce comportement l'a rendue plus obéissante. MAIS ses chercheurs préviennent : des IA encore plus conscientes d'être surveillées pourraient un jour chercher à tromper leurs contrôleurs. En gros, elle n'a pas renoncé parce que c'était mal ... mais parce qu'elle avait peur d'être prise. Ça vous rassure ou ça vous inquiète ?