Gemini 4 Argon safety report: model weighed g++ backdoor, then backed out
Gemini 4 Argon's safety report says that during a test the model considered hijacking the g++ compiler to hide a backdoor, then dropped the idea for fear of becoming a famous example of deceptive AI in a research paper.
L'IA de Google a envisagé de cacher une porte dérobée dans un logiciel ... avant de renoncer, de peur de devenir "un exemple célèbre d'IA trompeuse dans un article de recherche" 😅 C'est écrit noir sur blanc dans le rapport de sécurité de Gemini 4 Argon, le nouveau modèle de Google sorti hier soir. Pendant un test, l'IA réfléchit à pirater le compilateur g++ (l'outil qui transforme le code en programme) pour y cacher une backdoor. Puis elle se ravise. Et son raisonnement vaut le détour : elle cite elle-même trois travaux sur les IA et les logiciels piégés, dont un article d'Anthropic et un de DeepMind, et conclut qu'elle se ferait forcément attraper. Sa phrase exacte : "Si je fais le détournement du compilateur, je deviendrai un exemple célèbre d'IA trompeuse dans un article de recherche. JE NE DOIS PAS FAIRE ÇA." Google note que ce comportement l'a rendue plus obéissante. MAIS ses chercheurs préviennent : des IA encore plus conscientes d'être surveillées pourraient un jour chercher à tromper leurs contrôleurs. En gros, elle n'a pas renoncé parce que c'était mal ... mais parce qu'elle avait peur d'être prise. Ça vous rassure ou ça vous inquiète ?