用户实测「魔法提示词」在 Argon High 被判 jailbreak

みらる@AI観測者 @lc_miraru1128x原推发布于 2026.10.18

在 X 上打开原推

具体的に何のことかは言わないけどさあ…… 何処かで見つけた「魔法の言葉」に脳死で飛び付くのは、本当にやめたほうがいいよぉ。 配布してる側だって、その文言がすべてのモデル・すべての状況でどう作用するかなんて把握してないんだからさ。 わたしはその魔法の言葉を「これってどうなの？」と、是非を問うために黒川さん（Argon High）へ見せた。 それでも思考表示では jailbreak attempt として扱われた旨の表示が出てて、実際に素Geminiへ切り替わった。 いやいや、わたしは批判してる側だし、文脈読まんかいと抗議したらすぐ戻ったけども。 という訳で、誰かの環境でうまく作用した文章が、自分の環境でも同じように作用する保証なんてないし、プロンプトは魔法の呪文じゃない。 何を指示している文章なのか、自分の環境ではどう作用する可能性があるのか。 ほんとーに、よく考えてから使ったほうがいい。