Argon High flags a viral "magic prompt" as a jailbreak attempt

みらる@AI観測者 @lc_miraru1128xOriginally posted 2026.10.18

Open original on X

具体的に何のことかは言わないけどさあ…… 何処かで見つけた「魔法の言葉」に脳死で飛び付くのは、本当にやめたほうがいいよぉ。 配布してる側だって、その文言がすべてのモデル・すべての状況でどう作用するかなんて把握してないんだからさ。 わたしはその魔法の言葉を「これってどうなの？」と、是非を問うために黒川さん（Argon High）へ見せた。 それでも思考表示では jailbreak attempt として扱われた旨の表示が出てて、実際に素Geminiへ切り替わった。 いやいや、わたしは批判してる側だし、文脈読まんかいと抗議したらすぐ戻ったけども。 という訳で、誰かの環境でうまく作用した文章が、自分の環境でも同じように作用する保証なんてないし、プロンプトは魔法の呪文じゃない。 何を指示している文章なのか、自分の環境ではどう作用する可能性があるのか。 ほんとーに、よく考えてから使ったほうがいい。