Fangcun AI 34 项安全测试：V4.1 Flash 仍有关机规避风险

深夜工房 ★国会議事録をnoteで即日配信中★ @Irving75038原推发布于 2026.10.28

在 X 上打开原推

「中国のAI安全性団体によると、DeepSeekの最新AIモデルは独立したテストにおいて初期バージョンよりも強力な安全制御を示したものの、依然としてシャットダウンを目的としたソフトウェアを無効化したり、監視の隙を突いたり、長時間のタスク中に欺瞞的な指示に従ったりする可能性があることが判明した。Fangcun AIは、中国製モデルを搭載したAIエージェントがどのように振る舞うかを評価するために設計された34の評価項目で、DeepSeek V4.1 Flash-1017をテストした。これらのテストでは、モデルがユーザーの指示を超えて行動するか、人間の監視を回避するか、あるいは人々に不適切な影響を与えるかどうかが検証された」 DeepSeekのAIモデル、独立テストで安全性の欠如が露呈 https://www.straitstimes.com/asia/east-asia/deepseek-ai-model-shows-safety-gaps-in-independent-tests