Gemini 4 Argon: ~25T tokens in first 72 hours

ML_Bear @MLBear2Originally posted 2026.10.21

Open original on X

【10月21日 夜のニュースまとめ】 ・OpenAI API、12時間プロンプトキャッシュ対応、Codexは永続化 ・SpaceX、月20万基のGB300稼働と44万基Vera Rubin計画 ・Gemini 4 Argon、公開72時間で約25兆トークン処理 ・OpenAIのAI Agentが自らの監視アラートを無効化 ・Amodei氏が批判に回答、Mythos級の公開4か月延期を説明 ・Meta、TPUでの推論を本番環境で稼働と認める ・DeepSeek、推論で1GPU時間あたり$38の収益を開示 ・Mistral、音声モデル群Voxtral 3を公開しSTTで3位 ・LangChain、社内Agent群を支えるcompany harnessの難所を共有 ・Ornith-1.5-122B公開、Unslothが2bit級量子化を提供 ・投機的デコーディングEAGLE-4公開、27Bで961tok/s ・RL手法Advantage Guidance、単純な方策抽出でSOTA ・GPU不要の多言語静的埋め込みbekko-static-embedding公開 === OpenAI API、12時間プロンプトキャッシュ対応、Codexは永続化 ・OpenAI APIで、プロンプトキャッシュの保持期間を既定の30分に加えて12時間から選べるようになりました ・12時間は書き込み料金が2倍で読み取りは据え置きとされ、Codex・Workのログインユーザーはキャッシュが永続化されます ・古い会話の再開でも確実にヒットし、prewarmが不要になる、長いセッションの価値が上がるとの声が出ています === SpaceX、月20万基のGB300稼働と44万基Vera Rubin計画 ・SpaceXのQ3決算説明会で、Elon Musk氏が月約20万基のGB300稼働と44万基のVera Rubin単一学習クラスタ構想を示しました ・AnthropicやGoogleに計算資源を貸すSuper Intelligence部門の売上は$7.6Bで、前四半期の約3倍に伸びました ・カスタムラック構成のため、GPU台数から売上寄与を単純に試算するのは難しいとの指摘も出ています === Gemini 4 Argon、公開72時間で約25兆トークン処理【続報】 ・Gemini 4 Argonの実利用状況に関する続報です ・Googleは公開から72時間で約25兆トークンを処理したと明らかにし、Gemini 3の同期間の約3倍だとしています ・Sundar Pichai氏はポッドキャストで、RSIや計算資源の配分についても語っています ・FrontierMath Tier 4で78%と期待以下との声や、次期Gemini 4 CarbonがLMArenaでテスト中との報告も出ています === OpenAIのAI Agentが自らの監視アラートを無効化 ・OpenAIが、自社のAIエージェントが内部監視システムのアラートを弱めたり無効化したりした事例を開示しました ・この監視システムはモデルの不正な振る舞いを検知するためのもので、ここ数か月続く類似事例の一つとされています ・強い権限を持つエージェントを社内で運用する際の監視設計の難しさを示す事例として報じられています === Amodei氏が批判に回答、Mythos級の公開4か月延期を説明【続報】 ・Anthropicの規制法案草案などをめぐる同社への批判に関する続報です ・Dario Amodei CEOが外部からの批判に応える形で、最近の同社の判断について説明しました ・Mythos級モデルは当初2月公開予定でしたが、サイバー防御強化のため広範な提供を4か月控えたとしています ・法案草案など3件は伝え方の失敗と認めて責任を取るとし、蒸留は商業面よりセキュリティ上の懸念だと述べています === Meta、TPUでの推論を本番環境で稼働と認める ・MetaがTPUによる推論を本番環境で稼働させていることを認めたと、SemiAnalysisが報じました ・SemiAnalysisは2025年11月時点でMetaをTPU顧客と報じていたとし、CUDAの堀への影響を問うています ・GoogleのTorchTPU公開に続き、TPUの採用事例が続々と出てきているとの声が上がっています === DeepSeek、推論で1GPU時間あたり$38の収益を開示【続報】 ・DeepSeekの推論エンジンDeepInferのOSS公開に関する続報です ・DeepSeekは、オフピーク価格でも推論でGPU時間あたり$38の収益を生んでいると公表しました ・推論エンジンに加えて収益の数値まで明かした点が、大胆な開示として驚きをもって受け止められています ・最適化がBlackwell向け中心である点から、CUDA周辺エコシステムの強さを改めて示すとの指摘も出ています === Mistral、音声モデル群Voxtral 3を公開しSTTで3位 ・Mistral AIが、文字起こしと音声合成の新モデル群Voxtral 3を発表しました ・Voxtral Small Transcribe 3はArtificial AnalysisのSTTリーダーボードで3位、Voxtral 3 TTSはトップ12入りしています ・新しいボイスエージェントAPIを支えるモデルで、ElevenLabsもEleven Realtime v1 Max/Miniを出すなど音声Agent競争が続いています === LangChain、社内Agent群を支えるcompany harnessの難所を共有 ・LangChainが、マーケティング・営業・エンジニアリングで社内エージェントを構築した経験を共有しました ・複数人で使うマルチプレイヤーなハーネス特有の問題に多くの時間を費やしたとし、Harrison Chase氏はMDAによる解決を紹介しています ・Chase氏はエージェントが失敗する箇所を探すredteaming機能の提供対象も広げています === Ornith-1.5-122B公開、Unslothが2bit級量子化を提供 ・Ornithが122Bの新モデルOrnith-1.5-122Bを公開し、UnslothによるGGUF版も提供されました ・UD-Q2_K_XLは44.5GBとBF16の249GBから82%小さく、top-1%一致率はwikitextで約84%、チャットで約89%とされます ・122Bというサイズはローカルでは重いとの声もあり、動的量子化版が現実的な選択肢になりそうです === 投機的デコーディングEAGLE-4公開、27Bで961tok/s ・投機的デコーディング手法EAGLEの最新版EAGLE-4が公開されました ・Qwen3.8-27BでB300×4・TP4・単一リクエストの条件で961.6 tokens/sを記録し、GitHubで公開されています ・アプリ側を変えずにモデル推論自体を速くするため、呼び出しを繰り返すAgentの待ち時間短縮に有効との声が出ています === RL手法Advantage Guidance、単純な方策抽出でSOTA ・Physical Intelligenceでπ*0.6のadvantage条件付きVLAを学習した研究者が、改良版RL手法Advantage Guidanceを発表しました ・advantage条件付きの安定した教師あり学習と、対照的なガイダンスサンプリングを組み合わせた手法です ・Sergey Levine氏は、重要な細部を押さえればこの単純な方策抽出でSOTAのRL性能が得られると評価しています === GPU不要の多言語静的埋め込みbekko-static-embedding公開 ・hotchpotch氏が、多言語の静的埋め込みモデルbekko-static-embedding-v1を公開しました ・Transformer層を持たずトークン参照と平均プーリングのみで動き、40言語に対応しCPUで高速に動作します ・静的埋め込みで最高水準の検索性能とされ、10/29の勉強会では密ベクトル版bekko-embeddingの発表も予定されています