Tamura Kotaro: Astra can't bypass the transformer bottleneck
The article argues Astra was pretrained on over 100,000 GPUs with a limited release and 2.5x API price, while large transformers take 2-4 years to deliver, so compute expansion is held back by power infrastructure.
AIはまだ物理の壁を越えられない~AI騒ぎ屋に騙されるな! GPT-6 Astraが出た。OpenAIの社長は記者ブリーフィングを「AGI時代へようこそ」という言葉で締めくくったという。タイムラインは沸いている。 だが、同じ発表資料には別の事実も書いてある。そちらを読んだ人は少ない。 Astraは、テキサスのStargateサイトで十万基を超えるGPUを使って事前学習された。OpenAI研究担当副社長のAidan Clarkいわく、「群を抜いて」同社史上最大の学習ランである。スケーリングからの離脱ではない。過去最大の全力投球だ。 そして初期リリースは限定された。理由についてOpenAIの広報はFortuneに、限定リリースが計算能力をスケールさせる時間になる、Astraは「非常に大きなモデル」だから、と説明している。API価格は前世代の2.5倍。 整理する。賢さは跳ねた。だが、配るための電気が足りていない。 ここに、私が二年前から言い続けてきた話が接続する。 大型変圧器のリードタイムを見てほしい。コロナ前は7〜14か月だったものが、主要市場でいまや24か月を大きく超え、特殊仕様では36〜48か月に近づいている。ウッドマッケンジーの2025年第2四半期調査では、電力用変圧器が平均128週、発電機用昇圧変圧器が144週。PwCのアナリストは、高容量機で最長4年という数字を挙げている。 日本も他人事ではない。2025年半ばの時点で、大型変圧器が全国的に不足する異常事態が続いていると報じられている。重電各社は動いてはいる。東芝は約550億円を投じて日本とインドの2工場の送変電機器の生産能力を2030年度に2024年度比2倍以上へ。富士電機は千葉・川崎の再編で50%増。明電舎は160億円で沼津の変圧器生産能力を2028年度に約50%増。 数字を並べると分かる。増産投資の効果が出るのは、2028年から2030年である。 モデルは一年で世代が変わる。変圧器は、発注から据付まで二年から四年かかる。増産しようと決めても、効いてくるのが数年先だ。 ここで、誤読を防ぐために書いておく。これは時間が解決する問題ではない。 GOES(方向性電磁鋼板)の生産設備も、変圧器工場の熟練工も、系統接続の順番待ちも、AIが賢くなったところで短くならない。モデルの世代交代と、物理インフラの整備は、別の時計で動いている。速度差は縮まらない。 そしてこの差が、AIの社会実装の速度を決める。 誤解のないように書いておく。私は「AIは大したことがない」と言っているのではない。ベンチマークは実際に飽和した。能力は跳ねている。 だが、賢いモデルが生まれることと、それが社会に行き渡ることは別の問題だ。前者はGPUと研究者で決まる。AI専門家を自称する人たちはここしか見てない。後者は、変圧器とガスタービンと系統接続の順番で決まる。 AGIについても一つ。ARC-AGI-3の99.9%というスコアは強化されたハーネスを使ったもので、同ベンチマークの標準ハーネスでは66%である。そしてベンチマークを作ったARC Prize自身は、中立ハーネスで62.7%と採点し、AGIだとは主張していない。 作った側が「AGI時代」と言い、測る側が「まだだ」と言っている。私は後者の言い分を重く見る。 賢いモデルは、電力問題を解決しない。電力問題を発注する。 メルマガでは、この続きを書いた。効率が十倍になっても電力制約が消えない理由(ジェヴォンズのパラドックス)、そもそもチップの中にはないボトルネックの正体、そして投資家がいま見るべき唯一の指標について。 田村耕太郎 | 田村耕太郎の「FUTURE ASIA PREMIUM 通常版」 - メルマガ https://share.google/xg59Q4SIxMBIuhh02