Marcus pushes back on calling GPT-6 Astra AGI
AGI skeptic Gary Marcus says Astra can solve PhD-level problems but may not reliably order a pizza, calling the AGI-like label empty.
AGI懐疑派筆頭、ゲイリー・マーカス氏が、GPT-6 AstraをAGIと呼ぶ風潮に関して物申す。博士号レベルの問題を解けても、「ピザを注文して」という単純な依頼を人間並みの信頼性で最後まで遂行できるとは限らない。彼の主張では、AGIに必要なのは、日常的な仕事を安定して任せられることだ。 ゲイリー・マーカス「この発言（サム・アルトマンが最新モデルを「AGI-like」と表現した発言）を本当に聞き取るには、クリップを2回聞く必要があるかもしれません。でも、彼がやっているのはまさにそういうことです。AGIについて何ら明確な立場を取らず、判断を他の人たちに押しつけ、最終的には「AGI-like」という、実質的に何の意味もない言葉を使っています。 そこには境界条件がありません。たとえばマジック8ボールを振ると答えが出てきて、その答えが役に立つこともあれば、役に立たないこともあります。それを「AGI-like」と呼べるのでしょうか。結局、そこには明確な中身がありません。 そもそもAGIという概念が興味深いのは、それが現実世界に何らかの帰結をもたらす場合だけです。知的な議論の中で使うなら、その議論で定めた言葉の意味を守る必要があります。あるいは、そこから経済について何らかの予測が導かれる必要があります。しかし、今はそのどちらも起きていません。 そして、彼らが言っていたような形で、経済を変えているわけでもありません。本当にAGIが実現しているなら、いくつか期待される現象があります。賃金が下がるかもしれません。失業率が上がるかもしれません。 そして、AIエージェントを信頼できるようになっているはずです。今日Twitterで誰かが「ピザ・テスト」というものを提案していました。AIに「ピザを注文して」と頼めば、自分がどこに住んでいるのか、どう注文するのか、どの店が営業しているのかを判断して、注文できるはずだというものです。 これはそれほど難しいことではありません。しかし、AIエージェントを使ったことがある人なら、まだ本当に信頼できるものではないと分かっています。買い物ですら難しく、どのメニューをクリックすればいいのか分からなくなることがあります。 つまり、博士号など必要ないようなことをエージェントにやらせても、現在のシステムは信頼できません。たまに成功して驚かせてくれるという意味なら「AGI-like」なのかもしれません。しかし、人間のように安定してそれを実行できないのであれば、それはAGIそのものではありません。もともとの定義は、人間の知的能力と同じように実行できることだったのです。そして、現在のAIにはまだそれができません」