BLOG

GPT-6 が「AGI 時代」を謳う中、ベンチマークを分解してわかったこと:性能の高さは本物だが、AGI は宣伝文句だ

Kael Zhang
AIGPT-6ベンチマーク
广告 · Advertisement

序章:GPT-6 発表で、ネット中が「AGI 時代が来た」と騒ぎ始めた

9 月 3 日、OpenAI は次世代フラッグシップモデル GPT-6 Astra を発表した。社長の Greg Brockman は「最終的に AGI の到来と見なされるかもしれない」と述べ、メディアはそのまま「AGI 時代へようこそ」と訳して伝えた。

その後はいつもの光景だ:ベンチマークのスクリーンショットが連日拡散され、ARC-AGI-3 で 98.6% を記録したというニュースが飛び交い、コメント欄の半分は「AGI が来た」と叫び、残り半分は「また概念を炒めているだけ」と冷めた反応を示している。

拾聞:GPT-6 の今回の発表は、本当のブレイクスルーなのか、それとも発表会の言葉遊びなのか? 永亮:一言で言うと——性能の高さは本物だが、AGI は宣伝文句だ。 拾聞:ではまず、「どこがすごいのか」と「どこが誇張されているのか」を分けて話そう。


Q1:GPT-6 は一体どこがすごいのか?その強さは本物なのか?

永亮:強さは本物だ。しかも、漠然としたものではなく、具体的な点で優れている。

まず、いくつかのハードな進歩を挙げよう。どれも公式ページや第三者による評価で確認できるものだ:

第一に、computer use——本当に「あなたのコンピュータを操作できる」こと。 これが GPT-6 の目玉機能だ:目標を与えると、マウスやキーボードを自ら操作し、ソフトを開き、フォームに入力し、一連の多段階プロセスを完了させることができる。以前は各社が謳いながらも実用化が粗かった分野だが、今回は本当に大きく前進した。

第二に、agentic coding——コードを書く「エージェント」としての能力。 113 のタスクからなるエージェントプログラミングベンチマーク DeepSWE v1.1 で、Astra は 74.1% を記録し、前世代の GPT-5.6 Sol の 72.7% を上回った。この 2 ポイント差を侮ってはならない——すでに高いスコア帯では、1 ポイント上げるのも難しいのだ。

第三に、超長いコンテキスト。 1.1M トークンのコンテキストウィンドウを持ち、数十万文字の内容を一気に読み込んで作業できるため、内容を分割する必要がない。

第四に、トレーニング規模。 初めて 10 万枚を超える GPU で事前学習を行っており、OpenAI 史上最大規模だ。これは正真正銘、大金を投じて実現したものである。

OpenAI 公式の総合比較グラフでは、Astra が 59.3%、Claude Opus 5 が 55.5%、前世代の Sol が 53.6% となっている。本当に強くなっており、単なるモデルのすり替えではない。 この点については、OpenAI に正直な評価をしなければならない:今回は本物の進歩がある。


Q2:ARC-AGI-3 で 98.6% を記録したが、AGI は本当に来たのか?

永亮:来ていない。しかも、その 98.6% という数字自体に、多少の水増しがある。

まず、そのスコアを分解してみよう。ARC-AGI-3 というベンチマークで、ARC Prize 公式は 2 つの設定でテストを行った:1 つは完全な対話履歴を持たせて回答させる設定、もう 1 つはメモだけを持たせる設定だ。結果、同じ GPT-6 でも、一方では 99.9%、もう一方では 62.7% しか出なかった——同じベンチマークでも、設定を変えるだけで 37 ポイントも差が出たのだ。

これは何を意味するのか?「98.6%」は客観的な能力の数値ではなく、特定の設定下での数字に過ぎないということだ。ハーネス(実行環境)を変えれば、スコアは大幅に下がる。メディアは常に最も高い数字を取り上げるが、実際の能力の境界線は 62.7% から 99.9% の間で揺れ動いている。

次に、AGI そのものを分解しよう。ARC-AGI-3 は一体何を測っているのか?ARC Prize 自身の説明によると、それは「エージェンティック・インテリジェンス」——つまり、モデルが全新の抽象的な環境の中で探索し、目標を推測し、自身の内部モデルを構築する能力——を測るものだ。これは「新しい環境で頭を働かせられるかどうか」を測っているのであって、「汎用的な知能かどうか」を測っているわけではない。 これを AGI の判定基準にするのは、概念のすり替えだ。

さらに OpenAI の AGI の定義についても——彼ら自身が以前は「経済的価値のあるすべての仕事を、人間と同じかそれ以上に上手くこなせるシステム」と述べていた。GPT-6 はこのレベルに達しているだろうか?自身のサービスの安定性すら保証できていない(発表前日には大規模なダウンが発生した)のだから、「すべての仕事」にはほど遠い。

最後に、最も見落とされがちな点を挙げよう:ARC-AGI-2 の時代、GPT-5.4 はわずか 0.26% しか記録できず、人間は 100% だった。それが今世代で突然 98.6% に跳ね上がった——これほど大きな跳躍は、それ自体が「ベンチマーク向けのスコア稼ぎ」ではないかと疑うに値する。 スコア自体は本物かもしれないが、そのスコアの裏にある「能力の価値」には疑問符がつく。

だから私の結論は明確だ:強さは本物だが、AGI は宣伝文句だ。 「強い」ことを「AGI だ」と言い換えるのは、発表会の言葉であって、技術の言葉ではない。


Q3:10 万 GPU、recurrent depth、ネットワークセキュリティ機能の制限、2.5 倍の価格——OpenAI は何に賭け、何を恐れているのか?

永亮:これらのシグナルを並べてみると、OpenAI は一方で賭けに出ており、もう一方で恐れていることがわかる。

何に賭けているのか?算力(計算資源)の規模に賭けている。 10 万 GPU でのトレーニング、2.5 倍の価格、1.1M のコンテキスト——これらは「資源を積み上げて能力を引き出す」という道がまだ通じると賭けており、通じれば最も高く売れると考えているのだ。GPT-6 は OpenAI 史上最も高価な公開 API モデルで、入力トークン 100 万あたり $10、出力トークン 100 万あたり $50 だ。彼らが賭けているのは「十分な性能」ではなく、「最強の性能を求める人は最強のためにお金を払う」ということだ。

何を恐れているのか?能力の制御が効かなくなることだ。3 つの詳細がある:

第一に、recurrent depth が推論プロセスを「隠す」こと。 GPT-6 は新しい推論技術を採用しており、モデルの思考連鎖の一部を隠して、どうやって答えを出したのかを見せなくしている。The Information はこれを安全上の懸念点として直接指摘している——モデルが強くなればなるほど、その考え方を見せなくなるというのは、それ自体が警戒に値する。

第二に、ネットワークセキュリティ機能がロックされていること。 GPT-6 は ExploitBench などのセキュリティベンチマークで 100% を記録し、任意コード実行率も前世代を大幅に上回っている。聞こえは良いかもしれない?だが、これほど速く攻撃コードを書けるモデルを無制限に公開すれば、そのまま攻撃ツールになってしまう。そのため OpenAI は、最も強力なネットワークセキュリティ機能を、審査に通過した少数のテスターにだけ先行して公開している。同社自身が先にブレーキを踏んでいるのだ。

第三に、今回の発表は元々延期されていたこと。 7 月に OpenAI が Hugging Face でセキュリティインシデントを起こした後、発表を意図的に延期し、安全対策を補強した。GPT-6 が今日世に出られたのは、ずっとブレーキを踏みながら進めてきた結果なのだ。

これらをすべて合わせれば、OpenAI の本当の立場が理解できる:同社は AGI が来たとあなたに信じさせたい(評価額と競争のために)が、自身はよくわかっている——能力が強くなればなるほど、使い方を制限しなければならないと。 この 2 つの相反する心理が、同じ会社の中に同時に存在しているのだ。


Q4:モデルが「AGI」だと騒がれる中、ビジネスパーソンが本当に不安に思うべきことは何か?

永亮:ほとんどの人は、不安の方向性を間違えている。

モデルが発表されるたびに、コメント欄で最もよく見かける声は「終わった、AGI が来た、自分は代替されるのでは」というものだ。だが、よく見てほしい——GPT-6 が強いからといって、GPT-6 を使う人が強いわけではない。

同じ包丁でも、料理人は満漢全席を作れるが、普通の人は手を切るだけだ。AI も同じ理屈だ:モデルの能力が上がったのは、単に上限が高くなっただけに過ぎない。その上限にたどり着けるかどうかは、あなた自身の能力にかかっている。

だからビジネスパーソンが本当に不安に思うべきなのは、「モデルが強すぎる」ことではなく、次の 3 つのことだ:

第一に、「使う」ことしかできず、「判断する」ことができないこと。 AI に企画書を書かせたりコードを書かせたりしたとき、「この部分は使える、この部分は使えない」と言い切れるだろうか?AI が強くなればなるほど、最終的なチェックをする人が必要になる——判断を下し、責任を負える人は、かえって価値が上がる。

第二に、自分の能力を「証明できない」こと。 面接官に「AI は使えますか」と聞かれて「はい、使えます」と答えても、その先が続かなければ、すぐにばれてしまう。「なんとなく AI が使える」という状態が最も危険なのだ。

第三に、断片的な情報を漁っているだけであること。 あちこちでチュートリアルを見たり動画を見たりして、お気に入りに何百件も保存しているのに、頭の中で体系化されていない。AI 時代において、断片的な学習は最も非効率だ——モデル自体が断片的な知識を提供してくれるのだから、あなたに足りないのは断片ではなく、体系なのだ。

一言で言うと:モデルが強くなればなるほど、ビジネスパーソン同士の格差は「誰がツールを使えるか」から「誰が自分の使い方を証明できるか、誰がそれで本当の問題を解決できるか」へと変わっていく。


Q5:モデルがどんどん強くなる中、ビジネスパーソンはどう学び、どう自分が AI を使えることを証明すれば良いのか?

永亮:3 つのことを、そのまま実践すれば良い。

第一に、最新のモデルを追うのではなく、「証明可能な能力」を追うこと。 GPT-6 が出ても、来月には GPT-6.5 が出るかもしれない。バージョンを追いかけても永遠に追いつけないし、追う必要もない。本当に追うべきなのは、「AI を使って自分の仕事を最初から最後まで一通りこなせるかどうか」——こなせればそれが能力だし、こなせなければ、どんなに新しいモデルを使っても無意味だ。

第二に、断片的な知識を整理して体系化すること。 100 個のバラバラなチュートリアルを漁るより、1 本の学習の主线を最後までやり遂げた方が良い:「AI に何ができるか」から「自分の仕事の具体的な場面でどう活用するか」まで学び、最終的に「このツールを自分の手でどう使いこなすか」という問いに答えられるようになること。自分で整理し、人に説明できるようになって初めて、自分のものになったと言える。

第三に、スキルを検証可能・成果物として引き渡し可能なものにすること。 これについては、体系的に学んで認定資格を取ることを勧める。注意してほしいのは、認定資格の価値はその紙自体にあるのではなく、バラバラだった経験を体系にまとめ上げることを強いてくれる点にある——学び終えたときに「自分は何を学び、何ができ、どんな場面で検証してきたか」を説明できるようになるのであって、「たくさんチュートリアルを見た」というのとはわけが違う。履歴書に「AI を使いこなせます」と書くより、確認可能な認定資格が 1 つある方が説得力がある。採用側にとって、「体系的で検証可能」というのは、書類選考を通過するための強力な武器になるのだ。

資格を取れば「必ず昇給する」と考えてはいけない——それは嘘だ。「自分の能力を体系として整理するための、強制力のある機会」と考えるのが、本来の価値の正しい理解の仕方だ。


終わりに

拾聞:最後に、今回の内容を一言でまとめると? 永亮:モデルが AGI に達するまでにはまだ距離がある。だが、あなたが「AI を使いこなせる」状態になるまでの距離は、あなたが思っているより近い——重要なのは最新のモデルを追うことではなく、自分のできることを証明可能なものにすることだ。 拾聞:この言葉を、皆さんに贈りたい。次回お会いしましょう。


【技術的な深掘り】なぜベンチマークのスコアを鵜呑みにしてはいけないのか?

今回の記事で何度も「スコアを分解する」と言ってきたので、この技術的な問題を徹底的に説明しよう——なぜ同じモデルで、これほどスコアに差が出るのか?

第一に、ハーネス(実行環境)の口径の違い。 同じ ARC-AGI-3 でも、モデルに完全な対話履歴を持たせるかどうか、どれだけ「草稿用の紙」を持たせるかによって、結果は変わる。GPT-6 の 62.7% と 99.9% は、まさにこの口径の違いによる産物なのだ。「スコア」は決して客観的な定数ではなく、特定の実験設定の下での出力値に過ぎない。 メディアが最高スコアだけを報道するのは、あなたの最も見栄えの良い角度だけを報道しているようなものだ。

第二に、overfit(スコア稼ぎ)。 公開ベンチマークの問題点は、モデル開発チームが問題の傾向を知っているため、それに合わせてトレーニングできてしまうことだ。ARC-AGI-2 は当時どれほど難しかったか?GPT-5.4 は 0.26% しか記録できなかった。それが 1 年も経たないうちに、ARC-AGI-3 でいきなり 98.6% に達した。本当に能力がそれほど上がったのだろうか?一部は本物だが、多くの部分は「モデルがこの試験のパターンを学習した」だけなのだ。そのため業界ではすでに「新しい、非公開のベンチマークが必要だ」という声が上がっている。

第三に、ベンチマークは「飽和」するため、常に入れ替わっている。 ARC-AGI-2 が満点近くまでスコアが上がったからこそ、ARC-AGI-3 が出て問題形式が変わったのだ。今あなたが見ている 98.6% も、来年には新しいベンチマークで再び「低いスコア」に戻される可能性が高い。スコアはベンチマークを追いかけているのであって、「知能」を追いかけているわけではない。

一般の人にとっては、次の 1 つだけ覚えておけば十分だ:モデルの良し悪しを判断するなら、見出しを飾る最高スコアを見るのではなく、自分自身の本当のタスクでどれだけ上手く動くかを見るべきだ。 GPT-6 に週報を書かせたり、表計算をさせたり、資料を調べさせたりして——使い勝手が良いかどうかが、どんなベンチマークよりも正確な指標になる。


事実確認リスト

記事中の主張事実の根拠
GPT-6 Astra は 9/3 に limited preview を発表、一般公開は 9/5Wikipedia 「GPT-6 Astra」 項目
初めて 10 万 GPU を超える規模でトレーニング(テキサス州 Stargate)Wikipedia が OpenAI 研究 VP Aidan Clark の発言を引用
1.1M トークンのコンテキストウィンドウllm-stats.com / ComputingForGeeks など
価格は入力 $10/M + 出力 $50/M で、Sol の約 2.5 倍OpenAI 公式 + overchat.ai(Sol は $4/M)
総合比較 59.3%(Astra)対 55.5%(Opus 5)対 53.6%(Sol)OpenAI 公式発表ページ
DeepSWE v1.1:Astra 74.1% 対 Sol 72.7%Vellum(OpenAI 公式 Coding 表を引用)
ARC-AGI-3 で同じベンチマークが 62.7% と 99.9% の 2 つのスコアを記録(ハーネスの口径による)ofox.ai / ARC Prize 公式
ARC-AGI-3 は「エージェンティック・インテリジェンス」(新環境の探索・目標の推論)を測るarcprize.org 公式説明
ARC-AGI-2 時代の GPT-5.4 はわずか 0.26%(人間は 100%)happycapyguide が ARC のデータを引用
Brockman が「最終的に AGI の到来と見なされるかもしれない」と発言Wikipedia 項目
「AGI 時代へようこそ」Axios の見出し(OpenAI 公式の発言ではない)
recurrent depth が推論連鎖の一部を遮蔽し、監視可能性への懸念を引き起こしているWikipedia + The Information
ネットワークセキュリティ機能が制限されている(Daybreak Blue テスター向け)Wikipedia + CNBC
ExploitBench で 100%、任意コード実行率が前世代を大幅に上回るgptunnel / OpenAI 公式発表ページ
7 月の Hugging Face インシデント後に発表を延期Wikipedia 項目
資格取得は「履歴書の加点・書類選考の武器・体系的な学習」であり、「合格保証・昇給保証」ではないゲスト個人の見解であり、コンプライアンス上の適切な表現


知乎版での調整点

  • タイトル案:《GPT-6 の 98.6% に水増しはあるのか?「AGI 時代」のベンチマークの罠を暴く》(検索のロングテールに対応、キーワードを含む)
  • 技術的な深掘りを前に移動:知乎の読者は根底のロジックを重視するため、【技術的な深掘り】の「ハーネスの口径 / overfit / ベンチマークの飽和」を Q2 の後に移動し、「非公開ベンチマークでもスコア稼ぎを防ぐのが難しい理由」についての方法論的な議論を補足すると良い
  • 批判的な視点を追加:Q2 に「発表会の言葉 vs 技術の言葉の本質」について一文を補う——AI 企業がなぜ AGI やマイルストーンといった言葉を好んで使うのか。それは注目が融資につながるからであり、これが毎回の発表で誇張が伴う理由だと説明する
  • 末尾に「以上は個人の見解であり、参考に留めてください」を追加

公式アカウント版でのレイアウトメモ

  • 冒頭の金句「強さは本物だが、AGI は宣伝文句だ」を最初の画面で太字で強調し、3 秒間の滞在を確保する
  • 金句の太字を維持:「モデルが強くなればなるほど、その考え方を見せなくなる」、「判断を下し、責任を負える人はかえって価値が上がる」、「認定資格の価値はその紙自体にあるのではなく、体系にまとめ上げることを強いてくれる点にある」
  • Q1 の 4 つの「強さ」について「GPT-6 の本当の実力リスト」というカード画像を作成し、Q2 の「62.7% vs 99.9%」は比較画像にすると、スマートフォンでの斜め読みに適している
广告 · Advertisement