サム・アルトマン、スケーリングへの懐疑論がAI開発を停滞させたと主張
OpenAIのCEOであるサム・アルトマンは、スケーリング（規模拡大）の力を改めて強調しており、前世代の研究者たちが大規模言語モデル（LLM）の可能性を過小評価したことで、進歩が阻害されたと主張している。トランスフォーマー・アーキテクチャの限界をめぐる議論が激化する中、アルトマンは、計算資源とデータの継続的な拡大を支持する実証的な証拠が圧倒的であると断言している。
知的な教条主義の代償
最近スタンフォード大学に登壇した際、アルトマンはスケーリングの推進派と懐疑派の間の摩擦について言及した。特に、LLMを「行き止まり」と表現したことで有名なMetaのヤン・ルカンのような批判者を挙げた。アルトマンは、スケーリング仮説に対する抵抗の多くは、AIに「できないこと」についての予測に対して、研究者たちが自信を持ちすぎていることに起因していると示唆している。
彼は、業界の一部の人物が自身の専門的なアイデンティティを特定の理論的立場に結びつけてしまっており、その結果、長年の信念に矛盾する新しいデータを受け入れにくくなっていると論じた。「世界モデル（world models）」がロボティクスなどの分野の進歩には不可欠であることを認めつつも、アルトマンは、現在のLLMの軌道は回り道ではなく、知能の主要なエンジンであるとの見解を維持している。
実証的な証明：パターンマッチングを超えて
スケーリングを擁護するアルトマンの主張における最も重要な点の一つは、LLMが単なるテキスト予測器から、独自の推論が可能なツールへと移行していることである。彼は、OpenAIのモデルが、人間の専門家によって長期間未解決のままだった数学的予想を、見事に反証した最近の画期的な事例を挙げた。
この進展は、LLMは真の発見が不可能な単なる「確率的なオウム（stochastic parrots）」に過ぎないという言説に異を唱えるものであるため、極めて重要である。「明らかに、LLMは新しい知識を導き出す能力がある」とアルトマンは述べ、数学界が現在、AIによる証明がもたらす意味について積極的に向き合っていることを指摘した。この変化は、スケーリングが単に流暢さを向上させるだけでなく、認知能力の地平を広げるものであることを示唆している。
フロンティア：推論 vs 長期的なタスク
楽観的な姿勢を見せつつも、アルトマンは現在の技術的な限界については現実的な見方を変えていない。彼は、「ロングホライゾン・タスク（long-horizon tasks）」、つまり長期間にわたって高度な判断力と多段階の計画を維持する必要がある複雑なワークフローにおいて、顕著なパフォーマンスの差があることを指摘した。これらの特定の領域において、LLMは依然として「人間よりもはるかに劣っているように見える」と彼は認めた。
AI業界全体にとって、この違いが次なる研究のフロンティアを定義している。業界は「知識のためのスケーリング」から「推論とエージェンシー（主体性）のためのスケーリング」へと移行しつつある。OpenAIやAnthropic（アルトマンと同様にスケーリングへの信念を持つCEOのダリオ・アモデイが率いる）といった企業が計算資源に数十億ドルを投じ続ける中で、その目標は、瞬間的な知能と、信頼性の高い長期的な自律性との間の溝を埋めることにある。
主な要点
- スケーリングが主要な原動力： アルトマンは、計算資源とデータの増加による影響を過小評価することが、歴史的にAIのブレイクスルーのペースを鈍らせてきたと主張している。
- 模倣を超えた発見： OpenAIのモデルが複雑な数学的予想を解決できる能力は、LLMが真の知識創造へと向かっていることを証明している。
- 次のボトルネック： スケーリングは多くの問題を解決する一方で、ロングホライゾンかつ高度な判断を要するタスクにおける人間レベルのパフォーマンスは、依然として業界の次なる大きな課題である。