なぜMicrosoftの研究者が『Age of Empires II』のヤギを使ってニューラルネットワークを構築したのか

Microsoftおよびヨーク大学の研究者であるAdrian de Wynterは、技術的な風刺を込めた見事な手法で、『Age of Empires II』のマップエディター内に機能的なニューラルネットワークを構築しました。ヤギをバイナリビットとして利用することは馬鹿げているように見えるかもしれませんが、この実験は、現在のAI科学研究を悩ませている擬人化のバイアスに対する深い批判として機能しています。

ヤギベースの計算モデル

De Wynterのアーキテクチャは、ゲームのシナリオエディターとスクリプトツールを使用して、動作する論理回路を作成するものです。この「馬鹿げた」設定では、ヤギがビットとして機能します。つまり、草の上に立っているヤギは「0」を表し、橋の上に立っているヤギは「1」を表します。計算エラーを防ぐために氷の坂を利用することで、de Wynterは2つのXNORゲートと1つのANDゲートで構成されるミニネットワークの構築に成功し、論理AND関数を効果的に学習させました。

この実験の技術的な深みは、単なるゲートの構築にとどまりません。De Wynterは、ゲームのメカニクス、具体的には資源価格の上限が9,999に設定されているゲーム内市場を利用することで、理論上、永続的に稼働する経済サイクルを実現できることを示しました。これにより、建物をメモリセルに、稼働中の農場を計算状態へと変えることができ、実質的にゲームを本格的なコンピュータ並みの性能にまで高めることが可能になります。

LLM研究における擬人化の誤謬

この実験の核心的な目的は、大規模言語モデル（LLM）に対して人間のような特性をどのように帰属させているかという点に疑問を投げかけることです。De Wynterは、もし言語モデルがヤギやレゴブロック、あるいはグレーター・ボストンの66万7000人の住民が互いにテキストメッセージを送り合うことで再現できたとしても、数学的な出力は同一であると主張しています。しかし、「ラッパー」（スムーズなチャットインターフェースや低レイテンシ）が、意識があるかのような錯覚を生み出しているのです。

これが単なる一例ではないことを証明するために、de Wynterは2024年中盤から2026年中盤までの315件のAI論文を分析しました。GPT-5.2を使用してフィルタリングを行ったこの研究により、科学界における構造的なバイアスが明らかになりました。

これにより循環論法のサイクルが生じます。研究者はモデルに「恐怖」や「道徳」があると証明するために実験を設計しますが、その前提から出発しているため、結果は必然的にそれを裏付けるものとなります。

観測的AI科学への移行

de Wynterは、AnthropicがClaudeに「私は〜だと信じています」といったフレーズを使うよう学習させているような業界の慣行が、この問題を悪化させていると警告しています。これは、ユーザーにおける感情的な愛着、追従性、そして妄想の強化といった、危険な結果を招く可能性があります。

モデルに意識を帰属させるのではなく、de Wynterは観測可能なデータに根ざした「冷静なアプローチ」を提案しています。モデルが概念を「理解している」と主張する代わりに、研究者は「条件Xの下で、モデルは出力Yを生成する」と述べるべきです。これにより科学の検証可能性が保たれ、根拠のない意識の主張を正当化するために複雑な数学が悪用されるのを防ぐことができます。

主な要点