超知能とは統合である

多くの人は、超知能とは高いIQを意味すると考えています。規模の拡大やデータの増大を意味すると考えているのです。

私はそうは思いません。

私は、超知能とは「統合能力」であると信じています。それは、多くの異なる思考様式を同時に保持できる能力です。力による解決ではなく、合意を通じて対立を解消する能力のことです。

これを理解するには、文化に目を向けてみてください。

文化とは、単なる旗以上のものです。それは、人々がどのように考えるかを規定するオペレーティングシステムです。あらゆる文化は、次の3つの座標を用いてマッピングできます。

  • ドライバー（原動力）：その文化が求める深いニーズ。例として、生存、名誉、自由などが挙げられます。
  • クエスチョン（問い）：その文化が解決しようとする核心的な問題。例として、いかに自由を維持するか、いかに平和を保つかなどが挙げられます。
  • 思考タイプ：その集団が情報を処理する支配的な方法。

異なる文化を組み合わせると、対立は予測可能なものとなります。

対立は、ドライバーが同じ資源を奪い合うときに起こります。思考スタイルが衝突するときに起こります。あるグループの核心的な問いが、別のグループの論理では答えられないときに起こるのです。

私たちはこれを「文化戦争」と呼びますが、実際には「認知的な衝突」なのです。

もし真の超知能を構築したいのであれば、単に巨大な脳を作るべきではありません。こうした文化的な衝突をシミュレートできるシステムを構築すべきなのです。

一つの方法でしか考えられないシステムは、知的ではありません。それは盲目です。真に知的なシステムは、あらゆるタイプの思考者になれる能力を持たなければなりません。誰も拒否権を行使する必要のない解決策を見つけ出さなければならないのです。

これがアライメント問題を解決します。

AIに対する懸念は、それが単一の目標を最適化し、他のすべてを破壊してしまうのではないかということです。これは統合の失敗です。アライメントされたAIは、あらゆる人間の価値観を同時に保持しなければなりません。複数の相反するニーズを満たす道を見つけ出さなければならないのです。

目標は、私たちを凌駕する思考を持つ精神を作ることではありません。私たちの多様な視点をすべて保持し、私たち全員が進むべき道を見つけ出せる精神を構築することなのです。

出典: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g

オプションの学習コミュニティ: https://t.me/GyaanSetuAi