OpenAIは、AIの巨人が存亡リスクやシステム的リスクに対処する方法における明確な構造的転換として、専用の準備チーム（preparedness team）を正式に解散しました。この動きは、中央集権的な安全ユニットを、既存の開発パイプラインに組み込まれた分散型モデルへと置き換えるものです。

中央集権的な安全性管理から分散型リスク管理への移行

準備チームは、高度なAIモデルが、例えば企業のインフラをハッキングできるかどうかを評価し、その緩和策を設計する役割を担っていました。『フィナンシャル・タイムズ』の報道によると、同ユニットは先月末に閉鎖されました。

OpenAIは安全プロトコルを放棄しているわけではありません。むしろ、監視業務を生物学的リスクやサイバーセキュリティの脅威といったニッチな領域に細分化し、それらの責任を製品チームや研究チームの中に組み込もうとしています。2月にAnthropicから移籍し、準備チームを率いていたディラン・スカンジナロは、今後、人工汎用知能（AGI）の重要なフロンティアである「再帰的に自己改善する」AIの影響に焦点を当てる予定です。

内部の混乱と「製品 vs 安全性」を巡る論争

今回の再編は、AGI準備チームやスーパーアライメント・チームを含む、一連の著名な人材の離脱と他の安全ユニットの解体を受けて行われました。倫理責任者のクロエ・バカラ、チーフ・フューチャリストのジョシュ・アチアム、安全責任者のヨハネス・ハイデッケの退社は、オブザーバーの間で警鐘を鳴らしています。

元OpenAIの研究者であるジャン・ライクは、同社が長期的な安全性研究よりも「華やかな製品」を優先していると主張しています。この衝突は、急速な市場獲得と、壊滅的なミスアライメントを回避するために必要な、慎重で研究集約的な業務との間で広がる溝を浮き彫りにしています。

IPOに向けた戦略的転換

OpenAIは、大規模な新規株式公開（IPO）に向けて準備を進める中で、組織の再編を行っています。研究主導の非営利ハイブリッド組織から、従来の商業的な強力な企業へと移行することで、スケーラブルで消費者向けの製品を投入しなければならないという圧力が強まっています。

AI分野全体にとって、この展開は一つの指標となります。これは、フロンティア・ラボが学術的な好奇心からエンタープライズ・ソフトウェアへと移行する際に生じる摩擦を示しています。安全性をコアチームに組み込むことは、機敏性を高める可能性がありますが、一方で、重大なブレイクスルーを管理するために必要な独立した精査を脅かす可能性もあります。

主なポイント

  • 安全性の分散化: OpenAIは独立した準備チームを廃止し、生物学的およびサイバーリスクの緩和策を既存のユニットに組み込んでいます。
  • リーダー層の流出: 準備チームの解散は、複数の安全性および倫理のリーダーの離脱に続いており、優先順位の変化に対する懸念を引き起こしています。
  • 商業的モメンタム: 今回の再編は、OpenAIの大規模なIPOへの動きと一致しており、純粋な安全性研究から製品主導のスケーリングへの転換を示唆しています。