スタンフォード大学の2026年AIインデックスは、昨年の安全性インシデントが362件に増加したことを示しており、急速なモデルの向上と、それらの信頼性を維持するためのセーフガードの遅れとの間に、広がる溝を浮き彫りにしている。チェックされない失敗が重なるたびに、金融、医療、公共サービスにすでに組み込まれているシステムへの信頼が損なわれることになる。
乖離の背景にあるデータ
人間中心AI研究所（HAI）によってまとめられたこのインデックスは、目覚ましい性能と現実世界での信頼性を対比させている。最上位のモデルは依然としてベンチマーク試験で高スコアを記録しているが、その「ハルシネーション（幻覚）」率——モデルが虚偽または捏造された記述を生成する事例——は、分野全体で22%から94%という驚くべき範囲に及んでいる。ユーザーが意図的に誤った前提をモデルに与えた場合、GPT-4oの精度は98.2%から64.4%へと急落し、DeepSeek R1は同じテストで90%強から14.4%へと低下した。悪意のあるプロンプトを阻止すべきセーフガードは、攻撃者による調査によって日常的に突破されている。
なぜ企業は奔走しているのか
ポリシーの導入が、その執行を上回っている。AIガバナンスを全く持たない企業の割合は、前回の調査から今年は24%から11%に減少しており、多くの企業が現在、ISO/IEC 42001やNISTのAIリスクマネジメントフレームワークなどの基準を挙げている。しかし、ポリシーを策定することと、それを遵守することは別物である。回答者の59%が社内の知識不足に影響を受けており、48%が予算の制約に、41%が規制の不確実性に悩まされている。報告書はこれを「技術的な問題」と呼んでいる。プライバシー管理を強化すると、意図せず公平性の指標を弱めてしまうことがあり、その逆もまた然りであるため、エンジニアは適切なツールや資金がないまま、相反する目標の調整を迫られている。
現在の安全性チェックの錯覚
開発者がモデルの限界やテスト方法をどの程度公開しているかをまとめた「透明性スコア」は、58から40へと低下しており、自主的な報告の信頼性が失われつつあることを示している。企業は内部監査に頼っているが、それらはインデックスに記録されているようなエッジケースの失敗を見逃すことが多い。その結果、偽りの安心感が生まれている。組織は保護されていると信じている一方で、隠れた脆弱性が存続しているのである。
反論：標準化が進展している
支持者たちは、ISOやNISTのフレームワークを参照することは前進であると主張している。公式な標準は、監査人や規制当局に共通言語と基本的な期待値を与え、企業間の比較を容易にする。早期導入企業は、ポリシーが存在することで社内の連携がスムーズになり、エスカレーションパスも明確になったと報告している。ポリシー導入の増加は、業界がリスクを認識し、ガバナンスへの投資に意欲的であることを示唆している。
まだ不足しているもの
書面上ではポリシーがあっても、実行が伴っていない。インデックスは3つの実務的な障害を強調している：
- 知識不足: チームにAIリスクに関する深い専門知識が欠けており、形式的なコンプライアンスチェックにとどまっている。
- 資金不足: 安全性ツール、第三者監査、継続的なモニタリングには予算が必要だが、多くの企業ではその正当性を証明できていない。
- 規制の不透明さ: 曖昧な、あるいは進化し続ける法律により、長期的なコンプライアンス・ロードマップの策定が困難になっている。
これらの問題に対処するには、外部による検証が必要になるだろう。報告書は、自己評価を超えて、現実世界の利用状況や敵対的な攻撃をシミュレートする独立した評価へと移行することを推奨している。また、安全性チェックを後付けの検討事項として扱うのではなく、モデルのパイプラインに直接組み込むエンジニアリング・ソリューションも求めている。