Anthropic、Fable 5およびMythos 5モデルを巡り米国の輸出禁止措置に直面

Anthropicは、ホワイトハウスによる突然の米国輸出管理指令を受け、同社の最も強力なAIモデルであるFable 5およびMythos 5へのアクセスを突如停止せざるを得なくなった。この前例のない動きは、急速なAIフロンティア開発と国家安全保障上の急務との間で高まる緊張を浮き彫りにしている。

きっかけ：サイバーセキュリティのリスクとモデルの脆弱性

この対立は、Anthropicが6月9日にFable 5とMythos 5をリリースした直後に始まった。Fable 5は一般利用向けに強化されたセーフガードを備えたバージョンとして販売されたが、Mythos 5は特定の用途向けに一部のガードレールを解除した設計となっていた。しかし、これらの安全対策が不十分であった可能性を示す報告が出ている。

The Wall Street Journalによると、この指令はAmazonによるサイバーセキュリティ研究をきっかけに発動された。AmazonのCEOであるAndy Jassy氏とホワイトハウスとの協議を経て、研究者が特定のプロンプトを利用することで、Fable 5にサイバー攻撃を容易にする可能性のある情報を提供させたことが明らかになった。Anthropicは、「限定的な潜在的ジェイルブレイク」によって、数億人に展開されているモデルを回収する必要はないと反論しているが、政府の対応は断固としたものだった。

国家安全保障上の懸念と中国要因

ホワイトハウスの指令は、単なるソフトウェアの脆弱性に関するものではなく、地政学的な封じ込めも目的としている。Semaforの報道によると、輸出制限を課す決定の背景には、これらのモデルが中国に関連する組織によってアクセスされた可能性があるという懸念がある。

主な技術的懸念は「モデル蒸留（model distillation）」に関わるものである。これは、より高度なフロンティアモデルの出力を利用して、より低性能な「生徒」AIを学習させ、その洗練された挙動を複製するプロセスである。もし外国の敵対勢力がMythos 5やFable 5の蒸留に成功した場合、Anthropic独自の能力をリバースエンジニアリングできる可能性があり、重大な国家安全保障上のリスクを生じさせることになる。

極端な輸出規制の影響

米国政府による命令の範囲は驚くほど広範です。この指令は、米国内外を問わず「あらゆる外国籍の個人」に対して、Anthropicがこれらのモデルへのアクセスをブロックすることを義務付けています。これにはAnthropic自身の外国生まれの研究者も含まれており、実質的に、彼らが構築に携わったまさにそのテクノロジーへのアクセスを禁じることになります。

この法的指令に従うため、Anthropicは、わずか1週間かけて大々的に宣伝してきた製品を完全に無効化せざるを得ませんでした。外国籍の個人がモデルを利用できないようにするため、世界中のすべての顧客に対してアクセスを停止したのです。

なぜこれがAI業界にとって重要なのか

この出来事は、AIの展望における極めて重要な転換点となります。これは、米国政府がフロンティアAIのデュアルユース（軍民両用）の性質を管理するために、強硬な輸出管理を行う用意があることを示しています。開発者や創業者にとって、これは警告となります。研究のブレイクスルーから商用製品への移行は、今や連邦政府の監視や地政学的な安定と密接に結びついているのです。さらに、このような強引な手法は、世界のプレイヤーが米国市場の規制の不安定さを避けようとする中で、意図せず「非米国系AI」への動きを加速させる可能性があります。

主なポイント