急速なモデル展開を巡りAnthropicの従業員が辞任、AIの安全性に関する議論が激化

悪用の発覚経緯

Anthropicの内部モニタリングにより、一連の「デュアルユース（軍民両用）」クエリが検知されました。これらは正当な研究を支援する可能性がある一方で、有害な用途にも転用可能なリクエストです。ある研究者は、チクングニアウイルスをより感染しやすくするための変異設計をClaudeに依頼しました。リクエストの言い回しや、生体動物を用いた繰り返しのテストは、公衆衛生の取り組みではなく、軍事研究の文脈を示唆していました。真の意図を隠すためにユーザーは欺瞞的な表現を用いていましたが、これを受けてAnthropicは、より高性能な最新モデルにおける生物学的セーフガードを強化しました。

並行して行われた調査では、銃器、ミサイル誘導システム、武装ドローン、爆弾部品の設計図やソースコードを生成しようとする試みが明らかになりました。6件のクエリが中国、ロシア、イエメンのIPアドレスから発信されており、イエメンでの活動はイランの支援を受けるフーシ派に関連している模様です。また別の側面では、AnthropicはAI主導のディスインフォメーション（偽情報）キャンペーンを特定しました。中国およびイランの政府関係者がClaudeを使用してディアスポラ（離散）コミュニティを監視していた一方、ロシアの国営メディアは、モルドバの選挙に関する虚偽の主張を広めるための「独立した」記事を作成するために同モデルを利用していました。

なぜこの報告が重要なのか

この報告は、AIモデルがチャットボットから科学的推論が可能なツールへと進化する中で発表されました。政府にとって、そのリスクは二重に存在します。第一に、高度なAIへの容易なアクセスは、国家または非国家主体が違法な兵器プログラムを開始する障壁を下げてしまいます。第二に、同じモデルが情報戦の媒介となり、追跡が困難な巧妙なプロパガンダを可能にします。この報告は、政策立案者に対し、AIを輸出管理、バイオセキュリティ規制、サイバー防衛戦略の対象となるデュアルユース技術として扱うよう圧力を強めるものです。

Anthropicの対応と内部の緊張

これを受けて、Anthropicは最新のモデルファミリーに対してより厳格なセーフガードを導入し、病原体の操作や兵器設計を要求するクエリを明示的にブロックするようにしました。

この報告は、内部的な摩擦の中で浮上しました。研究者のJacob Coxon氏は今年初めに辞任し、業界がより強力なシステムへと急速に突き進むスピードが、セーフティネットの開発を追い越していると警告しました。彼の離職は、より広範な議論を浮き彫りにしています。すなわち、民間AI企業が明確な政府の枠組みなしに、何がセキュリティ上の脅威であるかを決定する事実上の「デジタル警察」として機能しているという点です。批判的な人々は、自主規制では敵対者の創意工夫に追いつけないと主張していますが、支持者たちは、Anthropicの迅速なポリシー変更を、業界が素早く適応できる証拠として挙げています。

今回の調査結果がインドに示唆すること

• バイオセキュリティの警戒 – インドの成長著しいバイオテクノロジー部門は、創薬や病原体分析においてAIへの依存をますます強めていくでしょう。既存のバイオセキュリティ・プロトコルにAI主導のモニタリングを組み込むことで、国内のツールをデュアルユース研究に悪用しようとする試みを検知できる可能性があります。
• 民主的な言論の防衛 – ディアスポラ・グループの監視や選挙関連の虚偽情報の拡散にClaudeが利用されたことは、より強力なサイバー防衛策と、AI生成のディスインフォメーションを見抜くための啓発キャンペーンの必要性を示しています。
• 主権的なAI能力の構築 – 重大な科学的研究において米国ベースのモデルに依存していることは、戦略的なギャップを浮き彫りにしています。インドのセキュリティ基準と倫理ガイドラインを組み込んだ国産モデルを開発することは、外国の影響への露出を減らし、機密性の高いAI機能の流れを制御することにつながります。

反論：自主規制の妥当性

Anthropicによる新しいフィルターの迅速な導入は、民間企業が多くの立法機関よりも速く動けることを示しています。同社は、政府が正式な規制を議論している間、継続的なレッドチーム・テストと組み合わせた「責任ある利用」ポリシーが、現実的な暫定措置になると主張しています。推進派は、過度に規定的な法律は、特にAIが医学的進歩を加速させる分野において、イノベーションを阻害する可能性があると指摘しています。課題は、AIが約束する有益な応用を妨げることなく、業界のセーフガードが透明かつ監査可能であるようなバランスを見出すことです。

今後の注目点

• 規制の動き – 輸出管理機関やバイオセキュリティ規制当局による監視の強化が予想され、高度な生成モデルを管理対象技術として扱う新しいガイドラインが策定される可能性があります。
• 業界の連携 – Anthropicは、脅威インテリジェンスを共有するために既存のAIセーフティ・コアリションに参加または拡大する可能性があり、この動きは業界全体におけるデュアルユース（軍民両用）の試みの報告を標準化することにつながる可能性があります。
• 国家の対応 – レポートで特定された国々は関与を否定する可能性が高く、自国のAI開発プログラムを加速させることで、防御的AI利用と攻撃的AI利用の境界をさらに曖昧にするフィードバックループを生み出す可能性があります。

Anthropicのレポートは、科学者がタンパク質のモデリングを行う際に役立つものと同じ生成能力が、兵器化される可能性もあること、そしてAIセーフティが今やまさに地政学の領域にあることを示しています。今後数ヶ月間で、自主規制、政府の政策、あるいはそれらを組み合わせたハイブリッドなアプローチによって、この技術が紛争の道具となるのを防げるかどうかが試されることになるでしょう。