Anthropicのプロンプト漏洩バグにより、1週間分のユーザーデータが流出。

なぜこの侵害が重要なのか

Anthropicのモデルインターフェースでは、開発者が「プロンプト」（言語モデルの応答を制御するテキスト）を送信できます。今回の事案では、ストレージの欠陥により、権限のない第三者が7日間にわたってこれらのプロンプトを読み取ることが可能になっていました。この漏洩は大規模なハッキングによるものではなく、プロンプトの保存および取得方法におけるわずかな見落としが原因でした。

何が問題だったのか

ユーザーデータをモデルの重み（weights）から分離しておくことで、露出を最小限に抑えられます。また、監査トレイル（audit trails）を構築することで、異常なアクティビティを早期に検知できます。

AIスタートアップが直ちにとるべき対策

  • プロンプト処理の強化 – すべての入力プロンプトを機密性の高い入力として扱います。保存時の暗号化を行い、読み取り/書き込み権限を最小限のサービスセットに制限し、モデル実行エンジンのみがプロンプトを取得できるようにします。
  • ユーザーデータをモデルの重みから分離する – プロンプトは、モデルファイルとは物理的および論理的に異なる専用のリポジトリに保存します。このように分離することで、万が一侵害が発生した場合の影響範囲（blast radius）を限定できます。
  • 監査トレイルの作成 – プロンプトストレージへのすべてのアクセスを、タイムスタンプ、ユーザーID、送信元IPアドレスとともにログに記録します。異常な読み取り量や予期しないサービスからのアクセスに対してアラートを発する、リアルタイム分析を実行してください。

今後の注視点

結論: たった一つのプロンプト処理の欠陥が、1週間にわたるデータ流出へと連鎖する可能性があります。AIの創業者たちは、他のユーザーデータシステムと同様の厳格さをプロンプトの保存にも適用しなければ、Anthropicのような高くつく過ちを繰り返すことになるでしょう。