実効性のある Microsoft Azure 上の AI ガバナンス・フレームワーク
監査人は一つの質問を投げかけます。「このポリシーが実行時にどこで適用されているかを示してください。」
ほとんどの企業はこのテストに失敗します。彼らが提出するのは、40ページに及ぶ文書やリスクレジスターです。文書は「意図」を説明するものでしかありません。開発者が未承認のモデルを使用することを防ぐことはできず、エージェントがサブエージェントを立ち上げることも阻止できません。
ポリシー集と稼働中のシステムとの間にある「ギャップ」こそが、侵害が発生する場所です。
これを解決するには、強制力のある AI ゲートウェイが必要です。これがユニバーサルなコントロールプレーンとなります。すべてのモデル呼び出しとすべてのエージェントのアクションは、必ずこれを通らなければなりません。
Microsoft Azure では、以下の3つのプレーンを接続する必要があります。
• Identity (Microsoft Entra): ゲートウェイは、呼び出し手がモデルに到達する前に、すべての呼び出し者を認証します。 • Data (Microsoft Purview): ゲートウェイは PII（個人識別情報）のマスキングを適用し、Purview が見逃す可能性のあるイベントをログに記録します。 • Model (Azure AI Foundry): ゲートウェイはモデルのホワイトリストとトークン制限を強制します。
強制力のあるゲートウェイは、文書では不可能な3つのタスクを実行します。
- シャドーモデルを排除する: ゲートウェイ経由でのみモデルへのアクセスを許可すれば、未承認のモデルは単に接続に失敗するだけです。
- エージェントの乱立を抑制する: すべてのエージェントのアクションは、認可のために中央のポイントを経由してルーティングされる必要があります。
- 継続的なエビデンスを生成する: すべての呼び出しが監査イベントになります。レビューのためにエビデンスを「作り出す」必要はなくなり、常に収集されるようになります。
ガバナンスを「スピードに対する税金」として扱わないでください。アーキテクチャとして扱ってください。
シャドーモデルを「検知」の問題として扱うのはやめましょう。それは「ルーティング」の決定事項です。ネットワークの外部への通信（egress）をゲートウェイ経由のみに制限すれば、問題は解消します。
プロンプトインジェクションを単なるセキュリティの問題として扱うのもやめましょう。それは「アカウンタビリティ（説明責任）」の問題です。重大な影響を及ぼすアクションは LLM のループ外に置いてください。重要な操作を認可するには、分離された制限付きのパスを使用してください。
ガバナンスは以下の3つのフェーズで構築します。
- Discovery（発見）: 監査モードのポリシーを使用します。何もブロックすることなく、シャドーモデルやリネージ（系統）の断絶を見つけ出します。
- Enforced Gates（強制ゲート）: 拒否ポリシーを有効にします。評価ゲートを CI/CD パイプラインに組み込み、非準拠のモデルが開発段階で失敗するようにします。
- Continuous Evidence（継続的なエビデンス）: 不変のロギングを使用します。特定の時点での承認を、ライブデータに置き換えます。
ガバナンスはフォルダの中ではなく、コードの中に存在します。
Source: https://dev.to/az365ai/an-ai-governance-framework-on-microsoft-azure-that-actually-works-3773
Optional learning community: https://t.me/GyaanSetuAi