AIセキュリティポリシーは問題ない。しかし、アーキテクチャには問題がある。
AIセキュリティポリシーはある。ルールもある。テストも行っている。 あなたのアーキテクチャは、それらのルールを強制できていない。
AIのリスクは性質が異なる。一箇所に留まるものではない。 従来のツールは単一のパスしかチェックできない。そのため、実行プロセス全体を見逃してしまう。 AIのリスクは、通常の業務のように見える。
Samsungの事例が教訓となる。 ハッキングされたわけではない。 ツールは正常に動作していた。 データは「正面玄関」から流出したのだ。
ランタイム（実行時）に焦点を当てなければならない。 振る舞いが発生するのは、ランタイムである。
- プロンプトがツールを呼び出す。
- ツールがデータを変更する。
- レコードがワークフローをトリガーする。
アラートが出る頃には、もう手遅れだ。
コントロールを実行パスへと移行せよ。 モデルが「何を出力するか」を問うのはやめよう。 モデルが「どこまで到達するか」を問うのだ。
到達範囲（reach）を中心にセキュリティを構築せよ。