Ваши политики безопасности ИИ в порядке. Ваша архитектура — нет.
У вас есть политики безопасности ИИ. У вас есть правила. У вас есть тестирование. Ваша архитектура не обеспечивает соблюдение этих правил.
Риски ИИ ведут себя иначе. Они не замирают на одном месте. Старые инструменты проверяют только один путь. Они упускают из виду весь процесс выполнения. Риск ИИ выглядит как обычная работа.
Samsung дает нам урок. Их никто не взламывал. Инструмент работал. Данные ушли через парадную дверь.
Вы должны сосредоточиться на runtime. Runtime — это то место, где проявляется поведение.
- Промпт вызывает инструмент.
- Инструмент изменяет данные.
- Запись запускает рабочий процесс.
Оповещение приходит слишком поздно.
Перенесите средства контроля на путь выполнения. Перестаньте спрашивать, что выдает модель. Спрашивайте, к чему она дотягивается.
Стройте свою безопасность вокруг области охвата.