𝗔𝗜 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗣𝗼𝗹𝗶𝗰𝗶𝗲𝘀 𝗔𝗿𝗲 𝗙𝗶𝗻𝗲. 𝗬𝗼𝘂𝗿 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀𝗻'𝘁. AI 보안 정책은 괜찮습니다. 하지만 아키텍처는 그렇지 않습니다.
AI 보안 정책이 있습니다. 규칙도 있고, 테스트도 합니다. 하지만 당신의 아키텍처는 이러한 규칙을 강제하지 못합니다.
AI 리스크는 다르게 움직입니다. 한곳에 머물지 않습니다. 기존 도구들은 단일 경로만 점검합니다. 전체 실행 과정을 놓치게 됩니다. AI 리스크는 정상적인 작업처럼 보입니다.
삼성의 사례가 교훈을 줍니다. 아무도 그들을 해킹하지 않았습니다. 도구는 정상 작동했습니다. 데이터는 정문을 통해 유출되었습니다.
런타임(runtime)에 집중해야 합니다. 런타임은 실제 동작이 일어나는 곳입니다.
- 프롬프트가 도구를 호출합니다.
- 도구가 데이터를 변경합니다.
- 레코드가 워크플로우를 트리거합니다.
경고는 너무 늦게 울립니다.
통제 수단을 실행 경로(execution path)로 옮기십시오. 모델이 무엇을 출력하는지 묻는 것을 멈추십시오. 모델이 어디까지 도달할 수 있는지를 물어야 합니다.
도달 범위(reach)를 중심으로 보안을 구축하십시오.