Polisi Keselamatan AI Anda Sudah Cukup Baik. Seni Bina Anda Tidak.

Anda mempunyai polisi keselamatan AI. Anda mempunyai peraturan. Anda mempunyai ujian. Seni bina anda tidak menguatkuasakan peraturan ini.

Risiko AI bergerak secara berbeza. Ia tidak kekal di satu tempat. Alatan lama hanya memeriksa satu laluan. Ia terlepas keseluruhan pelaksanaan. Risiko AI kelihatan seperti kerja biasa.

Samsung memberikan satu pengajaran. Tiada sesiapa yang menggodam mereka. Alatan tersebut berfungsi. Data keluar melalui pintu hadapan.

Anda mesti fokus pada runtime. Runtime adalah tempat di mana tingkah laku berlaku.

  • Satu prompt memanggil alatan.
  • Satu alatan mengubah data.
  • Satu rekod mencetuskan aliran kerja.

Amaran datang terlalu lewat.

Alihkan kawalan anda ke laluan pelaksanaan. Berhenti bertanya apa yang dihasilkan oleh model. Tanya apa yang dicapai oleh model.

Bina keselamatan anda berasaskan capaian.

Sumber: https://dev.to/sonu_goswami_73182a7f7df4/your-ai-security-policies-are-fine-your-architecture-isnt-2103