سياسات أمن الذكاء الاصطناعي لديك جيدة، لكن معماريتك ليست كذلك.
لديك سياسات لأمن الذكاء الاصطناعي. لديك قواعد. لديك اختبارات. لكن معماريتك لا تفرض هذه القواعد.
مخاطر الذكاء الاصطناعي تتحرك بشكل مختلف؛ فهي لا تبقى في مكان واحد. الأدوات القديمة تفحص مساراً واحداً فقط، مما يجعلها تغفل عن عملية التنفيذ الكاملة. مخاطر الذكاء الاصطناعي تبدو وكأنها عمل طبيعي.
تقدم سامسونج درساً في هذا الصدد. لم يقم أحد باختراقهم. الأداة كانت تعمل. لكن البيانات تسربت من الباب الأمامي.
يجب أن تركز على وقت التشغيل (Runtime). وقت التشغيل هو المكان الذي يحدث فيه السلوك الفعلي.
- يقوم أمر (Prompt) باستدعاء أداة ما.
- تقوم أداة ما بتغيير البيانات.
- يؤدي سجل ما إلى تفعيل سير عمل (Workflow).
التنبيه يأتي متأخراً جداً.
انقل ضوابطك إلى مسار التنفيذ. توقف عن التساؤل عما ينتجه النموذج. واسأل عما يمكن للنموذج الوصول إليه.
ابنِ أمنك حول نطاق الوصول.