آپ کی AI سیکیورٹی پالیسیاں ٹھیک ہیں۔ آپ کا آرکیٹیکچر نہیں۔
آپ کے پاس AI سیکیورٹی پالیسیاں ہیں۔ آپ کے پاس قواعد ہیں۔ آپ کے پاس ٹیسٹنگ ہے۔ آپ کا آرکیٹیکچر ان قواعد کو نافذ نہیں کرتا۔
AI کا خطرہ مختلف طریقے سے حرکت کرتا ہے۔ یہ ایک جگہ نہیں ٹھہرتا۔ پرانے ٹولز صرف ایک راستے کی جانچ کرتے ہیں۔ وہ مکمل ایگزیکیوشن (execution) کو نظر انداز کر دیتے ہیں۔ AI کا خطرہ عام کام جیسا لگتا ہے۔
سام سنگ ایک سبق فراہم کرتا ہے۔ کسی نے انہیں ہیک نہیں کیا۔ ٹول نے اپنا کام کیا۔ ڈیٹا سامنے کے دروازے سے باہر نکل گیا۔
آپ کو رن ٹائم (runtime) پر توجہ دینی چاہیے۔ رن ٹائم وہ جگہ ہے جہاں رویہ (behavior) ظاہر ہوتا ہے۔
- ایک پرامپٹ (prompt) ایک ٹول کو کال کرتا ہے۔
- ایک ٹول ڈیٹا کو تبدیل کرتا ہے۔
- ایک ریکارڈ ورک فلو (workflow) کو ٹرگر کرتا ہے۔
الرٹ بہت دیر سے آتا ہے۔
اپنے کنٹرولز کو ایگزیکیوشن پاتھ (execution path) پر منتقل کریں۔ یہ پوچھنا بند کریں کہ ماڈل کیا آؤٹ پٹ دیتا ہے۔ یہ پوچھیں کہ ماڈل کی رسائی (reach) کہاں تک ہے۔
اپنی سیکیورٹی کو رسائی (reach) کے گرد تعمیر کریں۔