لا تمنح المطورين أدوات الذكاء الاصطناعي دون هذه الضوابط الثلاثة
يبدو منح أدوات الذكاء الاصطناعي لفريقك أمراً سهلاً. تقوم بربط نموذج ما، وتضع مفتاحاً مشتركاً في ملف الإعدادات، ثم تطلقه.
قد يبدو هذا تصرفاً مسؤولاً، لكنه في الواقع خطير.
المشكلات المتعلقة بالمفاتيح المشتركة وغياب سجلات المراجعة (logs) لا تظهر من اليوم الأول. لا شيء يتعطل، والأدوات تعمل بشكل طبيعي. تظل المشكلات مخفية حتى تتحول إلى أزمات.
إذا كنت ترغب في توسيع نطاق الذكاء الاصطناعي بأمان، يجب عليك بناء ثلاثة أشياء منذ أول عملية إرسال للكود (commit):
- مفاتيح لكل مستخدم
- سجلات المراجعة (Audit logging)
- ضوابط التكلفة
المفتاح المشترك هو فخ. إذا غادر مطور ما أو تسرب مفتاح عبر لقطة شاشة، فستواجه خياراً صعباً: إما أن تقوم بتغيير المفتاح (rotate) مما يؤدي إلى تعطل أدوات الجميع في وقت واحد، أو لا تفعل شيئاً وتسمح لموظف سابق بالوصول إلى نماذجك.
المفاتيح المخصصة لكل مستخدم تجعل هذا الأمر بسيطاً. إذا غادر شخص واحد، يمكنك إلغاء تنشيط مفتاح واحد فقط دون أن يلاحظ أي شخص آخر. كل طلب يكون له هوية محددة، مما يتيح لك الإجابة على سؤال "من فعل هذا؟" فوراً.
سجلات المراجعة (Audit logging) هي بمثابة تأمين لك. لا يمكنك مراجعة الماضي بأثر رجعي. إذا لم تقم بتسجيل العمليات منذ البداية، فلن يكون لديك أي دليل عندما تطرح فرق الأمن أو الامتثال أسئلة.
لا تقم بتسجيل كل أمر (prompt) أو استجابة (completion) بشكل افتراضي، لأن ذلك يخلق مخاطر أمنية جديدة. بدلاً من ذلك، قم بتسجيل البيانات الوصفية (metadata): من، ومتى، وأي نموذج تم استخدامه، والتكلفة.
ضوابط التكلفة تمنع المفاجآت. إنفاق الذكاء الاصطناعي يتسم بالتذبذب الشديد؛ فقد يؤدي "وكيل" (agent) عالق في حلقة مفرغة إلى استنزاف ميزانيتك في غضون ساعات. استخدم حدوداً قصوى لكل مستخدم وتنبيهات للميزانية. هذا يحول الفاتورة الضخمة إلى مجرد إشعار بسيط.
هذه الضوابط الثلاثة ليست ميزات منفصلة، بل تعمل معاً. فلا يمكنك تتبع التكلفة لكل شخص إذا لم تكن قادراً على تحديد هوية ذلك الشخص.
يسمي البعض هذا "تجميلاً زائداً" (gold-plating)، لكنه ليس كذلك.
التجميل الزائد هو عمل قائم على التخمين، أما هذه الضوابط فهي حقائق مؤكدة. شخص ما سيغادر، مفتاح ما سيتسرب، وفاتورة ما ستتضخم.
القيام بهذا العمل الآن يستغرق فترة بعد الظهر، أما القيام به لاحقاً فسيتطلب عملية نقل (migration) ضخمة وتحت ضغط شديد.
ابنِها بتكلفة بسيطة. ابنِها أولاً.
Optional learning community: https://t.me/GyaanSetuAi