أعلنت Anthropic أنه اعتباراً من 14 أغسطس، سيتوقف Claude Code عن مطالبة المستخدمين بالنقر على "موافقة" (approve) لكل استدعاء للأدوات. بدلاً من ذلك، سيقرر مصنف مخاطر مدعوم بالذكاء الاصطناعي الإجراءات التي تتطلب مراجعة بشرية. وأظهرت دراسة شملت 1,053 مختبراً أن 97% من النقرات تمت دون قراءة المطالبة، بينما نجح المصنف في رصد 89% من الإجراءات الضارة، في حين لم يرصد البشر سوى 13.6% فقط.

لماذا أخفق نموذج "النقر للموافقة" القديم

كان سير العمل القديم يجبر الإنسان على تأكيد كل إجراء خارجي — مثل دفع الكود (pushing code) أو حذف الملفات — من خلال النقر على زر. ومن الناحية العملية، تعامل المستخدمون مع نافذة الحوار كإجراء شكلي واعتمدوا الموافقة بشكل انعكاسي. وتكشف أرقام الدراسة عن المشكلة: فكل نقرة تقريباً كانت مجرد رد فعل تلقائي، والتحذيرات الحقيقية القليلة التي لفتت الانتباه أغفلت معظم العمليات الأكثر خطورة. وعندما تختفي بوابة الأمان، تتآكل أمن النظام.

ماذا يفعل المصنف الجديد

البديل الذي قدمته Anthropic هو نموذج مدرب يقوم بتقييم كل إجراء معلق، ولا يقاطع العمل إلا عندما يندرج الإجراء ضمن إحدى الفئات الثلاث:

  • غير قابلة للتراجع (Irreversible) – الإجراءات التي لا يمكن التراجع عنها، مثل الـ force-pushing إلى مستودع (repository) أو حذف جدول في قاعدة بيانات.
  • تدميرية (Destructive) – عمليات الحذف الجماعي أو الكتابة فوق الملفات التي قد تؤدي إلى مسح العمل.
  • موجهة للخارج (Outward-facing) – الخطوات التي تعرض الكود أو الرسائل لأنظمة خارجية، مثل فتح طلب سحب (pull request) أو إرسال إشعار عبر Slack.

إذا لم يستوفِ الإجراء أيًا من هذه المعايير، فإن النموذج يسمح له بالمضي قدماً تلقائياً، مما ينهي سيل المطالبات التي كان المستخدمون يتجاهلونها.

حدود النهج المعتمد على الذكاء الاصطناعي فقط

المصنف ليس وسيلة حماية شاملة؛ فقد تعلم مفاهيم عامة عن الضرر، وليس تفاصيل أي قاعدة كود (codebase) محددة. فالمجلد المسمى "tmp" قد يكون غير ضار في معظم المشاريع، ولكنه قد يحتوي على ملفات بناء (build artifacts) بالغة الأهمية في مشروعك؛ وفي هذه الحالة، من المرجح أن يعتبره النموذج آمناً. كما أن أداء الدراسة لا يضمن نتائج متطابقة في كل بيئة إنتاج (production environment). ولا تزال الحالات الاستثنائية (Edge cases) — خاصة تلك التي تتضمن أدوات مخصصة أو بنية تحتية حساسة — تتطلب إعدادات أذونات صريحة أو مراقبة إضافية.

ما يجب على المستخدمين فعله الآن

  • مراجعة وضع الأذونات الجديد: ستعتمد خطط Pro و Max و Team المصنف تلقائياً. إذا كنت تعتمد على سير عمل مخصص للأذونات، فتأكد من أنه لا يزال يتماشى مع سياسات الأمان الخاصة بك.
  • تحديد الإجراءات عالية المخاطر: قم بمطابقة خطوط أنابيب CI/CD ونصوص النشر (deployment scripts) الخاصة بك مع فئات المحفزات الثلاث. قم بتعديل النصوص التي تنفذ خطوات غير قابلة للتراجع أو تدميرية لتشمل ضمانات صريحة إذا كان المصنف الافتراضي غير كافٍ.
  • مراقبة تنبيهات المصنف: تتبع وتيرة ودقة المقاطعات. ستساعد الملاحظات المبكرة شركة Anthropic على ضبط النموذج بدقة، وقد تدفعك إلى إعادة تفعيل التأكيدات اليدوية لسير عمل معين.

ما يجب مراقبته لاحقاً

يعد الانتقال من نقرات رد الفعل البشري إلى نموذج مدرب محاولة واضحة لسد فجوة الأمان التي كانت موجودة في العديد من خطوط أنابيب CI.

المصدر: https://dev.to/code_with_kyryl/97-of-your-ai-approval-clicks-were-reflexes-18lg