كاشفات الذكاء الاصطناعي تعتمد على التخمين

غالبًا ما تصنف كاشفات الذكاء الاصطناعي الكتابة البشرية على أنها من صنع الآلة. تستخدم العديد من الشركات هذه الأدوات للتوظيف أو التقييم، وهم يتعاملون مع النتيجة كحقيقة، لكنها ليست كذلك.

هذه الأدوات لا تقرأ نصك لفهم المعنى، بل تستخدم الرياضيات لتخمين احتمالية أن يكون النص نتاجًا لآلة.

تعتمد هذه الأدوات على ثلاثة أمور رئيسية:

  • الحيرة (Perplexity): تقيس مدى إمكانية التنبؤ بكلماتك. يختار الذكاء الاصطناعي الكلمة التالية الأكثر احتمالاً، بينما غالبًا ما تكون الكتابة البشرية غير متوقعة. الحيرة المنخفضة تجعل النص يبدو وكأنه ذكاء اصطناعي.
  • التباين (Burstiness): يقيس تنوع الجمل. يمزج البشر بين الجمل القصيرة والطويلة، بينما يستخدم الذكاء الاصطناعي غالبًا إيقاعًا ثابتًا. التنوع المنخفض يجعل النص يبدو وكأنه ذكاء اصطناعي.
  • المصنفات (Classifiers): تدرس هذه النماذج عينات بشرية وآلية، وتخمن بناءً على الأنماط. وإذا واجه النموذج أسلوب كتابة جديدًا، فإنه يفشل.

العلامة المائية (Watermarking) هي طريقة أخرى، حيث تخفي أنماطًا في اختيار الكلمات. وتفشل هذه الطريقة إذا قام شخص ما بتعديل النص أو إعادة صياغته.

هذه الأدوات بها عيوب خطيرة:

  • الكتابة الجيدة تبدو كالذكاء الاصطناعي. فالنثر الواضح والبسيط والمنظم يتميز بحيرة منخفضة. كلما كانت كتابتك أفضل، بدوت أكثر آلية بالنسبة لهذه الأدوات.
  • التحيز ضد غير المتحدثين الأصليين باللغة. وجدت دراسة من جامعة ستانفورد أن الكاشفات تصنف المتحدثين بالإنجليزية من غير الناطقين بها كذكاء اصطناعي بشكل متكرر. فالصياغة البسيطة تبدو لهذه الأدوات وكأنها نتاج آلي.
  • سهولة الخداع. بضع مرادفات أو تعديلات طفيفة كفيلة بخداع الكاشف. وهذا يعاقب الكتاب الصادقين بينما يسمح لمستخدمي الذكاء الاصطناعي ذوي الجهد المنخفض بالمرور.

حتى شركة OpenAI توقفت عن استخدام كاشفها الخاص في عام 2023 لأنه لم يكن دقيقًا. إذا كان المبتكرون أنفسهم لا يستطيعون اكتشاف ذكائهم الاصطناعي، فلا تثق في أداة خارجية تدعي دقة عالية.

كيف تستخدم هذه النتائج بأمان:

  • لا تتخذ قرارًا بناءً على نتيجة واحدة. فالاتهام الخاطئ يسبب ضررًا حقيقيًا للطلاب أو الباحثين عن عمل.
  • تحقق من العملية. انظر إلى سجل التعديلات والمسودات بدلاً من الاعتماد على درجة الاحتمالية.
  • أظهر عدم اليقين. إذا كنت تستخدم هذه الأدوات، فاعرض نطاقًا من الثقة بدلاً من وضع تصنيف ثنائي (بشري أو ذكاء اصطناعي).

كاشفات الذكاء الاصطناعي هي أدوات لمطابقة الأنماط. هي مفيدة للحصول على تلميحات، لكنها خطيرة إذا استُخدمت كدليل.

المصدر: https://dev.to/ricco020/ai-text-detectors-are-mostly-guessing-how-they-actually-work-2ibl

مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi