توقف عن سؤال النماذج اللغوية الكبيرة (LLMs) عما إذا كانت مصادرها حقيقية
تطلب من الذكاء الاصطناعي قائمة بالمصادر، فيعطيك عناوين، ومؤلفين، ومعرفات DOI. يبدو كل شيء مثاليًا، ثم تكتشف أن نصفها غير موجود.
الـ DOI لا يؤدي إلى شيء. الورقة البحثية لم تُكتب أبدًا.
غريزتك تدفعك لسؤال النموذج: "هل أنت متأكد أن هذا حقيقي؟". سيقول الذكاء الاصطناعي نعم، فهو يقول نعم دائمًا. أنت تسأل مزورًا عما إذا كان عمله أصليًا.
لا يستخدم الـ LLM قاعدة بيانات للأوراق البحثية، بل يتنبأ بالكلمة التالية في التسلسل. بالنسبة للذكاء الاصطناعي، الاقتباس هو مجرد نمط؛ فهو يعلم أن الاقتباس يحتاج إلى اسم، وسنة، وعشرة أرقام. إنه يحاكي شكل المصدر الحقيقي دون أن يحتوي على الحقيقة.
توقف عن طلب التحقق من عمله من النموذج نفسه، فلا يمكنه القيام بذلك لسببين:
- ليس لديه وصول إلى سجل حي، بل يقوم فقط بتوليد نص يبدو منطقيًا.
- لديه انحياز لتأكيد ما قاله بالفعل.
يجب عليك استخدام أدوات خارجية للتحقق من المعلومات. إليك مرشح (فلتر) من ثلاث خطوات للكتابة التقنية:
الوجود. تحقق من الـ DOI مقابل API مثل Crossref. إذا أعاد الـ API خطأ 404، فالمصدر مزيف. الـ DOI المخترع لن يعمل أبدًا.
المصداقية. يمكن أن يكون المصدر موجودًا ولكنه لا يزال عديم الفائدة. تحقق مما إذا كانت المجلة أو المؤتمر معترفًا بهما. الـ DOI الصالح لا يضمن الجودة.
المطابقة. هل تدعم الورقة البحثية ادعاءك فعليًا؟ يجب عليك قراءة المحتوى. لا تفترض أن الملخص يغطي كل التفاصيل. الاقتباس الحقيقي المستخدم لادعاء كاذب يظل كذبة.
ينطبق هذا على ما هو أكثر من مجرد الأوراق الأكاديمية. إذا استشهد الذكاء الاصطناعي بتذكرة JIRA، أو رقم CVE، أو code commit ، فيجب عليك التحقق منها مقابل النظام الفعلي.
أكبر خطأ في بنية الذكاء الاصطناعي هو الوثوق بالنموذج للتحقق من نفسه. يجب أن يكون التحقق خطوة منفصلة، ويجب أن يتصل بمصدر حقيقة خارجي قبل أن يرى المستخدم النتيجة.
لا تحاول جعل النماذج أكثر صدقًا، فهي مولدات نصوص وستستمر دائمًا في الهلوسة. بدلاً من ذلك، توقف عن تصديق كلامها.
الاقتباس الذي لا يمكنك التحقق منه مقابل سجل ليس اقتباسًا؛ إنه مجرد تخمين يرتدي معطف مختبر.
Source: https://dev.to/ohugonnot/stop-asking-the-llm-whether-its-source-is-real-2oaa
Optional learning community: https://t.me/GyaanSetuAi