LLMs سے یہ پوچھنا بند کریں کہ آیا ان کے ذرائع حقیقی ہیں
آپ ایک AI سے ذرائع کی فہرست مانگتے ہیں۔ یہ آپ کو عنوانات، مصنفین اور DOIs فراہم کرتا ہے۔ سب کچھ مکمل نظر آتا ہے۔ پھر آپ کو معلوم ہوتا ہے کہ ان میں سے آدھے موجود ہی نہیں ہیں۔
DOI کسی چیز کی طرف نہیں لے جاتا۔ وہ مقالہ کبھی لکھا ہی نہیں گیا تھا۔
آپ کا جبلتانہ ردعمل ماڈل سے یہ پوچھنا ہوتا ہے: "کیا آپ کو یقین ہے کہ یہ حقیقی ہے؟" AI 'ہاں' کہے گا۔ وہ ہمیشہ 'ہاں' کہتا ہے۔ آپ ایک جعلی بنانے والے سے پوچھ رہے ہیں کہ کیا اس کا کام اصلی ہے۔
ایک LLM مقالوں کے ڈیٹا بیس کا استعمال نہیں کرتا۔ یہ ایک تسلسل میں اگلے لفظ کی پیش گوئی کرتا ہے۔ ایک AI کے لیے، حوالہ (citation) محض ایک پیٹرن ہے۔ وہ جانتا ہے کہ ایک حوالے کے لیے ایک نام، ایک سال اور دس ہندسوں کی ضرورت ہوتی ہے۔ یہ حقیقت پر مشتمل ہوئے بغیر ایک حقیقی ذریعے کی شکل کی نقل کرتا ہے۔
ماڈل سے اپنے کام کی تصدیق کرنے کا کہنا بند کریں۔ وہ دو وجوہات کی بنا پر ایسا نہیں کر سکتا:
- اس کی کسی لائیو رجسٹری تک رسائی نہیں ہے۔ یہ صرف معقول نظر آنے والا متن تیار کرتا ہے۔
- اس میں اپنی کہی ہوئی بات کی تصدیق کرنے کا جھکاؤ (bias) ہوتا ہے۔
معلومات کی تصدیق کے لیے آپ کو بیرونی ٹولز استعمال کرنے چاہئیں۔ تکنیکی تحریر کے لیے یہاں تین مرحلہ وار فلٹر دیا گیا ہے:
وجود (Existence)۔ Crossref جیسے API کے ذریعے DOI کو چیک کریں۔ اگر API 404 error دیتا ہے، تو ذریعہ جعلی ہے۔ ایک من گھڑت DOI کبھی بھی حل (resolve) نہیں ہوگا۔
ساکھ (Credibility)۔ ایک ذریعہ موجود ہو سکتا ہے لیکن پھر بھی بے کار ہو سکتا ہے۔ چیک کریں کہ آیا جریدہ (journal) یا کانفرنس تسلیم شدہ ہے۔ ایک درست DOI معیار کی ضمانت نہیں دیتا۔
مطابقت (Fidelity)۔ کیا مقالہ واقعی آپ کے دعوے کی تائید کرتا ہے؟ آپ کو مواد پڑھنا ہوگا۔ یہ فرض نہ کریں کہ خلاصہ (abstract) ہر تفصیل کا احاطہ کرتا ہے۔ ایک غلط دعوے کے لیے استعمال کیا گیا حقیقی حوالہ بھی جھوٹ ہی ہے۔
یہ صرف علمی مقالوں تک محدود نہیں ہے۔ اگر کوئی AI کسی JIRA ticket، CVE نمبر، یا code commit کا حوالہ دیتا ہے، تو آپ کو اصل سسٹم کے ذریعے اس کی تصدیق کرنی چاہیے۔
AI آرکیٹیکچر میں سب سے بڑی غلطی ماڈل پر خود سے تصدیق کرنے کے لیے بھروسہ کرنا ہے۔ تصدیق ایک الگ مرحلہ ہونا چاہیے۔ صارف کے نتیجہ دیکھنے سے پہلے اسے حقیقت کے کسی بیرونی ذریعے سے منسلک ہونا چاہیے۔
ماڈلز کو زیادہ ایماندار بنانے کی کوشش نہ کریں۔ وہ متن تیار کرنے والے (text generators) ہیں، اور وہ ہمیشہ ہیلو سینیشن (hallucinate) کریں گے۔ اس کے بجائے، ان کی باتوں پر آنکھ بند کر کے یقین کرنا چھوڑ دیں۔
ایک حوالہ جسے آپ رجسٹری کے ذریعے تصدیق نہیں کر سکتے، وہ حوالہ نہیں ہے۔ وہ لیب کوٹ پہنے ہوئے ایک اندازہ ہے۔
Source: https://dev.to/ohugonnot/stop-asking-the-llm-whether-its-source-is-real-2oaa
Optional learning community: https://t.me/GyaanSetuAi