𝗛𝗼𝘄 𝗪𝗲 𝗨𝘀𝗲 𝗔𝗜 𝗪𝗶𝘁𝗵𝗼𝘂𝘁 𝗙𝗮𝗸𝗶𝗻𝗴 𝗙𝗮𝗰𝘁𝘀

ایک AI آپ کو بتا سکتا ہے کہ کسی ٹول کا فری ٹائر (free tier) موجود ہے جبکہ ایسا نہیں ہوتا۔ یہ آپ کو پرانی قیمت یا کوئی ایسا فیچر بتا سکتا ہے جو موجود ہی نہ ہو۔ یہ ٹائپنگ کی غلطیاں نہیں ہیں۔ ماڈل صرف ان خالی جگہوں کو ایسے الفاظ سے بھر رہا ہوتا ہے جو دیکھنے میں درست لگتے ہیں۔

اگر آپ ریویوز (reviews) شائع کرتے ہیں، تو یہ غلطی خطرناک ہے۔ اس سے آپ کے قارئین غلط پلانز کے لیے سائن اپ کر لیتے ہیں۔

ہم اپنے مضامین لکھنے کے لیے AI کا استعمال کرتے ہیں۔ جب بھی کسی پوسٹ میں AI کا استعمال ہوتا ہے، ہم آپ کو بتاتے ہیں۔ ہمارا مقصد AI کو حقائق گھڑنے سے روکنا ہے۔ ہمارا طریقہ کار یہ ہے:

ہم دو کاموں کو الگ رکھتے ہیں۔ ہم AI کو دونوں کام کرنے کی اجازت نہیں دیتے۔

  • پہلا کام: متن لکھنا۔
  • دوسرا کام: حقائق تلاش کرنا۔

AI پہلا کام کر سکتا ہے۔ اسے دوسرا کام کرنے کی کبھی اجازت نہیں دی جاتی۔

ہمارے ریویوز میں موجود ہر حقیقت ایک ایسے ذریعے (source) سے آتی ہے جسے ہم خود چیک کرتے ہیں۔ ہم پرائسنگ پیجز، چینج لاگز (changelogs) اور ڈاکومنٹیشن چیک کرتے ہیں۔ ہم ان حقائق کو ایک یو آر ایل (URL) اور تاریخ کے ساتھ نوٹس کی دستاویز میں درج کرتے ہیں۔ اس کے بعد ہی AI ان حقائق کے گرد متن لکھتا ہے۔

ہمارے پرامپٹس (prompts) مختلف ہوتے ہیں۔ زیادہ تر لوگ پوچھتے ہیں: "مجھے اس ٹول کی پرائسنگ کے بارے میں بتائیں۔" ہم کہتے ہیں: "یہ آج کی تصدیق شدہ پرائسنگ کے چار حقائق ہیں۔ پیراگراف لکھنے کے لیے صرف انہی حقائق کا استعمال کریں۔ اگر آپ کچھ اور شامل کرنا چاہتے ہیں تو مجھے بتائیں۔"

یہ AI کی جھوٹ بولنے کی جبلت کو ایک ایسی فہرست میں بدل دیتا ہے جسے انسان چیک کر سکے۔

ہم ان اصولوں پر عمل کرتے ہیں:

  • ہم بغیر کسی ذریعے کے دیے گئے نمبروں پر بھروسہ نہیں کرتے۔ کوئی بھی قیمت، حد (limit) یا تاریخ تب تک غلط سمجھی جائے گی جب تک ہم اسے بنیادی ذریعے (primary source) سے ثابت نہ کر دیں۔
  • ہم AI کو ذرائع کا حوالہ دینے کی اجازت نہیں دیتے۔ اگر AI کہتا ہے کہ "ایک تحقیق کے مطابق،" تو ہم اسے حذف کر دیتے ہیں جب تک کہ ہمارے پاس اصل لنک موجود نہ ہو۔
  • ہم AI کو ڈھانچہ (structure) تیار کرنے کے لیے استعمال کرتے ہیں۔ یہ ہمیں نوٹس ترتیب دینے، گرامر درست کرنے یا ٹیبل کا ڈھانچہ بنانے میں مدد دیتا ہے۔ ان کاموں کے لیے AI کو حقیقی دنیا کے حقائق جاننے کی ضرورت نہیں ہوتی۔
  • ہم دو الگ الگ بار پڑھتے ہیں۔ پہلی بار معیار (quality) کے لیے ہوتی ہے۔ دوسری بار صرف دعووں (claims) کے لیے ہوتی ہے۔ ہم پوچھتے ہیں: "یہ مخصوص جملہ کہاں سے آیا ہے؟" اگر یہ ہمارے نوٹس میں نہیں ہے، تو ہم اسے حذف کر دیتے ہیں۔

ایک ریویو آج درست ہو سکتا ہے لیکن تین ماہ میں غلط ہو سکتا ہے۔ ٹولز اپنی قیمتیں تبدیل کرتے رہتے ہیں۔ ہم تاریخ کے ساتھ ذرائع کے لنکس محفوظ رکھتے ہیں تاکہ ہم ایک مقررہ شیڈول کے مطابق اپنے حقائق کو دوبارہ چیک کر سکیں۔

نظام سادہ ہے:

  • AI لکھتا ہے۔
  • حقائق انسانوں کے پاس ہوتے ہیں۔
  • ہر دعوے کا ایک تاریخ کے ساتھ ماخذ ہوتا ہے۔
  • ہم شائع کرنے سے پہلے دو بار چیک کرتے ہیں۔

AI سے وہ بننے کی توقع نہ رکھیں جو وہ نہیں ہو سکتا۔

ماخذ: https://dev.to/pickuma/how-we-use-ai-without-letting-it-hallucinate-into-reviews-1of5