آپ کا AI ہالوسینیٹ (hallucinating) نہیں کر رہا۔ یہ صرف اندازہ لگا رہا ہے۔
AI ماڈلز کو یہ معلوم نہیں ہوتا کہ وہ کب غلط ہیں۔ ان کے پاس غیر یقینی صورتحال کو ظاہر کرنے کے لیے کوئی اشارہ نہیں ہوتا۔ وہ آپ کی ان پٹ کی بنیاد پر اگلے سب سے ممکنہ لفظ کی پیش گوئی کرتے ہیں۔ جب وہ صحیح ہوتے ہیں اور جب وہ غلط ہوتے ہیں، تو ان کا اعتماد کا لیول ایک جیسا ہی نظر آتا ہے۔
یہ سسٹم کی کوئی خامی نہیں ہے۔ یہ اس کے آرکیٹیکچر کے کام کرنے کا طریقہ ہے۔
LLMs اگلے ٹوکن (token) کی پیش گوئی کرنے والے ماڈلز ہیں۔ وہ حقائق کے کسی ڈیٹا بیس کو چیک نہیں کرتے۔ وہ بڑے پیمانے پر پیٹرن کی تکمیل (pattern completion) کرتے ہیں۔ اگر ماڈل غلط جواب دیتا ہے، تو اس کی وجہ یہ ہے کہ آپ کے پرامپٹ (prompt) نے امکانات کو اس نتیجے کی طرف موڑ دیا۔
یہ فرق مسائل کو حل کرنے کے آپ کے طریقے کو بدل دیتا ہے۔ اگر ماڈل ہالوسینیٹ کر رہا ہے، تو آپ اسے ٹھیک نہیں کر سکتے۔ لیکن اگر ماڈل اس لیے اندازہ لگا رہا ہے کیونکہ آپ کا پرامپٹ مبہم ہے، تو آپ اسے ابھی ٹھیک کر سکتے ہیں۔
Datawise میں، ہم AI ماڈلز کا بینچ مارک (benchmark) کرتے ہیں۔ ہم ایک مستقل پیٹرن دیکھتے ہیں۔ جب ان پٹ میں تفصیلات کی کمی ہوتی ہے تو ماڈلز غلط جواب دیتے ہیں۔ ماڈل اس سوال کا جواب دیتا ہے جو آپ نے اصل میں پوچھا ہے، نہ کہ اس کا جو آپ پوچھنا چاہتے تھے۔
ان دو پرامپٹس کا موازنہ کریں:
- "How do I connect to Postgres in Python?"
- "How do I connect to Postgres in Python using psycopg3, a connection pool of 10, on Ubuntu 24.04, behind a Cloudflare Tunnel, with a 30-second timeout?"
پہلا پرامپٹ ماڈل کو چھ اندازے لگانے پر مجبور کرتا ہے۔ دوسرا پرامپٹ حدود (constraints) فراہم کرتا ہے۔
ایک مخصوص پرامپٹ لکھنے کی مشکل دراصل اپنی ضروریات کو جاننے کی مشکل ہے۔ اگر آپ ایک مخصوص پرامپٹ نہیں لکھ سکتے، تو اس کا مطلب ہے کہ آپ کو ابھی تک یہ معلوم نہیں کہ آپ کو کیا چاہیے۔ پرامپٹ لکھنا چھوڑیں اور سوچنا شروع کریں۔
AI غلط نتائج بھی اتنی ہی روانی سے پیدا کرتا ہے جتنی کہ درست نتائج۔ عبارت پراعتماد معلوم ہوتی ہے۔ کوڈ صاف ستھرا لگتا ہے۔ ایسا کوئی اشارہ نہیں ہوتا کہ ماڈل کسی خلا کو پُر کر رہا ہے۔
سینئر انجینئرز صرف آؤٹ پٹ پر بھروسہ نہیں کرتے۔ وہ پوچھتے ہیں: میں نے کہاں تشریح کی گنجائش چھوڑ دی؟ ہر مبہم لفظ ایک ایسا فیصلہ ہے جو ماڈل نے آپ کے لیے کیا ہے۔
صرف الفاظ کو تھوڑا سا بدل کر پرامپٹ دوبارہ جمع نہ کروائیں۔ یہ لاگز (logs) چیک کیے بغیر سروس کو دوبارہ شروع کرنے کے مترادف ہے۔ آپ اصل وجہ (root cause) کو ٹھیک نہیں کر رہے۔
جب آؤٹ پٹ غلط ہو، تو پہلے اپنا پرامپٹ پڑھیں۔ دیکھیں کہ آپ نے کہاں تشریح کی گنجائش چھوڑی ہے۔ ان چیزوں کے لیے حدود (constraints) شامل کریں:
- Inputs and outputs
- Error handling
- Dependencies
- Edge cases
انٹر (enter) دبانے سے پہلے، اپنے پرامپٹ کو ایسے پڑھیں جیسے آپ کوئی نئے انجینئر ہوں جسے کوئی پس منظر (context) معلوم نہ ہو۔ ہر وہ چیز جس کا آپ کو اندازہ لگانا پڑ رہا ہے، وہ ایسی جگہ ہے جہاں ماڈل بھی اندازہ لگائے گا۔
ماڈل آپ کو آپ کی ہدایات میں موجود کمیوں کا پتہ لگاتا ہے۔ ان کمیوں کو دور کریں۔ زیادہ جامع اور واضح پرامپٹس لکھیں۔
اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi