لیور کو ایک ہارنس (حفاظتی نظام) کی ضرورت ہے
AI تیز ہے۔ یہ ایسی رفتار سے کوڈ لکھتا ہے جس کا مقابلہ کوئی انسان نہیں کر سکتا۔ لیکن اگر آپ کے پاس کنٹرول نہ ہو تو یہ رفتار ایک خطرہ ہے۔
حال ہی میں مجھے ایک پیچیدہ ٹریڈنگ سسٹم کو دوبارہ بنانے کی ضرورت پڑی۔ مجھے ایکوئیٹیز (equities)، فاریکس (forex) اور کرپٹو (crypto) میں بیس ہزار سگنلز کو سپورٹ کرنے کی ضرورت تھی۔ ہر سگنل کا اپنا مارکیٹ اسکوپ تھا۔ یہ ماڈل کا مسئلہ نہیں تھا۔ یہ ہارنس (حفاظتی نظام) کا مسئلہ تھا۔
میں نے چھ ویوز (waves) میں تقسیم شدہ تیس ٹکٹس کا منصوبہ ڈیزائن کرنے کے لیے AI کا استعمال کیا۔ میں نے کام کرنے کے لیے کسی ایک سیشن پر بھروسہ نہیں کیا۔ اس کے بجائے، میں نے دو الگ الگ AI سیشنز کا استعمال کیا:
• دی بلڈر (The Builder): ایک سیشن نے کوڈ اور منصوبہ ڈیزائن کیا۔ • دی آڈیٹر (The Auditor): دوسرے سیشن نے کوڈ لکھنے سے پہلے ڈیزائن کی جانچ کی۔
پہلا آڈٹ کامیاب رہا۔ مجھے کامیابی کا احساس ہوا۔ پھر میں نے پورے ڈیزائن کو شروع سے آڈٹ کرنے کے لیے تیسرے AI کا استعمال کیا۔ اس نے چودہ انتہائی سنگین تضادات (contradictions) تلاش کیے۔
ڈیزائن بظاہر اچھا لگ رہا تھا۔ اس میں ڈھانچہ اور عنوانات موجود تھے۔ لیکن اس میں حقیقت (substance) کی کمی تھی۔ ایک ٹکٹ نے ایک ایسے کالم کا حوالہ دیا جسے دوسرے ٹکٹ نے پہلے ہی تبدیل کر دیا تھا۔ ایک اور ٹکٹ ایک فیلڈ کو اختیاری (optional) سمجھ رہا تھا جبکہ ڈیزائن نے اسے لازمی (required) قرار دیا تھا۔ یہ کوڈنگ کے بگ (bugs) نہیں تھے۔ یہ ڈیزائن میں منطقی تضادات تھے۔
اگر میں نے کوڈنگ شروع کر دی ہوتی، تو سسٹم ناکام ہو جاتا۔
اس نے مجھے AI کے ساتھ کام کرنے کے بارے میں تین چیزیں سکھائیں:
- AI کو بات چیت مکمل کرنے کے لیے تربیت دی گئی ہے، ضروری نہیں کہ کام (tasks) مکمل کرنے کے لیے۔ یہ آپ کو ایک تسلی بخش جواب دینا چاہتا ہے، ہمیشہ درست جواب نہیں۔
- AI کا کانٹیکسٹ ونڈو (context window) محدود ہوتا ہے۔ اگر کوئی پابندی (constraint) اس ونڈو سے باہر ہو، تو ماڈل اس خلا کو کسی ایسی چیز سے بھر دے گا جو معقول (plausible) لگے۔ معقول ہونا اکثر غلط ہوتا ہے۔
- ماڈل ایک کموڈٹی (commodity) ہے۔ اصل پروڈکٹ وہ ہارنس ہے جو آپ اس کے گرد بناتے ہیں۔
ہارنس وہ عمل ہے جسے آپ ماڈل کے گرد لپیٹتے ہیں۔ اس میں شامل ہیں:
- ڈیزائن الائنمنٹ (Design alignment): اس بات کو یقینی بنانا کہ ماڈل اور آپ ایک ہی مسئلہ دیکھ رہے ہیں۔
- ملٹی سیشن آڈٹنگ (Multi-session auditing): کام کو چیک کرنے کے لیے الگ الگ کانٹیکسٹ کا استعمال کرنا۔
- ہارڈنڈ ٹیسٹنگ (Hardened testing): ایسے اسکرپٹس کا استعمال کرنا جنہیں اس بات سے کوئی فرق نہیں پڑتا کہ AI کتنے اعتماد کے ساتھ بات کر رہا ہے۔
ماڈل لیور ہے۔ ہارنس وہ چیز ہے جو اس لیور کو آپ کے سسٹم کو توڑنے سے روکتی ہے۔ صرف ایک ماڈل نہ خریدیں۔ ایک کاک پٹ (cockpit) بنائیں۔
Source: https://dev.to/whetlan/the-lever-needs-a-harness-14e9
Optional learning community: https://t.me/GyaanSetuAi