پروڈکشن ایجنٹ لوپ کی تعمیر

ایک ڈیمو ایجنٹ بنانا آسان ہے۔ ایک پروڈکشن ایجنٹ بنانا مشکل ہے۔

ڈیمو میں، لوپ سادہ ہوتا ہے: مشاہدہ کریں، فیصلہ کریں، عمل کریں، چیک کریں، اور دہرائیں۔ ماڈل ایک نتیجہ دیکھتا ہے اور اگلے مرحلے کی طرف بڑھ جاتا ہے۔

پروڈکشن میں، اسی لوپ کو سخت قوانین کی ضرورت ہوتی ہے۔ ایک پروڈکشن ایجنٹ محض ایک ماڈل اور کچھ ٹولز کا مجموعہ نہیں ہے۔ یہ ایک ایسا لوپ ہے جسے درست رکھنے کے لیے ایک ڈھانچے (structure) میں لپیٹا گیا ہے۔

سب سے بڑا جال ٹول کے جوابات (tool responses) پر بھروسہ کرنا ہے۔

تصور کریں کہ ایک ایجنٹ کو آرڈر منسوخ کرنے اور ریفنڈ جاری کرنے کی ضرورت ہے۔

ڈیمو میں، یہ کام کرتا ہے۔ پروڈکشن میں، یہ ایک تباہی ہے۔

200 OK کا مطلب اکثر یہ ہوتا ہے کہ درخواست قبول کر لی گئی ہے، نہ کہ یہ کہ کام مکمل ہو گیا ہے۔ منسوخی (cancellation) ابھی بھی کسی قطار (queue) میں زیر التوا ہو سکتی ہے۔ اگر ایجنٹ منسوخی کی تصدیق سے پہلے ریفنڈ جاری کر دیتا ہے، تو آپ محض ایک مفروضے کی بنیاد پر رقم منتقل کر رہے ہوتے ہیں۔

آپ کو ایک اصول پر عمل کرنا چاہیے: ایک ٹول کا جواب درخواست کی وضاحت کرتا ہے، نہ کہ لازمی طور پر حقیقت (world) کی وضاحت کرتا ہے۔

ایک محفوظ پروڈکشن لوپ بنانے کے لیے، آپ کو ان اجزاء کی ضرورت ہے:

• Tool Contracts: ہر ٹول کو اپنے ان پٹ، آؤٹ پٹ، ناکامی کے طریقے (failure modes)، اور ایک idempotency key کی تعریف کرنی چاہیے۔ • Verification Gates: صرف یہ چیک نہ کریں کہ آیا ٹول نے کامیابی کا کوڈ واپس کیا ہے۔ تبدیلی کی تصدیق کے لیے دنیا کی اصل حالت (actual state of the world) کو دوبارہ پڑھیں۔ • Working State: حقائق کو چیٹ ہسٹری سے الگ رکھیں۔ یہ ایجنٹ کو گفتگو کے متن کی بنیاد پر hallucinating سے روکتا ہے۔ • Approval Gates: زیادہ اہمیت والے اقدامات کے لیے ارادے (intent) کی منظوری کے لیے انسانوں کا استعمال کریں۔ • Stop Rules: بے قابو لوپس سے بچنے کے لیے مراحل، لاگت، وقت، اور خاموشی (silence) پر حدود مقرر کریں۔

لوپ کا ڈھانچہ نہیں بدلتا۔ اس کا نفاذ (implementation) زیادہ سخت ہو جاتا ہے۔

اہم یا اثر انگیز اقدامات کے لیے، آپ کے "چیک" مرحلے کے دو حصے ہونے چاہئیں:

  1. Verify: کیا دنیا واقعی توقع کے مطابق بدلی؟
  2. Commit: اب جبکہ اس کی تصدیق ہو چکی ہے، کیا اگلے مرحلے پر جانا محفوظ ہے؟

سب سے محفوظ ایجنٹ وہ ہے جس کی حدود سب سے زیادہ متعین ہوں۔ قابل اعتماد ہونے کا تعلق ماڈل کو زیادہ آزادی دینے سے نہیں، بلکہ اس کے گرد واضح حدود قائم کرنے سے ہے۔

Source: https://dev.to/gursharansingh/ai-agents-in-practice-part-6-building-the-production-agent-loop-2lfi

Optional learning community: https://t.me/GyaanSetuAi