سینڈ باکسز سے آگے: پائیدار AI ایجنٹس کی تعمیر
پروڈکشن AI ایجنٹس کے لیے صرف سینڈ باکسز کافی نہیں ہیں۔
زیادہ تر ڈویلپرز ایجنٹس کو میموری میں ایک سادہ لوپ (loop) کے طور پر بناتے ہیں۔ LLM مشاہدہ کرتا ہے، فیصلہ کرتا ہے، عمل کرتا ہے، اور یہی عمل دہراتا ہے۔ یہ لیب میں تو کام کرتا ہے، لیکن حقیقی دنیا میں ناکام ہو جاتا ہے۔
میموری لوپ کیوں ناکام ہو جاتا ہے؟
- طویل کام: اگر کسی ایجنٹ کو کام مکمل کرنے میں کئی دن لگتے ہیں یا وہ کسی انسان کی منظوری کے انتظار میں ہے، تو ایک عمل (process) کو مسلسل چلائے رکھنا CPU اور میموری کو ضائع کرتا ہے۔
- کراش ریکوری کا نہ ہونا: اگر سسٹم کریش ہو جائے یا نیٹ ورک منقطع ہو جائے، تو آپ تمام اسٹیٹ (state) کھو دیتے ہیں۔ آپ وہیں سے دوبارہ شروع نہیں کر سکتے جہاں سے آپ نے چھوڑا تھا۔
- پیچیدگی: بہت زیادہ اضافی کوڈ کے بغیر متعدد ایجنٹس کے لیے ایک دوسرے سے بات چیت کرنا مشکل ہوتا ہے۔
Orkes کے CTO، ویرین باریا (Virein Baraiya) ایک بہتر طریقہ تجویز کرتے ہیں۔ اپنی ذمہ داریوں کو الگ کریں۔
سینڈ باکس کو صرف ایکشنز (actions) کے لیے استعمال کریں۔ پرخطر ٹول کوڈ کو محفوظ طریقے سے چلانے کے لیے سینڈ باکس کا استعمال کریں۔
استدلال (reasoning) کے لیے ایک پائیدار رن ٹائم (durable runtime) استعمال کریں۔ LLM منصوبہ فراہم کرتا ہے، جبکہ رن ٹائم سسٹم عمل درآمد اور اسٹیٹ کو سنبھالتا ہے۔
وہ اس مسئلے کو حل کرنے کے لیے دو ٹولز متعارف کرواتے ہیں:
- Netflix Conductor یہ ایک ورک فلو انجن ہے۔ یہ ایک لیجر (ledger) کے طور پر کام کرتا ہے۔ یہ ڈیٹا بیس میں ہر LLM کال اور ہر ٹول کے استعمال کا ریکارڈ رکھتا ہے۔
- یہ آن ڈیمانڈ معطلی (on-demand suspension) کو سپورٹ کرتا ہے۔ اگر کوئی ایجنٹ انسان کے انتظار میں ہے، تو سسٹم ورک فلو کو روک دیتا ہے اور تمام میموری خالی کر دیتا ہے۔
- یہ مہینوں بعد کام مکمل کرنے کے لیے دوبارہ بیدار ہو سکتا ہے۔
- Agent Span یہ Conductor کے اوپر بنایا گیا ایک رن ٹائم ہے۔ یہ ایک مترجم (translator) کے طور پر کام کرتا ہے۔
- آپ LangGraph یا OpenAI SDK جیسے موجودہ ٹولز استعمال کر سکتے ہیں۔
- Agent Span آپ کے بزنس لاجک کو دوبارہ لکھے بغیر آپ کے ایجنٹ کوڈ کو پائیدار ورک فلو میں تبدیل کر دیتا ہے۔
یہ آرکیٹیکچر تین بڑے فائدے فراہم کرتا ہے:
- گارڈ ریلز (Guardrails): فریم ورک قواعد کو کنٹرول کرتا ہے، نہ کہ LLM۔ یہ ہالوسینیشنز (hallucinations) کو نقصان پہنچانے سے روکتا ہے۔
- مکمل آڈٹ: آپ مہینوں بعد بھی دیکھ سکتے ہیں کہ ایجنٹ نے کوئی فیصلہ کیوں کیا۔ آپ عمل کو دوبارہ چلا (replay) بھی سکتے ہیں۔
- بہتر ٹیسٹنگ: آپ ایک LLM آؤٹ پٹ کو تبدیل کر سکتے ہیں اور دیکھ سکتے ہیں کہ باقی سسٹم کیسے ردعمل دیتا ہے۔
بنانے والوں کے لیے ایک آخری مشورہ: بزنس سیاق و سباق (business context) پر توجہ دیں۔ ماڈلز بدل جاتے ہیں۔ فریم ورکس بدل جاتے ہیں۔ لیکن جس مخصوص طریقے سے آپ کا کاروبار کام انجام دیتا ہے، وہی آپ کا اصل دفاعی حصار (moat) ہے۔
Source: https://dev.to/cognitalk/chao-yue-sha-xiang-wei-ai-agent-gou-jian-chi-jiu-hua-yun-xing-shi-2i9i
Optional learning community: https://t.me/GyaanSetuAi