AI ایجنٹ رول بیک پلان: صارفین کا اعتماد کھونے سے پہلے غلط اقدامات کو واپس لانا

ایک قابل اعتماد AI ایجنٹ کے لیے مکمل طور پر پرفیکٹ ہونا ضروری نہیں ہے۔ اسے یہ معلوم ہونا چاہیے کہ کیسے رکنا ہے، اپنی غلطی کی وضاحت کرنی ہے، اور خود کو بحال (recover) کرنا ہے۔

اگر آپ کا ایجنٹ غلط CRM فیلڈ اپ ڈیٹ کرتا ہے یا دوہری ادائیگی (duplicate payment) بھیج دیتا ہے، تو محض دوبارہ کوشش (retry) کرنے سے نقصان ٹھیک نہیں ہوگا۔ کسی حقیقی واقعے کا سامنا کرنے سے پہلے آپ کو ایک رول بیک پلان کی ضرورت ہے۔

جیسے جیسے ایجنٹس چیٹ سے نکل کر حقیقی کاموں کی طرف بڑھ رہے ہیں، اب وہ اسٹیٹ (state) میں تبدیلی لاتے ہیں۔ یہ رول بیک کو محض ایک بیک اینڈ ٹاسک کے بجائے ایک پروڈکٹ فیچر بنا دیتا ہے۔

عام ناکامی کے طریقے (Common failure modes):

• ایجنٹ غلط ریکارڈ آئی ڈی (record ID) استعمال کرتا ہے۔
• دوبارہ کوشش (retry) کرنے سے ایک ہی عمل دو بار ہو جاتا ہے۔
• ماڈل کی تبدیلی ٹول کے کام کرنے کے طریقے کو بدل دیتی ہے۔
• ورک فلو پرانی میموری کے ساتھ دوبارہ شروع ہو جاتا ہے۔
• ایک ادھورا تسلسل ڈیٹا کو غیر مستقل (inconsistent) چھوڑ دیتا ہے۔

ریکوری لیئر (recovery layer) کیسے بنائیں:

1. ایک ایکشن لیجر (Action Ledger) استعمال کریں صرف لاگز (logs) پر بھروسہ نہ کریں۔ ایک ایسا لیجر بنائیں جو اسٹیٹ کی ہر تبدیلی کو ریکارڈ کرے۔ ہر ٹول کال کے لیے عمل سے پہلے اور بعد میں ایک انٹری بنانا لازمی ہے۔ ریکوری کے لیے یہی آپ کا اصل ذریعہ (source of truth) ہے۔

2. اپنے اقدامات (Actions) کی درجہ بندی کریں ہر عمل ایک جیسا نہیں ہوتا۔

• Read-only: رول بیک کی ضرورت نہیں۔
• Internal updates: اسنیپ شاٹ (snapshot) سے پچھلی ویلیو بحال کریں۔
• External reversible: ایونٹ کو حذف کریں یا اسٹیٹس اپ ڈیٹ کریں۔
• External irreversible: حقیقی 'ان ڈو' (undo) کے بجائے تلافی یا اصلاحی عمل (compensation) استعمال کریں۔ ای میلز یا ادائیگیوں کے لیے، آپ انہیں "واپس نہیں بھیج" سکتے۔ آپ کو تصحیح یا ریفنڈ بھیجنا ہوگا۔

3. آئیڈیمپوٹینسی (Idempotency) کو نافذ کریں ماڈل آئیڈیمپوٹینسی کو نافذ نہیں کرتا۔ آپ کے ٹول رن ٹائم (tool runtime) کو کرنا چاہیے۔ آئیڈیمپوٹینسی کیز (idempotency keys) استعمال کریں تاکہ اس بات کو یقینی بنایا جا سکے کہ اگر ایجنٹ کسی ٹاسک کو دوبارہ کرنے کی کوشش کرتا ہے، تو وہ دوہرے اثرات (duplicate side effects) پیدا نہ کرے۔

4. ساگا پیٹرن (Saga Pattern) استعمال کریں طویل ورک فلو کے لیے، ہر آگے بڑھنے والے عمل کے لیے ایک تلافی کرنے والے عمل (compensating action) کی ضرورت ہوتی ہے۔

• ٹاسک بنانا؟ تلافی یہ ہے کہ اسے حذف یا منسوخ کر دیا جائے۔
• فیلڈ اپ ڈیٹ کرنا؟ تلافی پرانی ویلیو کو بحال کرنا ہے۔
• ای میل بھیجنا؟ تلافی ایک تصحیح بھیجنا ہے۔

5. چیک پوائنٹس (Checkpoints) نافذ کریں کریش ہونے کے بعد ماڈل سے یہ پوچھنا بند کریں کہ "ہم کہاں تھے"۔ موجودہ اسٹیٹ، مکمل شدہ اعمال اور زیر التواء ٹاسک کو محفوظ کرنے کے لیے چیک پوائنٹس کا استعمال کریں۔ سسٹم کو کام دوبارہ شروع کرنے کے لیے چیک پوائنٹ لوڈ کرنا چاہیے۔

6. ریکوری کیو (Recovery Queue) بنائیں جب تصدیقی مرحلہ ناکام ہو جائے، تو ٹاسک کو ریکوری کیو میں منتقل کر دیں۔ یہ آپ کو ٹاسک کو دوبارہ شروع کرنے، اس کی تلافی کرنے یا اسے بند کرنے کی اجازت دیتا ہے۔ زیادہ خطرے والے ایررز کے لیے، ہمیشہ انسان سے منظوری لیں۔

اعتماد نظر آنے والی ریکوری کے ذریعے بنتا ہے۔ جب ایجنٹ کوئی غلطی کرے، تو مبہم زبان استعمال نہ کریں۔ صارف کو بالکل بتائیں کہ کیا بدلا، ایسا کیوں ہوا، اور آپ نے اسے کیسے ٹھیک کیا۔

پہلے واقعے کے ہونے سے پہلے اپنا رول بیک پلان تیار کر لیں۔

Source: https://dev.to/jackm-singularity/ai-agent-rollback-plan-undo-bad-actions-before-users-lose-trust-4927

Optional learning community: https://t.me/GyaanSetuAi