𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗪𝗶𝗹𝗹 𝗗𝗼𝘂𝗯𝗹𝗲-𝗖𝗵𝗮𝗿𝗴𝗲 𝗼𝗻 𝗮 𝗟𝗼𝘀𝘁 𝗥𝗲𝘀𝗽𝗼𝗻𝘀𝗲
اگر آپ کا AI ایجنٹ کارڈ چارج کرنے کے لیے کسی ٹول کو کال کرتا ہے اور نیٹ ورک رسپانس (response) کو ڈراپ کر دیتا ہے، تو آپ کا ایجنٹ بری طرح ناکام ہو جاتا ہے۔ وہ جانے بغیر کہ ایسا ہو رہا ہے، کسٹمر سے ڈبل چارج کر لیتا ہے۔
رقم پہلے ہی منتقل ہو چکی ہوتی ہے۔ ایجنٹ کو کبھی "ok" سنائی نہیں دیتا۔ وہ وہی کرتا ہے جو ہر ری ٹرائی لوپ (retry loop) کرتا ہے: وہ دوبارہ کوشش کرتا ہے۔ وہ وہی پرامپٹ (prompt) اور وہی آرگومنٹ (arguments) استعمال کرتا ہے۔ اس سے دوسرا چارج ہو جاتا ہے۔
ری ٹرائی (retry) کوئی نیٹ ورک ایونٹ نہیں ہے۔ یہ ایک ایسے سائیڈ ایفیکٹ (side effect) کے بارے میں فیصلہ ہے جو شاید پہلے ہی ہو چکا ہو۔
بیک آف (backoff) اور جیٹر (jitter) جیسے معیاری ری ٹرائی ٹولز ری ٹرائیز کو باادب بناتے ہیں۔ وہ ڈبل چارجز کو روکنے کے لیے کچھ نہیں کرتے۔
آپ کو ایک آئیڈیمپوٹینسی لیجر (idempotency ledger) کی ضرورت ہے۔ یہ ایک منفرد کی (unique key) کا استعمال کرتا ہے تاکہ اس بات کو یقینی بنایا جا سکے کہ کوئی عمل زیادہ سے زیادہ ایک بار ہو۔
ٹول کال کے ناکام ہونے کے دو طریقے ہیں:
- درخواست گم ہو گئی۔ عمل کبھی ہوا ہی نہیں۔ دوبارہ کوشش کرنا محفوظ ہے۔
- رسپانس گم ہو گیا۔ عمل پہلے ہی ہو چکا ہے۔ دوبارہ کوشش کرنے سے ڈپلیکیٹ (duplicate) ہو جاتا ہے۔
ایجنٹ کے لیے، یہ دونوں ایک جیسے نظر آتے ہیں۔ دونوں ٹائم آؤٹ (timeout) یا ڈراپ شدہ کنکشن کی طرح لگتے ہیں۔
اگر کسی ٹول کا کوئی سائیڈ ایفیکٹ ہے جیسے کہ پیمنٹ، ای میل، یا ری فنڈ، تو آپ سادہ ری ٹرائیز پر بھروسہ نہیں کر سکتے۔ آپ کو آئیڈیمپوٹینسی کی (idempotency key) استعمال کرنی چاہیے۔
اسے کیسے ٹھیک کریں:
- اپنے ٹولز کو ٹیگ کریں۔ شناخت کریں کہ کن ٹولز کے سائیڈ ایفیکٹس ناقابل واپسی (irreversible) ہیں۔
- ڈیٹرمینسٹک کیز (deterministic keys) استعمال کریں۔ ورک فلو آئی ڈی (workflow ID)، اسٹیپ (step)، اور آرگومنٹ (arguments) کی بنیاد پر ایک مستحکم کی (stable key) بنائیں۔ یہ کام LLM کے آرگومنٹ تبدیل کرنے سے پہلے کریں۔
- پرووائیڈر کیز (provider keys) استعمال کریں۔ اگر آپ Stripe استعمال کرتے ہیں، تو ان کی آئیڈیمپوٹینسی کی (idempotency key) پاس کریں۔ چارجنگ روکنے کے لیے پرووائیڈر کا اس تکرار کو پہچاننا ضروری ہے۔
- اپنے ٹولز کے لیے ایک لیجر بنائیں۔ ان سائیڈ ایفیکٹس کے لیے جو آپ کے زیرِ انتظام ہیں، ایک منفرد کنسٹرینٹ (unique constraint) کے ساتھ ڈیٹا بیس ٹیبل استعمال کریں۔ یہ یقینی بناتا ہے کہ آپ کا سسٹم دوبارہ کوشش کرنے سے پہلے نتیجہ ریکارڈ کر لے۔
"at-least-once" کو "exactly-once" سمجھنے کی غلطی نہ کریں۔ ڈسٹری بیوٹڈ سسٹمز (distributed systems) میں، آپ "exactly-once" حاصل کرتے ہیں "at-most-once" ڈیلیوری کو "at-least-once" ری ٹرائیز اور ایک ڈی ڈپلیکیشن لیجر (deduplication ledger) کے ساتھ ملا کر۔
رائٹس (writes) کے ساتھ ریڈز (reads) جیسا سلوک کرنا بند کریں۔ ریڈ کو ری ٹرائی کرنا مفت ہے۔ رائٹ کو ری ٹرائی کرنے کی قیمت چکانی پڑتی ہے۔
Source: https://dev.to/0012303/your-ai-agent-will-double-charge-on-a-lost-response-5eed
Optional learning community: https://t.me/GyaanSetuAi