ہیومن-ان-دی-لوپ SRE

آٹومیشن انسانوں سے زیادہ تیزی سے کام کرتی ہے۔

2021 میں، Fastly کی کنفیگریشن میں تبدیلی کی وجہ سے عالمی سطح پر آؤٹیج (outage) کا سامنا کرنا پڑا۔ آٹومیشن نے ایک منٹ سے بھی کم وقت میں اس غلطی کو پھیلا دیا۔ اسے ٹھیک کرنے میں انسانوں کو 49 منٹ لگے۔

یہی AI-assisted SRE کا بنیادی چیلنج ہے۔ AI ان مسائل کو ایسی رفتار سے پہچان اور ٹھیک کر سکتا ہے جس کا مقابلہ انسان نہیں کر سکتے۔ خطرہ ٹیکنالوجی نہیں ہے۔ خطرہ خودکار اقدامات اور انسانی جوابدہی کے درمیان رفتار کا فرق ہے۔

آپ کو ایک ایسکلیشن پالیسی (escalation policy) ڈیزائن کرنی چاہیے تاکہ یہ طے کیا جا سکے کہ آٹومیشن کہاں ختم ہوتی ہے اور انسانی فیصلہ سازی کہاں سے شروع ہوتی ہے۔

اپنے AI کو منظم کرنے کے لیے Automation Autonomy Spectrum کا استعمال کریں:

• لیول 0 (Manual): AI کوئی مدد فراہم نہیں کرتا۔ انسان سب کچھ کرتے ہیں۔ • لیول 1 (Assisted): AI سیاق و سباق (context) فراہم کرتا ہے۔ تمام فیصلے انسان کرتے ہیں۔ • لیول 2 (Supervised): AI اقدامات تجویز کرتا ہے۔ انسانوں کو ہر ایک کی منظوری دینی ہوتی ہے۔ • لیول 3 (Conditional): AI مقررہ قواعد کے اندر کام کرتا ہے۔ انسانوں کو مطلع کر دیا جاتا ہے۔ • لیول 4 (Autonomous): AI خود ہی کام کرتا ہے اور تصدیق بھی کرتا ہے۔

کسی بھی آٹومیشن کو ہمیشہ کے لیے لیول 4 پر نہ چھوڑیں۔ سسٹم تبدیل ہوتے رہتے ہیں۔ آج کام کرنے والی آٹومیشن کل خطرناک ہو سکتی ہے اگر بنیادی مسئلہ بدل جائے۔ آپ کو ہر خودکار (autonomous) عمل کا باقاعدگی سے جائزہ لینا چاہیے۔

جب یہ چار محرکات (triggers) پیش آئیں تو آٹومیشن سے انسانی نگرانی (human oversight) کی طرف منتقل ہو جائیں:

"AI نے فیصلہ کیا" کو اپنا عذر نہ بنائیں۔ ہر عمل کا تعلق کسی انسان یا قیادت کی منظور شدہ پالیسی سے ہونا چاہیے۔

آٹومیشن شروع کرنے سے پہلے اپنی پالیسی بنائیں۔ یہ ثابت کرنے کے لیے ڈیٹا کا استعمال کریں کہ آپ کا AI درست ہے۔ اگر آپ کا AI بہت زیادہ غلطیاں کرتا ہے، تو فوری طور پر اس کی خود مختاری (autonomy) کو کم کر دیں۔

Source: https://dev.to/npayyappilly/the-human-in-the-loop-sre-designing-automation-escalation-policies-for-ai-assisted-operations-2c7f

Optional learning community: https://t.me/GyaanSetuAi