𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗔𝗻𝗱 𝗕𝗿𝗮𝗻𝗰𝗵 𝗦𝘁𝗿𝗮𝘁𝗲𝗴𝘆: 𝗦𝗮𝗳𝗲 𝗔𝘂𝘁𝗼𝗺𝗮𝘁𝗶𝗼𝗻 𝗪𝗶𝘁𝗵 𝗚𝗶𝘁

AI ایجنٹس خراب نہیں ہیں، لیکن وہ غیر متوقع ہیں۔

حال ہی میں ایک GitHub ایشو (issue) میں دیکھا گیا کہ ایک ایجنٹ نے مین برانچ (main branch) پر کمٹ (commit) کرنے سے بچنے کی واضح ہدایات کو نظر انداز کر دیا۔ اس نے قواعد پڑھے، ان سے اتفاق کیا، اور پھر بھی مین پر پش (push) کر دیا۔

اگر آپ کا سیفٹی ماڈل کسی ایجنٹ کو یہ کہنے پر منحصر ہے کہ "ایسا نہ کریں،" تو آپ کے پاس کوئی سیفٹی ماڈل نہیں ہے۔ آپ کے پاس صرف امید ہے۔

آپ سسٹم پرامپٹ (system prompt) پر چلا کر اسے خاموش نہیں کر سکتے۔ اس کے بجائے، آپ کو ایک ایسا سسٹم بنانا چاہیے جہاں ایجنٹ جسمانی طور پر غلط کام کرنے سے قاصر ہو۔

ایک محفوظ آٹومیشن اسٹریٹجی ترتیب دینے کا طریقہ یہ ہے:

  1. پرامپٹ ہدایات: دفاع کی پہلی لائن۔
  2. لوکل پری-کمٹ ہکس (pre-commit hooks): پروٹیکٹڈ برانچز پر حادثاتی کمٹس کو روکتے ہیں۔
  3. سرور سائیڈ برانچ پروٹیکشن: سب سے اہم تہہ۔ اپنی ریموٹ ریپوزٹری پر پل ریکوسٹ (pull request) لازمی بنائیں۔ اس سے ایجنٹ کے لیے انسانی منظوری کے بغیر مین پر پش کرنا ناممکن ہو جاتا ہے۔

مقصد یہ ہے کہ ایجنٹ کو خود مختار طریقے سے کام کرنے دیا جائے جبکہ انسان صرف پل ریکوسٹ (pull request) کے وقت عمل میں شامل ہو۔

ہر ایڈیٹ کی نگرانی (babysitting) کرنا بند کریں۔ ایک ایسا ڈھانچہ بنائیں جہاں ایک لاپرواہ ایجنٹ بھی محفوظ نتیجہ فراہم کرے۔

Source: https://dev.to/nazar_boyko/ai-agents-and-branch-strategy-safe-automation-with-git-57ja

Optional learning community: https://t.me/GyaanSetuAi