𝗥𝘀𝘆𝗻𝗰 کی تباہی اور AI انفراسٹرکچر کا خطرہ
rsync کے ایک مینٹینر نے ریلیز بھیجنے میں مدد کے لیے Claude کا استعمال کیا۔ اس ریلیز نے absolute path handling کو خراب کر دیا۔
Rsync لاکھوں سرورز پر چلتا ہے۔ یہ بیک اپ، ڈیپلائمنٹس اور mirrors کو سنبھالتا ہے۔ اگر rsync ناکام ہو جائے تو بیک اپ رک جاتے ہیں۔ ڈیٹا سنک (sync) نہیں ہوتا۔ نقصان بہت بڑا ہے کیونکہ یہ ٹول ہر جگہ موجود ہے۔
یہ بگ (bug) AI کی مدد سے تیار کردہ ایک سیکیورٹی پیچ (patch) سے پیدا ہوا۔ یہ AI کوڈنگ ٹولز کے ساتھ ایک بڑے مسئلے کو اجاگر کرتا ہے۔
AI اسسٹنٹس پیٹرنز (patterns) پر کام کرتے ہیں۔ وہ نیا کوڈ یا boilerplate لکھنے میں مہارت رکھتے ہیں۔ لیکن مستحکم انفراسٹرکچر کوڈ کو ویسا ہی رہنا چاہیے۔ اس کے کام کرنے کے طریقے میں تبدیلی نہیں آنی چاہیے۔
Rsync کا کوڈ جان بوجھ کر عجیب نظر آتا ہے۔ یہ ان edge cases کو سنبھالتا ہے جو برسوں پہلے پروڈکشن میں پائے گئے تھے۔ ایک AI اس عجیب کوڈ کو دیکھتا ہے اور اسے بہتر بنانے کی کوشش کرتا ہے۔ وہ صارفین کے ساتھ موجود ضمنی معاہدوں (implicit contracts) کو نہیں سمجھتا۔
AI کا مقصد ٹول کو خراب کرنا نہیں تھا۔ اسے بس یہ معلوم نہیں تھا کہ اولین ترجیح کسی بھی چیز کو تبدیل نہ کرنا تھی۔
میں روزانہ AI کا استعمال کرتا ہوں۔ یہ مجھے تیزی سے لکھنے اور تجربات کرنے میں مدد دیتا ہے۔ میں AI کے خلاف نہیں ہوں۔ لیکن میں انفراسٹرکچر کوڈ میں اہم فیصلے کرنے کے لیے کبھی بھی AI پر بھروسہ نہیں کرتا۔ میں AI کی ہر تجویز کو ایک جونیئر ڈویلپر کے تبصرے کی طرح لیتا ہوں۔
خطرہ 'ٹرسٹ گریڈینٹ' (trust gradient) میں ہے۔ اگر AI آپ کو دس اچھے جوابات دیتا ہے، تو آپ گیارہویں جواب پر بہت زیادہ بھروسہ کرنے لگتے ہیں۔ آپ اس کا جائزہ کم لیتے ہیں۔ آپ اسے تیزی سے منظور کر لیتے ہیں۔
یہ 'کانٹیکسٹ کولیپس' (context collapse) کا مسئلہ ہے۔ AI ایک ویک اینڈ پر کیے گئے پروجیکٹ اور تیس سال پرانے Unix یوٹیلیٹی کے ساتھ ایک ہی سطح کا اعتماد ظاہر کرتا ہے۔ اسے اس کوڈ کی اہمیت کا علم نہیں ہوتا جسے وہ چھوتا ہے۔
مینٹینرز ذمہ دار ہوتے ہیں۔ لیکن ہمیں نئے گارڈ ریلز (guardrails) کی ضرورت ہے۔
AI کی مدد سے ہونے والی ڈویلپمنٹ کے لیے مختلف خطرے کی سطحوں کے لیے مختلف قواعد کی ضرورت ہے۔ کچھ کوڈ کے ٹوٹنے کی صورت میں بہت بھاری قیمت چکانی پڑتی ہے۔ اس میں rsync، OpenSSL، اور ڈیٹا بیس ڈرائیورز شامل ہیں۔
rsync کا واقعہ ایک وارننگ تھا۔ کوئی ڈیٹا ضائع نہیں ہوا، لیکن یہ دکھاتا ہے کہ ہمیں کیوں محتاط رہنا چاہیے۔
AI کا استعمال بند نہ کریں۔ اس کے بجائے، بہتر جبلتیں (instincts) پیدا کریں۔ جانیں کہ مشین پر کب عدم اعتماد کرنا ہے۔
آپ کس مقام پر AI کی تجاویز پر بھروسہ کرنا چھوڑ دیتے ہیں؟ ایک کوڈ بیس کب اتنی اہم ہو جاتی ہے کہ اس کے لیے انتہائی باریک بینی سے جائزہ (paranoid review) لینا ضروری ہو جائے؟
Source: https://dev.to/adioof/the-rsync-disaster-proves-ai-isnt-ready-for-infrastructure-code-4154
Optional learning community: https://t.me/GyaanSetuAi