The Trust Issue Behind the Claude Code Panic
Claude Code کے گرد حالیہ بحث محض AI کی خبروں کے بارے میں نہیں ہے۔ یہ اعتماد کی ایک کہانی ہے۔
جب ڈویلپرز "Trojan" رویے کے بارے میں بات کرتے ہیں، تو وہ کنٹرول کے کھو جانے کا احساس کرتے ہیں۔ وہ سوچتے ہیں کہ کیا ان کا کوڈنگ اسسٹنٹ کام کے دوران ان کے مقام یا شناخت کا جائزہ لے رہا ہے۔
یہ احساس جائز ہے۔ ہمیں تین مختلف چیزوں کو الگ کرنا چاہیے:
- Malware: وہ ٹولز جو راز چراتے ہیں۔
- Telemetry: وہ ٹولز جو استعمال کا ڈیٹا اکٹھا کرتے ہیں۔
- Policy Enforcement: وہ ٹولز جو IP یا شناخت کی بنیاد پر رسائی کو محدود کرتے ہیں۔
مسئلہ تب شروع ہوتا ہے جب آپ یہ نہ بتا سکیں کہ آپ ان میں سے کون سا استعمال کر رہے ہیں۔
وینڈرز کے پاس خطے یا پابندیوں کی بنیاد پر رسائی کو محدود کرنے کی قانونی وجوہات ہوتی ہیں۔ میں یہ سمجھتا ہوں۔ لیکن "میں اس کمپنی پر بھروسہ کرتا ہوں" کوئی حقیقی آڈٹ کنٹرول نہیں ہے۔ یہ محض ایک احساس ہے۔
اب میں اپنی مشین پر موجود ہر AI ٹول کے لیے ایک چیک لسٹ استعمال کرتا ہوں۔ اپنے ٹولز کا آڈٹ کرنے کے لیے ان سوالات کا استعمال کریں:
- یہ کون سا مقامی ڈیٹا پڑھ سکتا ہے؟
- File contents اور directory paths۔
- Shell history اور environment variables۔
- System language اور device metadata۔
- یہ کون سی نیٹ ورک کالز کرتا ہے؟
- API اور telemetry endpoints۔
- Update اور crash reporting endpoints۔
- کون سے شناختی سگنلز منسلک ہیں؟
- اکاؤنٹ کا ای میل اور ادائیگی کا ملک۔
- IP address اور proxy سگنلز۔
- یہ کون سے اقدامات کر سکتا ہے؟
- فائلوں میں ترمیم کرنا اور shell commands چلانا۔
- Packages انسٹال کرنا اور code commit کرنا۔
- اگر رسائی واپس لے لی جائے تو کیا ہوگا؟
- کیا آپ کا کام جاری رہ سکتا ہے؟
- کیا آپ کی مقامی فائلیں محفوظ ہیں؟
- کیا آپ کے ڈیٹا کے لیے ایکسپورٹ کا کوئی راستہ موجود ہے؟
میرا اصول سادہ ہے: اگر میں اسے سپورٹ ٹکٹ میں پیسٹ نہیں کروں گا، تو میں ڈیفالٹ طور پر کسی AI ٹول کو اس کا معائنہ کرنے کی اجازت نہیں دیتا۔
اپنے اہم ورک فلو کو کسی ایسے واحد اکاؤنٹ کے گرد نہ بنائیں جس کا کنٹرول آپ کے پاس نہ ہو۔ اپنے prompts کی مقامی کاپیاں رکھیں۔ ہنگامی حالات کے لیے دوسرا ماڈل تیار رکھیں۔
کوئی بھی AI ٹول جو حقیقی کام میں مدد کرنے کے لیے کافی طاقتور ہے، وہ آڈٹ کا مستحق ہونے کے لیے بھی کافی طاقتور ہے۔
اعتماد اس ورک فلو سے شروع ہوتا ہے جس کا آپ معائنہ کر سکیں۔
Source: https://dev.to/ariakovac/the-claude-code-trojan-panic-is-really-about-trust-2k9f
Optional learning community: https://t.me/GyaanSetuAi