AI کے لیے سب سے بڑا خطرہ

زیادہ تر لوگ اس مشین سے ڈرتے ہیں جو بیدار ہو جائے۔

اصل خطرہ خاموش ہے۔ AI اس لیے ناکام نہیں ہو سکتا کہ وہ بہت زیادہ ذہین ہو گیا ہے۔ بلکہ وہ اس لیے ناکام ہو سکتا ہے کیونکہ ہم اس کی خوراک کو زہریلا بنا دیتے ہیں۔

سال 2029 کے بارے میں سوچیں۔ ڈویلپرز وسیع context windows اور بہتر reasoning کے ساتھ نئے ماڈلز کو تربیت دیتے ہیں۔ وہ ان ماڈلز کو سکھانے کے لیے انٹرنیٹ کا ایک عکس (snapshot) استعمال کرتے ہیں۔ اس میں بلاگز، فورمز، خبریں اور سوشل میڈیا شامل ہیں۔

لیکن انٹرنیٹ بدل رہا ہے۔

برسوں سے، بوٹس اور گروپس بڑے پیمانے پر مواد شائع کر رہے ہیں۔ یہ محض عام اسپیم نہیں ہے۔ یہ بہترین طریقے سے لکھا گیا مواد ہے۔

انٹرنیٹ ٹریننگ ڈیٹا کے لیے ایک میدانِ جنگ بن رہا ہے۔

پرانا پروپیگنڈا لوگوں کو نشانہ بناتا تھا۔ نیا پروپیگنڈا ماڈلز کو نشانہ بناتا ہے۔ ایک بار جب ٹریننگ ڈیٹا میں کوئی تعصب (bias) شامل ہو جائے، تو وہ لاکھوں مستقبل کے AI سسٹمز کے اندر زندہ رہتا ہے۔

ہو سکتا ہے کہ آپ وہ جعلی آرٹیکل کبھی نہ دیکھیں، یا وہ تبدیل شدہ تھریڈ (manipulated thread) کبھی نہ ڈھونڈ سکیں۔ لیکن اس کا اثر باقی رہتا ہے۔ یہ ایک ڈیفالٹ مفروضہ بن جاتا ہے۔ یہ وہ جواب بن جاتا ہے جو درست معلوم ہوتا ہے۔

ڈیٹا پوائزننگ (Data poisoning) محض ایک تکنیکی حملہ نہیں ہے۔ یہ ایک باریک تبدیلی ہے۔ یہ ماڈل کو توڑتا نہیں ہے، بلکہ اسے موڑ دیتا ہے۔

ان خطرات پر غور کریں:

  • جعلی صفحات ایک خطرناک پروڈکٹ کو محفوظ دکھاتے ہیں۔
  • ڈویلپرز کی جعلی چیٹس برے کوڈ کو بہترین طریقہ کار (best practice) کے طور پر پیش کرتی ہیں۔
  • سیاسی بیانیے برسوں پہلے سے بوئے جاتے ہیں۔
  • مصنوعی آراء مستقبل کے اسسٹنٹس کی آواز بن جاتی ہیں۔

خطرہ کوئی ایک جھوٹ نہیں ہے۔ خطرہ حقیقت کا ایک بگڑا ہوا نقشہ ہے۔

لوگ اب انسانی قارئین کے بجائے مستقبل کے ماڈلز کے لیے مواد لکھ رہے ہیں۔ ایک بلاگ پوسٹ ایک بیج ہے۔ ایک جعلی ریویو ایک اشارہ ہے۔ ہزاروں چھوٹے جھوٹ شماریاتی حقیقت (statistical truth) بن جاتے ہیں۔

AI ہمارا شور اور ہماری ہیرا پھیری وراثت میں پاتا ہے۔ اگر انٹرنیٹ آلودہ ہے، تو ماڈلز ہماری بدترین بگڑاوٹیں سیکھ لیں گے۔

ہمیں ایک نیا سوال پوچھنا ہوگا۔ ہمیں صرف یہ نہیں پوچھنا چاہیے کہ کیا ہم AI کو محفوظ بنا سکتے ہیں۔ ہمیں یہ پوچھنا چاہیے کہ کیا ہم اپنے علم کو اتنا محفوظ رکھ سکتے ہیں کہ AI اس سے سیکھ سکے۔

آج کا انٹرنیٹ ان لوگوں کے ذریعے لکھا جا رہا ہے جو یہ جانتے ہیں۔

ماخذ: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km

اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi