AI کے لیے سب سے بڑا خطرہ
زیادہ تر لوگ ایک ایسی مشین سے ڈرتے ہیں جو بیدار ہو جائے۔
اصل خطرہ خاموش ہے۔
AI اس لیے ناکام نہیں ہوگا کہ وہ بہت زیادہ ذہین ہو گیا ہے۔ بلکہ وہ اس لیے ناکام ہو سکتا ہے کیونکہ ہم اس ڈیٹا کو زہریلا بنا دیتے ہیں جس سے وہ سیکھتا ہے۔
2029 تک، ماڈلز مزید بڑے ہوں گے۔ ان میں بہتر استدلال (reasoning) اور زیادہ ایجنٹس ہوں گے۔ کمپنیاں ان پر زیادہ بھروسہ کریں گی۔
یہ ماڈلز انٹرنیٹ پر تربیت حاصل کرتے ہیں۔ وہ بلاگز، فورمز، سوشل میڈیا اور تحقیقی مقالے پڑھتے ہیں۔
لیکن انٹرنیٹ بدل رہا ہے۔
بوٹس، کمپنیاں اور سیاسی گروہ اب بڑے پیمانے پر مواد شائع کرتے ہیں۔ وہ صرف سپیم (spam) پوسٹ نہیں کرتے، بلکہ وہ بہترین طریقے سے لکھا گیا اور قابلِ یقین مواد پوسٹ کرتے ہیں۔
انٹرنیٹ ٹریننگ ڈیٹا سیٹس کے لیے ایک میدانِ جنگ بن رہا ہے۔
روایتی پروپیگنڈا لوگوں کو نشانہ بناتا ہے۔ AI کی دنیا میں، نشانہ خود ماڈل ہوتا ہے۔
اگر کوئی جھوٹ یا تعصب ٹریننگ ڈیٹا میں داخل ہو جائے، تو وہ AI کا حصہ بن جاتا ہے۔ وہ محض ایک اقتباس کے طور پر نہیں رہتا، بلکہ ایک ڈیفالٹ مفروضہ بن جاتا ہے۔ وہ وہ جواب بن جاتا ہے جو درست معلوم ہوتا ہے۔
یہ محض ایک تکنیکی حملہ نہیں ہے۔ یہ ایک باریک تبدیلی ہے۔
مقصد ماڈل کو توڑنا نہیں ہے۔ مقصد اسے موڑنا ہے۔
ان خطرات پر غور کریں:
- ہزاروں جعلی صفحات کسی پروڈکٹ کو محفوظ ظاہر کرتے ہیں۔
- ڈویلپرز کی جعلی چیٹس غیر محفوظ کوڈ کو بہترین طریقہ کار (best practice) کے طور پر پیش کرتی ہیں۔
- سیاسی کہانیاں انتخابی عمل سے سالوں پہلے بوئی جاتی ہیں۔
- مصنوعی آراء مستقبل کے اسسٹنٹس کی آواز بن جاتی ہیں۔
خطرہ ایک جھوٹ نہیں ہے۔ خطرہ حقیقت کا ایک مسخ شدہ نقشہ ہے۔
انٹرنیٹ مواصلات اور تجارت کے لیے بنایا گیا تھا۔ اسے ایک صاف ستھرے ڈیٹا سیٹ کے طور پر نہیں بنایا گیا تھا۔
لوگ اب انسانی قارئین کے بجائے مستقبل کے ماڈلز کے لیے لکھتے ہیں۔
- ایک بلاگ پوسٹ ایک بیج بن جاتی ہے۔
- ایک جعلی ریویو ایک ٹریننگ سگنل بن جاتا ہے۔
- ایک تکنیکی مضمون ایک طرزِ عمل کی تجویز بن جاتا ہے۔
ہزاروں چھوٹے جھوٹ شماریاتی حقیقت (statistical truth) بن جاتے ہیں۔
AI ہماری دستاویزات، ہمارے شور اور ہماری ہیرا پھیری کو وراثت میں پاتا ہے۔ اگر انٹرنیٹ آلودہ رہا، تو ماڈلز ہماری ہی غلطیوں اور مسخ شدہ معلومات سے سیکھیں گے۔
سوال صرف یہ نہیں ہے کہ "ہم AI کو محفوظ کیسے بنائیں؟"
اصل سوال یہ ہے کہ "ہم اپنے علم کو AI کے سیکھنے کے لیے کیسے محفوظ رکھیں؟"
کل کے ماڈلز آج کے انٹرنیٹ سے سیکھتے ہیں۔ اور لوگ پہلے ہی ان ماڈلز کے لیے لکھ رہے ہیں۔
ماخذ: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km