دہشت گرد گروہ ہتھیاروں اور منصوبہ بندی کے لیے LLMs کا کیسے استحصال کر رہے ہیں
لارج لینگویج ماڈلز (LLMs) کی تیزی سے بڑھتی ہوئی رسائی نے انسانیت کے لیے بے شمار فوائد فراہم کیے ہیں، لیکن ایک خوفناک نئی تحقیق اس تکنیکی چھلانگ کے تاریک پہلو کو بے نقاب کرتی ہے۔ دہشت گرد تنظیمیں اب اپنی آپریشنل صلاحیتوں کو بڑھانے کے لیے، حکمت عملی کی تربیت سے لے کر دھماکہ خیز مواد کی تیاری تک، مرکزی دھارے کے AI ٹولز کو فعال طور پر ہتھیار کے طور پر استعمال کر رہی ہیں۔
جیل بریکنگ سے لے کر مخصوص AI یونٹس تک
کیمبرج پروگرام آن AI سائنس اینڈ پالیسی (CASP) کی محقق انتونیا جولچ (Antonia Jülich) کی ایک نئی تحقیق نے انتہا پسند گروہوں کے اندر AI کے استعمال کے ایک پیچیدہ درجے کو بے نقاب کیا ہے۔ 27 سابق ارکان کے 57 انٹرویوز کے ذریعے، یہ تحقیق ظاہر کرتی ہے کہ ISIS 2023 سے پرامپٹ انجینئرنگ اور جیل بریک کی تربیت فراہم کر رہا ہے۔ یہ محض اتفاقی استعمال نہیں ہے؛ ISIS کے رابطہ کاروں نے کمانڈروں کو یہ سکھانے کے لیے فعال طور پر تربیت دی ہے کہ صنعت کے صف اول کے ماڈلز کے حفاظتی فلٹرز کو کیسے نظر انداز کیا جائے۔
سب سے زیادہ تشویشناک بات یہ ہے کہ بوکو حرام (Boko Haram) نے وقفے وقفے سے استعمال کرنے کے بجائے اسے ادارہ جاتی طور پر شامل کر لیا ہے۔ رپورٹ کے مطابق، گروپ کے دونوں بڑے دھڑے مخصوص AI یونٹس قائم کر چکے ہیں۔ جولچ کے مطابق، یہ گروہ AI کی تربیت کو اعلیٰ ترجیح دیتے ہیں، اور ان طاقتور ٹولز کے استعمال کے طریقے دکھانے کے لیے پروجیکٹرز کا استعمال کرتے ہوئے اپنے "اعلیٰ افراد" کو مخصوص سیشنز میں اکٹھا کرتے ہیں۔
تزویراتی فائدے کے لیے بڑے چیٹ بوٹس کا استحصال
تحقیق اس بات پر روشنی ڈالتی ہے کہ کوئی بھی بڑا AI کھلاڑی اس غلط استعمال سے محفوظ نہیں ہے۔ دہشت گرد دھڑے مقبول چیٹ بوٹس کے ایک وسیع سلسلے کا استعمال کر رہے ہیں، جن میں ChatGPT, Claude, Gemini, Grok, Meta AI, اور DeepSeek شامل ہیں۔ ان ٹولز کو کئی اہم اور خطرناک کاموں کے لیے استعمال کیا جا رہا ہے:
- حملوں کی منصوبہ بندی: شورش زدہ کارروائیوں کی لاجسٹکس اور وقت کو بہتر بنانا۔
- ہتھیاروں کی تیاری: زیادہ طاقتور دھماکہ خیز آلات بنانے کے بارے میں معلومات حاصل کرنے کے لیے LLMs کا استعمال۔
- آپریشنل سیکیورٹی: سرگرمیوں کو چھپانے اور مواصلاتی سیکیورٹی کو بہتر بنانے کے لیے AI کا استعمال۔
- حکمت عملی کی تربیت: ایک انتہائی معاملے میں، ISWAP دھڑے نے لڑائی کے خندقوں کو عبور کرنے کے لیے فلموں سے موٹر سائیکل جمپنگ کی تکنیکوں کا تجزیہ کرنے اور ان کی نقل کرنے کے لیے AI کا استعمال کیا۔
رضاکارانہ خود ضابطہ کاری کی ناکامی
یہ نتائج OpenAI اور Anthropic جیسے AI لیبز کی جانب سے طویل عرصے سے دی جانے والی وارننگز کی ایک تلخ تصدیق ہیں۔ اگرچہ ڈویلپرز نے سخت حفاظتی اقدامات (guardrails) نافذ کیے ہیں، لیکن تحقیق سے پتہ چلتا ہے کہ رضاکارانہ خود ضابطہ کاری بدنیتی پر مبنی عناصر کے ساتھ قدم سے قدم ملا کر چلنے میں ناکام ہو رہی ہے۔
LLMs کی نوعیت مکمل سیکیورٹی کو تقریباً ناممکن بنا دیتی ہے؛ Anthropic نے حال ہی میں تسلیم کیا ہے کہ جیل بریکس کو شاید کبھی مکمل طور پر ختم نہ کیا جا سکے۔ اگرچہ ChatGPT جیسے مرکزی دھارے کے چیٹ بوٹس بنیادی طور پر موجودہ معلومات تک رسائی کو آسان بناتے ہیں، لیکن اصل وجودی خطرہ مخصوص AI سسٹمز کے ممکنہ غلط استعمال میں پنہاں ہے۔ محققین خبردار کرتے ہیں کہ اگرچہ موجودہ استعمال "روایتی" ہے، لیکن اگلا مرحلہ دہشت گردوں کا کیمیائی اور حیاتیاتی ہتھیاروں کی تیاری کے لیے AI کی مدد حاصل کرنا ہوگا۔
یہ AI ایکو سسٹم کے لیے کیوں اہم ہے
یہ پیش رفت AI سیفٹی کے مباحث میں ایک تبدیلی کی نشاندہی کرتی ہے۔ اب یہ صرف "ہیلوسینیشنز" (hallucinations) یا متعصبانہ نتائج کو روکنے کے بارے میں نہیں ہے؛ بلکہ یہ مہلک معلومات کی عام رسائی کو روکنے کی بنیادی مشکل کے بارے میں ہے۔ جیسے جیسے AI ماڈلز لائف سائنسز جیسے مخصوص شعبوں میں زیادہ باصلاحیت ہوتے جا رہے ہیں، "قابل رسائی معلومات" اور "عملی ہتھیار سازی" کے درمیان فرق کم ہوتا جا رہا ہے، جس کے لیے بہت زیادہ مضبوط اور فعال سیکیورٹی ڈھانچوں کی ضرورت ہے۔
اہم نکات
- ادارہ جاتی غلط استعمال: بوکو حرام جیسے گروہ محض اتفاقی استعمال سے آگے بڑھ کر تزویراتی اور لاجسٹک منصوبہ بندی کے لیے مخصوص "AI یونٹس" بنا رہے ہیں۔
- عالمگیر کمزوری: ChatGPT, Claude, Gemini، اور DeepSeek سمیت بڑے ماڈلز کو پیچیدہ پرامپٹ انجینئرنگ اور جیل بریک کی تربیت کے ذریعے بائی پاس کیا جا رہا ہے۔
- تخصیص کا خطرہ: اگرچہ موجودہ غلط استعمال منصوبہ بندی اور دھماکہ خیز مواد پر مرکوز ہے، لیکن بنیادی طویل مدتی خطرہ کیمیائی اور حیاتیاتی جنگ کے لیے لائف سائنسز میں مخصوص AI کا استعمال ہے۔