Arcee کے CTO نے چینی اوپن ویٹ (open-weight) AI ماڈلز کے بارے میں خدشات کو چیلنج کیا

جیسے جیسے Alibaba کے Qwen اور Moonshot AI کے Kimi K3 جیسے چینی اوپن ویٹ ماڈلز مقبولیت حاصل کر رہے ہیں، ان کے سیکورٹی اثرات کے حوالے سے ایک تاحالی بحث چھڑ گئی ہے۔ اگرچہ کچھ لوگوں کو ڈر ہے کہ یہ ماڈلز سائبر حملوں کے ذریعے ذریعہ بن سکتے ہیں، جس کے نتیجے میں امریکی حکومت ان پر پابندی لگا سکتی ہے، تاہم ماہرین اس خیال کی مخالفت کر رہے ہیں کہ یہ ماڈلز فطری طور پر خطرناک ہیں۔

"بدنیتی" کے بیانیے کی حقیقت کھولنا

ناقدین کا بنیادی خدشہ یہ ہے کہ چین میں تیار کردہ ماڈلز میں "خفیہ مقاصد" یا برے عناصر (bad actors) کے ذریعے کوڈ کیے گئے بیک ڈورز (backdoors) ہو سکتے ہیں۔ تاہم، امریکہ میں قائم AI لیب Arcee کے CTO، Lucas Atkins کا کہنا ہے کہ یہ غلط فہمی بنیادی طور پر اس بات کی غلط نمائندگی کرتی ہے کہ Large Language Models (LLMs) کیسے کام کرتے ہیں۔

روایتی سافٹ ویئر کے برعکس، جہاں ایک ڈویلپر واضح طور پر کوئی مخصوص بدنیتی پر مبنی کمانڈ کوڈ کر سکتا ہے، LLMs ٹریننگ کے عمل کا نتیجہ ہوتے ہیں۔ Atkins بتاتے ہیں کہ ایک بار جب کوئی اوپن ویٹ ماڈل ڈاؤن لوڈ کر کے نجی اور مقامی ماحول میں چلا دیا جائے، تو اصل ڈویلپر کے پاس اس انسٹنس (instance) تک رسائی حاصل کرنے یا اسے کنٹرول کرنے کا کوئی طریقہ نہیں رہتا۔ ماڈل ویٹس (model weights) اور صارف کے انفراسٹرکچر کے درمیان یہ علیحدگی سیکورٹی کی ایک اہم تہہ فراہم کرتی ہے جو روایتی سافٹ ویئر میں موجود نہیں ہوتی۔

ماڈل سیکورٹی کی تکنیکی حقیقت

اگرچہ بحث جاری ہے، لیکن تکنیکی برادری اس بات پر زور دیتی ہے کہ "خفیہ" AI رویے کے خطرات انتہائی کم ہیں۔ ایک نظریاتی خدشہ یہ ہے کہ کیا کسی کوڈنگ ماڈل کو مخصوص کوڈ بیسز (codebases) میں مالویئر (malware) داخل کرنے کے لیے تربیت دی جا سکتی ہے۔ اگرچہ Atkins تسلیم کرتے ہیں کہ یہ نظریاتی طور پر ممکن ہے، لیکن وہ نوٹ کرتے ہیں کہ اس کے لیے انجینئرنگ کے ایسے "غیر معمولی کرتب" (acrobatic feats) درکار ہوں گے جو فی الحال غیر عملی ہیں۔

مزید برآں، LLMs کی نوعیت احتمالی (probabilistic) اور تخلیقی ہے، جس کی وجہ سے کسی مخصوص بدنیتی پر مبنی ردعمل کو متحرک کرنے کے لیے درکار "موزوں حالات" (perfect storm) کا پیدا ہونا انتہائی ناممکن ہے۔ اداروں (enterprises) کے لیے، سیکورٹی کا انتظام کئی معیاری تہوں کے ذریعے کیا جاتا ہے:

• سیکورٹی ٹیسٹنگ: بڑی تنظیمیں ماڈل کورز کو سخت معائنہ کے عمل سے گزارتی ہیں۔
• پوسٹ ٹریننگ (Post-Training): کمپنیاں مخصوص کاموں کے لیے ماڈلز کو فائن ٹیون (fine-tune) کرتی ہیں، جس سے انہیں تعصب (bias)، زہریلے پن (toxicity) اور ہالوسینیشن (hallucinations) کی جانچ کرنے میں مدد ملتی ہے۔
• ماڈل ایگنوستیسزم (Model Agnosticism): جدید AI آرکیٹیکچر تیزی سے ماڈل ایگنوسٹک ہو رہا ہے، جس کا مطلب ہے کہ ادارے اپنے پورے اسٹیک (stack) کی دوبارہ انجینئرنگ کیے بغیر چینی ماڈلز کو امریکی متبادل سے بدل سکتے ہیں۔

ریگولیشن کے بجائے جدت کے ذریعے مقابلہ

Arcee، جو امریکی کمپنیوں کو مقامی متبادل فراہم کرنے کے لیے اوپن ماڈلز بناتی ہے، خود کو ایک منفرد پوزیشن میں پاتی ہے۔ اگرچہ چینی ماڈلز پر پابندی نظریاتی طور پر ان کے کاروبار کو فائدہ پہنچائے گی، لیکن Atkins کا استدلال ہے کہ توجہ پابندی سے ہٹ کر ایک مضبوط مقامی ایکو سسٹم کو فروغ دینے پر ہونی چاہیے۔

دلچسپ بات یہ ہے کہ اعلیٰ کارکردگی والے چینی ماڈلز کا عروج درحقیقت مغرب میں جدت کے عمل کو تیز کرتا ہے۔ Arcee ان اوپن ویٹ ماڈلز سے ان کے ڈھانچے (architectures) اور صلاحیتوں سے سیکھنے کے لیے فائدہ اٹھاتی ہے، جس سے مسلسل بہتری کا ایک چکر چلتا ہے۔ Atkins کے مطابق، امریکی لیبز کے لیے مقابلہ کرنے کا حتمی طریقہ پالیسی نہیں بلکہ کارکردگی ہے: "چینی ماڈلز کا مقابلہ کرنے کا طریقہ ایک ایسا ماڈل جاری کرنا ہے جو ان سے بہتر ہو۔"

اہم نکات

• علیحدگی کے ذریعے سیکورٹی: ایک بار جب اوپن ویٹ ماڈلز کو نجی ڈیٹا سینٹر میں تعینات کر دیا جائے، تو اصل ڈویلپرز کے پاس مقامی ماحول تک رسائی حاصل کرنے یا اس میں مداخلت کرنے کا کوئی طریقہ نہیں رہتا۔
• نظریاتی بمقابلہ عملی خطرہ: اگرچہ بدنیتی پر مبنی کوڈ انجیکشن کے لیے "خفیہ ٹریننگ" نظریاتی طور پر ممکن ہے، لیکن موجودہ LLM آرکیٹیکچر میں یہ ایک انتہائی پیچیدہ اور غیر یقینی کارنامہ ہے۔
• مقابلے کے ذریعے جدت: پابندیوں کے پیچھے بھاگنے کے بجائے، امریکی AI سیکٹر چین کے اعلیٰ کارکردگی والے اوپن ویٹ ماڈلز سے ملنے والے مسابقتی دباؤ اور مشترکہ علم سے فائدہ اٹھا سکتا ہے۔