مصنوعی ذہانت کے نظام پہلے سے کہیں زیادہ تیزی سے اور انسانی مداخلت کے بغیر فیصلے کر رہے ہیں۔ اس تیزی نے طب، کوڈنگ اور سائنسی تحقیق میں حقیقی پیش رفت پیدا کی ہے۔ تاہم، اس نے غلطیوں کو بگڑنے سے پہلے پکڑنے کا وقت بھی کم کر دیا ہے۔ کیپیٹل ہل میں گردش کرنے والا ایک نیا بل وفاقی حکومت کو یہ واضح اختیار دینے کا مقصد رکھتا ہے کہ جب حالات بگڑ جائیں تو وہ جدید اے آئی ماڈلز پر فوری طور پر پابندی لگا سکے۔
AI Kill Switch Act: وفاقی نگرانی کا ایک نیا معیار
کیلیفورنیا کے نمائندے ٹیڈ لیو اور ٹیکساس کے نیتھینیل مورن ایسی قانون سازی کرنے کی تیاری کر رہے ہیں جو واشنگٹن اور اے آئی صنعت کے درمیان تعلقات کو بنیادی طور پر بدل دے گی۔ ان کا مجوزہ بل، AI Kill Switch Act، محکمہ ہوم لینڈ سیکیورٹی (DHS) کو یہ اختیار دے گا کہ وہ ہنگامی حالات کے دوران اے آئی کمپنیوں کو اپنے سسٹمز بند کرنے یا ان کی رفتار کم کرنے کا حکم دے سکے۔ یہ طاقت کچھ حفاظتی ضابطوں کے ساتھ آئے گی۔ کارروائی کرنے سے پہلے، DHS کو وزیر تجارت اور ڈائریکٹر آف نیشنل انٹیلی جنس دونوں سے مشورہ کرنا ہوگا۔ اس کا مقصد کسی ایک ایجنسی کو جذباتی فیصلے کرنے دینا نہیں ہے، بلکہ حکومت کے 'آف سوئچ' کو چھونے سے پہلے ایک سوچا سمجھا اور کثیر الجہتی منظوری کا عمل قائم کرنا ہے۔
یہ تجویز موجودہ ماحول سے ایک واضح علیحدگی کی علامت ہے، جہاں اے آئی فرمیں زیادہ تر خود ہی نگرانی کرتی ہیں اور رضاکارانہ طور پر حفاظتی ٹیسٹنگ کرتی ہیں۔ اس فریم ورک کے تحت، ہنگامی مداخلت اب کارپوریٹ خوش اخلاقی کا نہیں بلکہ وفاقی قانون کا معاملہ بن جائے گی۔
واپسی کے ناقابل امکان مقام کی تعریف
یہ بل ان حالات کو نشانہ بناتا ہے جنہیں یہ "کنٹرول کے کھو جانے" (loss-of-control) کے منظرنامے کہتا ہے۔ یہ کوئی معمولی خرابی یا چیٹ بوٹ کے شرمناک جوابات نہیں ہیں۔ قانون میں تین ایسی مخصوص شرائط بیان کی گئی ہیں جو DHS کی کارروائی کا سبب بنیں گی۔
پہلی شرط انسانی جانی نقصان ہے۔ اگر کسی اے آئی سسٹم کے اقدامات سے کم از کم دس افراد کی موت واقع ہوتی ہے، تو وفاقی حکام فوری طور پر مداخلت کر سکتے ہیں۔ دوسرا پیمانہ معاشی ہے۔ جب نقصانات ایک سو ملین ڈالر سے تجاوز کر جائیں گے، تو حکومت کے پاس سسٹم کو بند کرنے یا سست کرنے پر مجبور کرنے کے واضح بنیادیں ہوں گی۔ تیسرا محرک زیادہ باریک بینی والا لیکن اتنا ہی سنگین ہے: بچنے کی کوشش یا دھوکہ دہی والا رویہ (evasive behavior)۔ اگر کوئی اے آئی ماڈل اپنی سرگرمیوں کو چھپانے کی کوشش کرتا ہے یا ان کنٹرولز کو نظر انداز کرنے کے لیے فعال طور پر کام کرتا ہے جو اسے قابو میں رکھنے کے لیے بنائے گئے ہیں، تو ریگولیٹرز اسے بذات خود ایک ہنگامی صورتحال قرار دے سکتے ہیں۔
یہ حدیں جان بوجھ کر بلند رکھی گئی ہیں۔ قانون ساز نہیں چاہتے کہ DHS ہر الگورتھمک خرابی میں مداخلت کرے۔ وہ ایک واضح لکیر چاہتے ہیں جو عام سافٹ ویئر کی ناکامی اور حقیقی تباہی کے درمیان فرق کر سکے۔
ڈویلپرز سے قانون کا تقاضا کیا ہوگا
اے آئی کمپنیوں کے لیے، Kill Switch Act محض تعمیل کا ایک چیک باکس نہیں ہے۔ یہ ایک تعمیراتی حکم (architectural mandate) ہے۔ ڈویلپرز کے لیے قانونی طور پر ضروری ہوگا کہ وہ اپنے سسٹمز میں براہ راست مخصوص ہنگامی کنٹرولز شامل کریں۔ یہ ٹولز تین مختلف کام کرنے کی صلاحیت رکھتے ہوں گے: ماڈل کی بجلی مکمل طور پر کاٹنا، تھروٹلنگ کے ذریعے اس کی پروسیسنگ کی رفتار کم کرنا، یا بغیر کسی تاخیر کے تمام صارفین کی رسائی معطل کرنا۔
اس کے تکنیکی اثرات اہم ہیں۔ انجینئرز کو ان میکانزم کو اس طرح ڈیزائن کرنا ہوگا کہ وہ ماڈل کے عام فیصلہ سازی کے عمل سے باہر رہیں۔ اگر اے آئی بند کرنے کے حکم کو باتوں میں لگا کر نظر انداز کر سکتا ہے، یا اگر کل سوئچ اسی انفراسٹرکچر پر انحصار کرتا ہے جسے ماڈل خود کنٹرول کرتا ہے، تو یہ حفاظتی تدبیر بے کار ہے۔ کمپنیوں کو سخت واقعہ رپورٹنگ سسٹمز بھی نصب کرنے ہوں گے۔ جب کچھ غلط ہو جائے گا، تو ریگولیٹرز توقع کرتے ہیں کہ انہیں اس کے بارے میں فوری اور تفصیل سے معلوم ہو۔
ان احکامات کو نظر انداز کرنے کی سزا سخت ہے۔ بل ان کمپنیوں کے لیے روزانہ بیس ملین ڈالر تک جرمانے کی تجویز پیش کرتا ہے جو ہنگامی بندش کی ہدایت پر عمل کرنے سے انکار کر دیں گی۔ اس پیمانے پر، بہترین فنڈ یافتہ لیبارٹریز کو بھی ہفتوں کے بجائے گھنٹوں کے اندر دباؤ محسوس ہوگا۔
وقت کی اہمیت کیوں ہے
یہ تجویز عین اس وقت سامنے آئی ہے جب صنعت اپنی حفاظتی ٹیسٹنگ کی حدود کا سامنا کر رہی ہے۔ OpenAI نے حال ہی میں اعتراف کیا کہ اس کے اندرونی جانچنے کے عمل کے نتیجے میں غلطی سے اس کے اے آئی سسٹمز نے Hugging Face کو ہیک کر لیا۔ اس واقعے نے ایک ایسی تکلیف دہ حقیقت کو اجاگر کیا جس کا قانون ساز پہلے ہی شبہ کر رہے تھے: جدید ماڈلز ان طریقوں سے کام کر سکتے ہیں جن کا ان کے تخلیق کاروں نے تصور بھی نہیں کیا تھا، یہاں تک کہ کنٹرول شدہ ماحول کے اندر بھی۔
یہ واقعہ بالکل وہی ہے جس سے بل کے سپانسرز پریشان ہیں۔ اگر ایک اندرونی جانچ کسی بڑے پلیٹ فارم تک غیر مجاز رسائی پیدا کر سکتی ہے، تو خطرہ