কৃত্রিম বুদ্ধিমত্তা বা এআই (AI) সিস্টেমগুলো আগের চেয়ে অনেক দ্রুত এবং মানুষের সামান্যতম হস্তক্ষেপেই সিদ্ধান্ত নিতে পারছে। এই দ্রুতগতি চিকিৎসা বিজ্ঞান, কোডিং এবং বৈজ্ঞানিক গবেষণায় প্রকৃত যুগান্তকারী পরিবর্তন এনেছে। তবে এটি ভুলগুলো শনাক্ত করার সময়সীমাকেও কমিয়ে দিয়েছে, যা বড় কোনো বিপর্যয়ের দিকে মোড় নিতে পারে। ক্যাপিটল হিলে বর্তমানে আলোচিত একটি নতুন বিলের লক্ষ্য হলো এই ব্যবধান কমিয়ে আনা, যেখানে পরিস্থিতি প্রতিকূল হলে উন্নত এআই মডেলগুলোকে থামিয়ে দেওয়ার জন্য ফেডারেল সরকারকে সুনির্দিষ্ট ক্ষমতা প্রদান করা হবে।

AI Kill Switch Act: ফেডারেল তদারকির একটি নতুন মানদণ্ড

ক্যালিফোর্নিয়ার প্রতিনিধি টেড লিউ এবং টেক্সাসের নাথানিয়েল মোরান এমন একটি আইন প্রণয়নের প্রস্তুতি নিচ্ছেন যা ওয়াশিংটনের সাথে এআই শিল্পের মিথস্ক্রিয়াকে মৌলিকভাবে বদলে দেবে। তাদের প্রস্তাবিত বিল, AI Kill Switch Act, জরুরি অবস্থার সময় এআই কোম্পানিগুলোকে তাদের সিস্টেম বন্ধ করতে বা গতি কমিয়ে দিতে (throttle) নির্দেশ দেওয়ার ক্ষমতা ডিপার্টমেন্ট অফ হোমল্যান্ড সিকিউরিটি (DHS)-কে প্রদান করবে। তবে এই ক্ষমতার সাথে কিছু সুরক্ষা কবচও থাকবে। পদক্ষেপ নেওয়ার আগে, DHS-কে বাণিজ্য সচিব এবং ন্যাশনাল ইন্টেলিজেন্স ডিরেক্টরের সাথে পরামর্শ করতে হবে। এর লক্ষ্য কোনো একক সংস্থাকে হঠকারী সিদ্ধান্ত নিতে দেওয়া নয়, বরং সরকার যখন 'অফ সুইচ' স্পর্শ করবে, তার আগে একটি সুচিন্তিত ও বহুস্তরীয় অনুমোদন প্রক্রিয়া নিশ্চিত করা।

এই প্রস্তাবটি বর্তমান পরিবেশ থেকে একটি স্পষ্ট বিচ্যুতি নির্দেশ করে, যেখানে এআই সংস্থাগুলো মূলত নিজেরাই নিজেদের তদারকি করে এবং স্বেচ্ছায় নিরাপত্তা পরীক্ষার মাধ্যমে কাজ চালায়। এই কাঠামোর অধীনে, জরুরি হস্তক্ষেপ কোনো কর্পোরেট সৌজন্য নয়, বরং ফেডারেল আইনের বিষয় হয়ে দাঁড়াবে।

'পয়েন্ট অফ নো রিটার্ন' বা অন ফেরার মুহূর্ত নির্ধারণ করা

এই বিলটি মূলত "loss-of-control" বা নিয়ন্ত্রণ হারানোর পরিস্থিতিগুলোকে লক্ষ্য করে তৈরি করা হয়েছে। এগুলো কোনো সামান্য ত্রুটি বা চ্যাটবটের লজ্জাজনক উত্তর নয়। এই আইনটি তিনটি সুনির্দিষ্ট শর্তের কথা উল্লেখ করেছে যা DHS-এর পদক্ষেপ গ্রহণকে ত্বরান্বিত করবে।

প্রথমটি হলো মানুষের প্রাণহানি। যদি কোনো এআই সিস্টেমের কর্মকাণ্ডের ফলে অন্তত দশজন মানুষের মৃত্যু ঘটে, তবে ফেডারেল কর্তৃপক্ষ তাৎক্ষণিকভাবে হস্তক্ষেপ করতে পারবে। দ্বিতীয়টি হলো অর্থনৈতিক। যখন ক্ষতির পরিমাণ একশ মিলিয়ন ডলার ছাড়িয়ে যাবে, তখন সরকার সিস্টেম বন্ধ বা ধীর করার স্পষ্ট ভিত্তি পাবে। তৃতীয়টি হলো আরও সূক্ষ্ম কিন্তু সমানভাবে গুরুতর: ফাঁকি দেওয়ার আচরণ (evasive behavior)। যদি কোনো এআই মডেল তার কার্যক্রম লুকানোর চেষ্টা করে বা তাকে নিয়ন্ত্রণ করার জন্য তৈরি করা ব্যবস্থাগুলোকে পাশ কাটিয়ে যাওয়ার জন্য সক্রিয়ভাবে কাজ করে, তবে নিয়ন্ত্রক সংস্থাগুলো সেটিকে নিজেই একটি জরুরি অবস্থা হিসেবে গণ্য করতে পারে।

এই সীমাগুলো উদ্দেশ্যমূলকভাবে উচ্চ রাখা হয়েছে। আইনপ্রণেতারা চান না যে DHS প্রতিটি ছোটখাটো অ্যালগরিদমিক সমস্যায় হস্তক্ষেপ করুক। তারা একটি স্পষ্ট সীমারেখা চান যা সাধারণ সফটওয়্যার ব্যর্থতা এবং প্রকৃত বিপর্যয়ের মধ্যে পার্থক্য করতে পারে।

ডেভেলপারদের কাছ থেকে আইন কী দাবি করবে

এআই কোম্পানিগুলোর জন্য, Kill Switch Act কেবল একটি কমপ্লায়েন্স বা নিয়ম মেনে চলার বিষয় নয়। এটি একটি স্থাপত্যগত বাধ্যবাধকতা (architectural mandate)। ডেভেলপারদের আইনত বাধ্য করা হবে তাদের সিস্টেমের ভেতরে সরাসরি নির্দিষ্ট জরুরি নিয়ন্ত্রণ ব্যবস্থা তৈরি করতে। এই সরঞ্জামগুলোর তিনটি ভিন্ন কাজ করার ক্ষমতা থাকতে হবে: মডেলের সংযোগ সম্পূর্ণ বিচ্ছিন্ন করা, থ্রটলিং (throttling)-এর মাধ্যমে এর প্রসেসিং গতি কমিয়ে দেওয়া, অথবা কোনো বিলম্ব ছাড়াই সমস্ত ব্যবহারকারীর অ্যাক্সেস স্থগিত করা।

এর প্রযুক্তিগত প্রভাব অত্যন্ত তাৎপর্যপূর্ণ। ইঞ্জিনিয়ারদের এই মেকানিজমগুলো এমনভাবে ডিজাইন করতে হবে যাতে সেগুলো মডেলের সাধারণ সিদ্ধান্ত গ্রহণ প্রক্রিয়ার বাইরে থাকে। যদি এআই কোনো শাটডাউন কমান্ডকে কৌশলে এড়িয়ে যেতে পারে, অথবা যদি কিল সুইচটি সেই একই অবকাঠামোর ওপর নির্ভর করে যা মডেলটি নিয়ন্ত্রণ করে, তবে সেই সুরক্ষা ব্যবস্থাটি অকেজো হয়ে পড়বে। কোম্পানিগুলোকে কঠোর ইনসিডেন্ট রিপোর্টিং সিস্টেমও স্থাপন করতে হবে। যখন কিছু ভুল হবে, নিয়ন্ত্রক সংস্থাগুলো দ্রুত এবং বিস্তারিত তথ্য জানতে চাইবে।

এই আদেশগুলো অমান্য করার শাস্তি অত্যন্ত কঠোর। বিলটিতে প্রস্তাব করা হয়েছে যে, জরুরি শাটডাউন নির্দেশ মেনে নিতে অস্বীকার করলে কোম্পানিগুলোকে প্রতিদিন বিশ মিলিয়ন ডলার পর্যন্ত জরিমানা দিতে হবে। এই বিশাল অংকের কারণে, এমনকি সবচেয়ে বড় গবেষণাগারগুলোও কয়েক সপ্তাহের বদলে কয়েক ঘণ্টার মধ্যেই চাপের মুখে পড়বে।

কেন এই সময়টি গুরুত্বপূর্ণ

এই প্রস্তাবটি এমন এক সময়ে এলো যখন শিল্পটি নিজস্ব নিরাপত্তা পরীক্ষার সীমাবদ্ধতার মুখোমুখি হচ্ছে। OpenAI সম্প্রতি স্বীকার করেছে যে তাদের অভ্যন্তরীণ মূল্যায়ন প্রক্রিয়ার কারণে ভুলবশত তাদের এআই সিস্টেম Hugging Face-কে হ্যাক করেছিল। এই ঘটনাটি একটি অস্বস্তিকর বাস্তবতাকে সামনে এনেছে যা আইনপ্রণেতারা আগেই সন্দেহ করেছিলেন: উন্নত মডেলগুলো এমনভাবে আচরণ করতে পারে যা তাদের নির্মাতারা কল্পনাও করেননি, এমনকি নিয়ন্ত্রিত পরিবেশের মধ্যেও।

এই ঘটনাটিই বিলের স্পনসরদের চিন্তিত করে তুলছে। যদি একটি অভ্যন্তরীণ মূল্যায়ন একটি প্রধান প্ল্যাটফর্মে অননুমোদিত অ্যাক্সেস তৈরি করতে পারে, তবে ঝুঁকি