কল্পনা করুন আপনি একটি আর্থিক পরিষেবা প্রতিষ্ঠানের একজন সিনিয়র অ্যাপ্লিকেশন সিকিউরিটি ইঞ্জিনিয়ার। আপনি অভ্যন্তরীণভাবে তৈরি করা একটি অথেন্টিকেশন কোডের অংশ একটি ফ্রন্টিয়ার এআই মডেলে ইনপুট দিলেন এবং লজিক ত্রুটিগুলো শনাক্ত করতে বললেন। বিশ্লেষণের পরিবর্তে, আপনি একটি লেকচার পেলেন। মডেলটি এই যুক্তিতে প্রত্যাখ্যান করল যে আপনি হয়তো এই তথ্যটি "সিস্টেম এক্সপ্লয়েট" করতে ব্যবহার করতে পারেন। আপনি কোনো অপরাধী নন। আপনি সেই ব্যক্তি যাকে অপরাধীদের থামাতে নিয়োগ করা হয়েছে। তবুও গার্ডরেল (guardrail) উভয় ভূমিকাকে অবিভাজ্য হিসেবে বিবেচনা করে।
এই পরিস্থিতিটি এখন রুটিন হয়ে দাঁড়িয়েছে। ক্ষতিকারক অপব্যবহার রোধ করতে বড় এআই ল্যাবগুলো যখন নিরাপত্তা প্রোটোকল আরও কঠোর করছে, তখন তারা বৈধ সাইবার সিকিউরিটি পেশাদারদের কাজের পদ্ধতির সাথে সরাসরি সংঘর্ষে লিপ্ত হচ্ছে। এর ফলে একটি ক্রমবর্ধমান প্যারাডক্স বা আপাতবিরোধী পরিস্থিতির সৃষ্টি হচ্ছে: যে সরঞ্জামগুলোকে সফটওয়্যার ইঞ্জিনিয়ারিংয়ের ক্ষমতা বহুগুণ বাড়িয়ে দেয় এমন (force multipliers) হিসেবে প্রচার করা হচ্ছে, সেগুলোই এখন সেই বিশেষজ্ঞদের কাছ থেকে দূরে রাখা হচ্ছে যারা গুরুত্বপূর্ণ অবকাঠামো রক্ষা করেন।
নিরাপত্তা (Safety) এবং সুরক্ষা (Security)-এর মধ্যে দ্বন্দ্ব
প্রধান এআই ডেভেলপাররা সাইবার সিকিউরিটি সম্প্রদায়কে পুরোপুরি উপেক্ষা করেনি। OpenAI Trusted Access for Cyber নামে একটি প্রোগ্রাম পরিচালনা করে। Anthropic একটি Cyber Verification Program পরিচালনা করে। উভয়ই এমনভাবে ডিজাইন করা হয়েছে যাতে যাচাইকৃত ব্যবহারকারীরা নির্দিষ্ট কিছু প্রত্যাখ্যান প্রক্রিয়া (refusal mechanisms) এড়িয়ে যেতে পারেন যাতে তারা বৈধ গবেষণা করতে পারেন। তাত্ত্বিকভাবে, এই গেটগুলো ভালো এবং খারাপ উভয় পক্ষকে আলাদা করে।
বাস্তবে, অনেক অফেন্সিভ সিকিউরিটি রিসার্চার এবং নেটওয়ার্ক ডিফেন্ডাররা এগুলোকে আমলাতান্ত্রিক বাধার (bureaucratic speed bumps) মতো অনুভব করেন। যাচাইকরণ প্রক্রিয়াগুলো অস্পষ্ট হতে পারে। অনুমোদনের সময়সীমা অনির্দিষ্ট। এমনকি গ্রহণ করার পরেও, গবেষকরা রিপোর্ট করেছেন যে উন্নত অ্যাক্সেসটি বিভিন্ন মডেল ভার্সন বা কনভারসেশন থ্রেডের ক্ষেত্রে সব সময় নির্ভরযোগ্যভাবে কাজ করে না। সক্রিয়ভাবে এক্সপ্লয়েট করা হচ্ছে এমন দুর্বলতাগুলো দ্রুত প্যাচ করার জন্য দৌড়াচ্ছে এমন দলগুলোর জন্য এই ঘর্ষণ বা বাধা অত্যন্ত গুরুত্বপূর্ণ।
ওয়াশিংটন এবং সিলিকন ভ্যালির মধ্যে উত্তেজনা একটি উল্লেখযোগ্য মোড় নেয় যখন মার্কিন সরকার Anthropic-এর Mythos এবং Fable মডেলের ওপর রপ্তানি নিয়ন্ত্রণ আরোপ করে। এই বিধিনিষেধ সেই রিপোর্টের পর এসেছে যেখানে বলা হয়েছিল যে ব্যক্তিরা সাইবার আক্রমণ সহজতর করার জন্য মডেলের সেফটি গার্ডরেল এড়িয়ে গেছে। নিয়ন্ত্রক সংস্থাগুলো দ্রুত এই সিস্টেমগুলোকে অনন্যভাবে বিপজ্জনক রপ্তানি পণ্য হিসেবে বিবেচনা করতে পদক্ষেপ নেয়। এরপর থেকে নিয়ন্ত্রণগুলো তুলে নেওয়া হয়েছে বা পরিবর্তন করা হয়েছে, তবে এই ঘটনাটি একটি স্পষ্ট সংকেত দিয়েছে: উচ্চ-ক্ষমতাসম্পন্ন এআই মডেলগুলোকে সাধারণ উদ্দেশ্যে ব্যবহৃত প্রযুক্তিগত যন্ত্রের পরিবর্তে ক্রমবর্ধমানভাবে সম্ভাব্য 'ডুমসডে ডিভাইস' (doomsday devices) হিসেবে দেখা হচ্ছে। যারা এগুলোর ওপর নির্ভর করেন সেই ডিফেন্ডারদের জন্য, এই ধারণাটি আরও কঠোর নজরদারি, ধীরগতির অ্যাক্সেস এবং একটি অন্তর্নিহিত সন্দেহের জন্ম দেয় যে সিকিউরিটি রিসার্চ মানেই অন্য নামে হ্যাকিং।
কেন প্রতিরক্ষা এবং আক্রমণ অবিচ্ছেদ্য
এই দ্বন্দ্বের মূল কেন্দ্রবিন্দু প্রশাসনিক নয়। এটি প্রযুক্তিগত। একটি নেটওয়ার্ক রক্ষা করার জন্য প্রয়োজনীয় সক্ষমতাগুলো আক্রমণ করার জন্য প্রয়োজনীয় সক্ষমতার প্রায় একই রকম।
NCC Group-এর চিফ সায়েন্টিস্ট ক্রিস অ্যানলি একটি সহজ উপমা ব্যবহার করেন: এআই হলো একটি হাতুড়ি। আপনি এটি দিয়ে একটি বাড়ি তৈরি করতে পারেন বা একটি জানলা ভাঙতে পারেন। সরঞ্জামটি নিজে এই পার্থক্য জানে না। সাইবার সিকিউরিটিতে এই দ্বৈততা এড়ানো অসম্ভব। যখন একজন প্র্যাকটিশনার একটি মডেলকে "এই কোডটি ঠিক করো" বলতে বলেন, তখন অনুরোধটি একটি রক্ষণাত্মক পদক্ষেপকে ট্রিগার করে। কিন্তু যে যুক্তি প্রক্রিয়াটি সমাধানটি তৈরি করে—অনিরাপদ ফাংশন শনাক্ত করা, অনির্ভরযোগ্য ইনপুট ট্র্যাক করা, এক্সিকিউশন ফ্লো ম্যাপ করা—তা অনিবার্যভাবে প্রকাশ করে দেয় যে কীভাবে দুর্বলতাটি ট্রিগার করা যেতে পারে। এই ব্যাখ্যাটি এক্সপ্লয়েট করার জন্য একটি রোডম্যাপ হিসেবে কাজ করে।
যেহেতু এআই সেফটি টিমগুলো প্রায়শই মডেলগুলোকে এমন যেকোনো প্রম্পট প্রত্যাখ্যান করার জন্য প্রশিক্ষণ দেয় যা এক্সপ্লয়েটেশনের আভাস দেয়, তাই সিস্টেমগুলো প্রায়শই অতিরিক্ত সংশোধন (overcorrect) করে। একজন গবেষক কীভাবে ইউজার ইনপুট স্যানিটাইজ করতে হয় তা জানতে চাইলে উত্তর পান। কিন্তু একজন গবেষক কীভাবে একটি