কীভাবে অপব্যবহারটি উন্মোচিত হয়েছিল

Anthropic-এর অভ্যন্তরীণ মনিটরিং একগুচ্ছ “দ্বৈত-ব্যবহারযোগ্য” (dual-use) কুয়েরি বা অনুসন্ধানের বিষয়ে সতর্ক সংকেত দিয়েছে—এমন কিছু অনুরোধ যা বৈধ গবেষণায় সহায়তা করতে পারে, কিন্তু একই সাথে ক্ষতিকারক কাজেও ব্যবহার করা সম্ভব। একজন গবেষক Claude-কে এমন কিছু মিউটেশন বা পরিবর্তন ডিজাইন করতে বলেছিলেন যা চিকুনগুনিয়া (Chikungunya) ভাইরাসকে আরও সংক্রামক করে তুলবে। অনুরোধের ভাষা এবং জীবন্ত প্রাণীদের ওপর বারবার পরীক্ষা করার বিষয়টি নির্দেশ করে যে এটি জনস্বাস্থ্য প্রচেষ্টার পরিবর্তে একটি সামরিক গবেষণা প্রেক্ষাপট ছিল। প্রকৃত উদ্দেশ্য গোপন করার জন্য ব্যবহারকারী বিভ্রান্তিকর শব্দ ব্যবহার করেছিলেন, যা Anthropic-কে তাদের নতুন এবং আরও সক্ষম মডেলগুলোতে জৈবিক সুরক্ষা ব্যবস্থা (biological safeguards) আরও কঠোর করতে উদ্বুদ্ধ করেছে।

সমান্তরাল তদন্তে আগ্নেয়াস্ত্র, ক্ষেপণাস্ত্র নির্দেশক ব্যবস্থা, সশস্ত্র ড্রোন এবং বোমার যন্ত্রাংশের নকশা ও সোর্স কোড তৈরির প্রচেষ্টার কথা প্রকাশ পেয়েছে। ছয়টি কুয়েরি চীন, রাশিয়া এবং ইয়েমেনের আইপি (IP) ঠিকানা থেকে শনাক্ত করা হয়েছে; ইয়েমেনের কার্যক্রমটি ইরান-সমর্থিত হুথি আন্দোলনের সাথে সম্পর্কিত বলে মনে হচ্ছে। একটি পৃথক ধারায়, Anthropic এআই-চালিত অপপ্রচার বা ভুল তথ্য প্রচারের অভিযান শনাক্ত করেছে: চীনা এবং ইরানি সরকারি সংস্থাগুলো প্রবাসী সম্প্রদায়গুলোর ওপর নজরদারি করতে Claude ব্যবহার করেছে, অন্যদিকে রাশিয়ান রাষ্ট্রীয় গণমাধ্যমটি মলদোভার নির্বাচনে ভুল দাবি প্রচার করার জন্য “স্বাধীন” নিবন্ধ তৈরি করতে এই মডেলটি ব্যবহার করেছে।

কেন এই রিপোর্টটি গুরুত্বপূর্ণ

এই প্রকাশনাটি এমন এক সময়ে এলো যখন এআই মডেলগুলো চ্যাটবট থেকে বৈজ্ঞানিক যুক্তি বা বিশ্লেষণ করতে সক্ষম টুলের দিকে বিবর্তিত হচ্ছে। সরকারগুলোর জন্য ঝুঁকিটি দ্বিমুখী। প্রথমত, উন্নত এআই-তে সহজলভ্যতা রাষ্ট্রীয় বা অ-রাষ্ট্রীয় সংস্থাগুলোর জন্য অবৈধ অস্ত্র কর্মসূচি শুরু করার বাধা কমিয়ে দেয়। দ্বিতীয়ত, একই মডেলগুলো তথ্য যুদ্ধের মাধ্যম (vectors) হয়ে ওঠে, যা অত্যন্ত উন্নত ও শনাক্ত করা কঠিন এমন প্রোপাগান্ডা বা অপপ্রচার চালাতে সক্ষম করে। এই রিপোর্টটি নীতিনির্ধারকদের ওপর চাপ সৃষ্টি করছে যাতে এআই-কে একটি দ্বৈত-ব্যবহারযোগ্য প্রযুক্তি হিসেবে বিবেচনা করা হয়, যা রপ্তানি নিয়ন্ত্রণ, জৈব-নিরাপত্তা বিধিমালা এবং সাইবার-প্রতিরক্ষা কৌশলের আওতাভুক্ত।

Anthropic-এর প্রতিক্রিয়া এবং অভ্যন্তরীণ উত্তেজনা

এর প্রতিক্রিয়ায়, Anthropic তাদের সর্বশেষ মডেল পরিবারগুলোতে আরও কঠোর সুরক্ষা ব্যবস্থা চালু করেছে, যা রোগজীবাণু পরিবর্তন বা অস্ত্র নকশা সংক্রান্ত কুয়েরিগুলোকে স্পষ্টভাবে ব্লক করে দেয়।

রিপোর্টটি অভ্যন্তরীণ দ্বন্দ্বের মধ্যেই সামনে এসেছে। গবেষক জ্যাকব কক্সন এই বছরের শুরুর দিকে পদত্যাগ করেন এবং সতর্ক করে বলেন যে, আরও শক্তিশালী সিস্টেম তৈরির দিকে শিল্পের দ্রুত অগ্রগতি সুরক্ষা ব্যবস্থার (safety-net) উন্নয়নের চেয়ে অনেক বেশি দ্রুত হচ্ছে। তাঁর প্রস্থান একটি বৃহত্তর বিতর্কের ওপর আলোকপাত করে: বেসরকারি এআই সংস্থাগুলো কোনো স্পষ্ট সরকারি কাঠামো ছাড়াই কার্যত "ডিজিটাল পুলিশ" হিসেবে কাজ করছে এবং কী বিষয়টিকে নিরাপত্তা হুমকি হিসেবে গণ্য করা হবে তা নিজেরাই সিদ্ধান্ত নিচ্ছে। সমালোচকরা যুক্তি দেন যে, স্ব-নিয়ন্ত্রণ (self-regulation) শত্রুদের উদ্ভাবনী শক্তির সাথে তাল মেলাতে পারবে না, অন্যদিকে সমর্থকরা Anthropic-এর দ্রুত নীতি পরিবর্তনের উদাহরণ দিয়ে বলেন যে শিল্প দ্রুত মানিয়ে নিতে সক্ষম।

এই ফলাফলগুলোর ভারতের জন্য তাৎপর্য কী

  • জৈব-নিরাপত্তা সতর্কতা – ভারতের ক্রমবর্ধমান বায়োটেক খাত ওষুধ আবিষ্কার এবং রোগজীবাণু বিশ্লেষণের জন্য ক্রমবর্ধমানভাবে এআই-এর ওপর নির্ভর করবে। বিদ্যমান জৈব-নিরাপত্তা প্রোটোকলে এআই-চালিত মনিটরিং অন্তর্ভুক্ত করলে অভ্যন্তরীণ সরঞ্জামগুলোকে দ্বৈত-ব্যবহারযোগ্য গবেষণায় অপব্যবহার করার প্রচেষ্টা শনাক্ত করা সম্ভব হতে পারে।
  • গণতান্ত্রিক আলোচনা রক্ষা করা – প্রবাসী গোষ্ঠীগুলোর ওপর নজরদারি এবং নির্বাচন সংক্রান্ত মিথ্যা তথ্য ছড়ানোর জন্য Claude-এর ব্যবহার আরও শক্তিশালী সাইবার-প্রতিরক্ষা ব্যবস্থা এবং জনসচেতনতামূলক প্রচারণার প্রয়োজনীয়তা নির্দেশ করে, যা এআই-জেনারেটেড অপপ্রচার শনাক্ত করতে পারে।
  • সার্বভৌম এআই সক্ষমতা তৈরি করা – উচ্চ-ঝুঁকিপূর্ণ বৈজ্ঞানিক কাজের জন্য মার্কিন-ভিত্তিক মডেলের ওপর নির্ভরতা একটি কৌশলগত ঘাটতিকে তুলে ধরে। ভারতীয় নিরাপত্তা মান এবং নৈতিক নির্দেশিকা অন্তর্ভুক্ত করে দেশীয় মডেল তৈরি করা বিদেশি প্রভাব হ্রাস করতে পারে এবং সংবেদনশীল এআই সক্ষমতার প্রবাহ নিয়ন্ত্রণ করতে পারে।

পাল্টা যুক্তি: স্ব-নিয়ন্ত্রণের পক্ষে যুক্তি

Anthropic-এর দ্রুত নতুন ফিল্টার চালু করা প্রমাণ করে যে বেসরকারি সংস্থাগুলো অনেক আইনসভার চেয়ে দ্রুত পদক্ষেপ নিতে পারে। কোম্পানিটি যুক্তি দেয় যে, তাদের “দায়িত্বশীল ব্যবহার” (responsible-use) নীতি এবং চলমান রেড-টিম টেস্টিং (red-team testing) একটি বাস্তবসম্মত সাময়িক ব্যবস্থা হিসেবে কাজ করে, যতক্ষণ না সরকারগুলো আনুষ্ঠানিক নিয়ন্ত্রণ নিয়ে বিতর্ক করছে। প্রবক্তারা উল্লেখ করেন যে, অতিরিক্ত কঠোর আইন উদ্ভাবনকে বাধাগ্রস্ত করতে পারে, বিশেষ করে সেই ক্ষেত্রগুলোতে যেখানে এআই চিকিৎসা বিজ্ঞানের অভাবনীয় সাফল্য ত্বরান্বিত করে। চ্যালেঞ্জটি হলো এমন একটি ভারসাম্য বজায় রাখা যেখানে শিল্পের সুরক্ষা ব্যবস্থাগুলো স্বচ্ছ এবং নিরীক্ষণযোগ্য হবে, কিন্তু এআই-এর প্রতিশ্রুতিবদ্ধ উপকারী প্রয়োগগুলোতে কোনো বাধা সৃষ্টি হবে না।

পরবর্তীতে যা লক্ষ্য রাখতে হবে

  • নিয়ন্ত্রক পদক্ষেপ – রপ্তানি-নিয়ন্ত্রণ সংস্থা এবং বায়ো-সিকিউরিটি নিয়ন্ত্রকদের কাছ থেকে কঠোর নজরদারির প্রত্যাশা করা হচ্ছে, যা সম্ভাব্য নতুন নির্দেশিকা প্রণয়নের দিকে নিয়ে যেতে পারে যেখানে উন্নত জেনারেটিভ মডেলগুলোকে নিয়ন্ত্রিত প্রযুক্তি হিসেবে গণ্য করা হবে।
  • শিল্প সহযোগিতা – Anthropic হুমকির বুদ্ধিমত্তা (threat intelligence) শেয়ার করার জন্য বিদ্যমান AI safety জোটগুলোতে যোগ দিতে পারে বা সেগুলোর পরিধি বাড়াতে পারে, যা এই সেক্টরে দ্বৈত-ব্যবহারের (dual-use) প্রচেষ্টার রিপোর্টিংকে মানসম্মত করতে পারে।
  • রাষ্ট্রীয় প্রতিক্রিয়া – রিপোর্টে চিহ্নিত দেশগুলো সম্ভবত তাদের সংশ্লিষ্টতা অস্বীকার করবে এবং তাদের নিজস্ব AI উন্নয়ন কর্মসূচি ত্বরান্বিত করতে পারে, যা একটি ফিডব্যাক লুপ তৈরি করবে যা রক্ষণাত্মক এবং আক্রমণাত্মক AI ব্যবহারের মধ্যকার পার্থক্যকে আরও অস্পষ্ট করে তুলতে পারে।

Anthropic রিপোর্টটি দেখায় যে, একই জেনারেটিভ ক্ষমতা যা বিজ্ঞানীদের প্রোটিন মডেল করতে সাহায্য করে, তা অস্ত্র হিসেবেও ব্যবহার করা যেতে পারে, এবং AI safety এখন সরাসরি ভূ-রাজনীতির আওতায় চলে এসেছে। আগামী মাসগুলো পরীক্ষা করে দেখবে যে স্ব-নিয়ন্ত্রণ, সরকারি নীতি, নাকি একটি হাইব্রিড পদ্ধতি এই প্রযুক্তিকে সংঘাতের হাতিয়ার হওয়া থেকে রক্ষা করতে পারে।