চীনা ওপেন-ওয়েট AI মডেল সংক্রান্ত ভয়কে চ্যালেঞ্জ জানালেন Arcee-এর CTO

আলিবাবার Qwen এবং Moonshot AI-এর Kimi K3-এর মতো চীনা ওপেন-ওয়েট মডেলগুলো ব্যাপক জনপ্রিয়তা পাওয়ার সাথে সাথে, এগুলোর নিরাপত্তা সংক্রান্ত প্রভাব নিয়ে একটি উত্তপ্ত বিতর্ক শুরু হয়েছে। যদিও কেউ কেউ আশঙ্কা করছেন যে এই মডেলগুলো সাইবার আক্রমণের মাধ্যম হিসেবে ব্যবহৃত হতে পারে, যা মার্কিন সরকারের পক্ষ থেকে সম্ভাব্য নিষেধাজ্ঞার দিকে নিয়ে যেতে পারে, তবে বিশেষজ্ঞরা এই ধারণাটিকে প্রত্যাখ্যান করছেন যে এগুলো সহজাতভাবে বিপজ্জনক।

"বিদ্বেষপূর্ণ উদ্দেশ্য"-এর ধারণা খণ্ডন

সমালোচকদের প্রধান উদ্বেগ হলো যে, চীন দ্বারা তৈরি মডেলগুলোতে কোনো "লুকানো উদ্দেশ্য" বা ক্ষতিকারক ব্যক্তিদের দ্বারা কোড করা ব্যাকডোর থাকতে পারে। তবে, মার্কিন ভিত্তিক AI ল্যাব Arcee-এর CTO লুকাস অ্যাটকিনস (Lucas Atkins) যুক্তি দিয়েছেন যে, এই ভুল ধারণাটি মূলত লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) কীভাবে কাজ করে তা ভুলভাবে উপস্থাপন করে।

প্রথাগত সফটওয়্যারের মতো নয়, যেখানে একজন ডেভেলপার স্পষ্টভাবে একটি নির্দিষ্ট ক্ষতিকারক কমান্ড কোড করতে পারেন, LLM হলো ট্রেনিং প্রক্রিয়ার ফসল। অ্যাটকিনস উল্লেখ করেছেন যে, একবার একটি ওপেন-ওয়েট মডেল ডাউনলোড করে কোনো ব্যক্তিগত বা লোকাল এনভায়রনমেন্টে চালানো হলে, মূল ডেভেলপারের সেই ইনস্ট্যান্সটি অ্যাক্সেস করার বা নিয়ন্ত্রণ করার কোনো উপায় থাকে না। মডেল ওয়েট (weights) এবং ব্যবহারকারীর ইনফ্রাস্ট্রাকচারের মধ্যে এই বিচ্ছিন্নতা নিরাপত্তার একটি গুরুত্বপূর্ণ স্তর প্রদান করে যা প্রথাগত সফটওয়্যারে নেই।

মডেল নিরাপত্তার প্রযুক্তিগত বাস্তবতা

বিতর্ক চললেও, প্রযুক্তিগত সম্প্রদায় জোর দিয়ে বলছে যে AI-এর "লুকানো" আচরণের ঝুঁকি অত্যন্ত কম। একটি তাত্ত্বিক উদ্বেগ হলো, কোনো কোডিং মডেলকে নির্দিষ্ট কোডবেসে ম্যালওয়্যার ইনজেক্ট করার জন্য প্রশিক্ষণ দেওয়া সম্ভব কি না। অ্যাটকিনস স্বীকার করেছেন যে এটি তাত্ত্বিকভাবে সম্ভব হলেও, এর জন্য প্রকৌশলবিদ্যার এমন "অসাধ্য সাধন" (acrobatic feats) প্রয়োজন যা বর্তমানে অবাস্তব।

তদুপরি, LLM-এর প্রকৃতি হলো সম্ভাব্য (probabilistic) এবং সৃজনশীল, যার ফলে একটি নির্দিষ্ট ক্ষতিকারক প্রতিক্রিয়া ট্রিগার করার জন্য প্রয়োজনীয় "নিখুঁত পরিস্থিতি" (perfect storm) তৈরি হওয়ার সম্ভাবনা খুবই কম। এন্টারপ্রাইজগুলোর জন্য নিরাপত্তা বেশ কয়েকটি মানসম্মত স্তরের মাধ্যমে পরিচালিত হয়:

• Security Testing: বড় সংস্থাগুলো মডেল কোরগুলোকে কঠোর পরিদর্শন প্রক্রিয়ার মধ্য দিয়ে নিয়ে যায়।
• Post-Training: কোম্পানিগুলো নির্দিষ্ট কাজের জন্য মডেলগুলোকে ফাইন-টিউন করে, যা তাদের পক্ষপাত (bias), বিষাক্ততা (toxicity) এবং হ্যালুসিনেশন (hallucinations) নিরীক্ষা করতে সাহায্য করে।
• Model Agnosticism: আধুনিক AI আর্কিটেকচার ক্রমশ মডেল-অ্যাগনস্টিক (model-agnostic) হয়ে উঠছে, যার অর্থ হলো এন্টারপ্রাইজগুলো তাদের পুরো স্ট্যাক পুনরায় ডিজাইন না করেই চীনা মডেলের পরিবর্তে মার্কিন বিকল্প ব্যবহার করতে পারে।

নিয়ন্ত্রণের মাধ্যমে নয়, উদ্ভাবনের মাধ্যমে প্রতিযোগিতা

Arcee, যারা মার্কিন কোম্পানিগুলোকে দেশীয় বিকল্প প্রদানের জন্য ওপেন মডেল তৈরি করে, তারা একটি অনন্য অবস্থানে রয়েছে। যদিও চীনা মডেলের ওপর নিষেধাজ্ঞা তাত্ত্বিকভাবে তাদের ব্যবসার জন্য উপকারী হতে পারে, তবে অ্যাটকিনস যুক্তি দেন যে মনোযোগ নিষেধাজ্ঞা থেকে সরে এসে একটি শক্তিশালী অভ্যন্তরীণ ইকোসিস্টেম গড়ে তোলার দিকে হওয়া উচিত।

মজার ব্যাপার হলো, উচ্চ-ক্ষমতাসম্পন্ন চীনা মডেলগুলোর উত্থান আসলে পশ্চিমের উদ্ভাবনকে ত্বরান্বিত করছে। Arcee এই ওপেন-ওয়েট মডেলগুলো ব্যবহার করে তাদের আর্কিটেকচার এবং সক্ষমতা থেকে শিক্ষা নেয়, যা ক্রমাগত উন্নতির একটি চক্র তৈরি করে। অ্যাটকিনসের মতে, মার্কিন ল্যাবগুলোর প্রতিযোগিতার চূড়ান্ত উপায় নীতি নয়, বরং পারফরম্যান্স: "চীনা মডেলগুলোর সাথে প্রতিযোগিতা করার উপায় হলো এমন একটি মডেল প্রকাশ করা যা আরও উন্নত।"

মূল বিষয়সমূহ

• Isolation-এর মাধ্যমে নিরাপত্তা: একবার ওপেন-ওয়েট মডেলগুলো একটি ব্যক্তিগত ডেটা সেন্টারে স্থাপন করা হলে, মূল ডেভেলপারদের সেই লোকাল এনভায়রনমেন্ট অ্যাক্সেস করার বা পরিবর্তন করার কোনো উপায় থাকে না।
• তাত্ত্বিক বনাম ব্যবহারিক ঝুঁকি: যদিও ক্ষতিকারক কোড ইনজেকশনের জন্য "লুকানো ট্রেনিং" তাত্ত্বিকভাবে সম্ভব, তবুও বর্তমান LLM আর্কিটেকচারে এটি অত্যন্ত জটিল এবং অসম্ভব একটি কাজ।
• প্রতিযোগিতার মাধ্যমে উদ্ভাবন: নিষেধাজ্ঞা আরোপ করার পরিবর্তে, মার্কিন AI খাত চীনের উচ্চ-ক্ষমতাসম্পন্ন ওপেন-ওয়েট মডেলগুলোর মাধ্যমে সৃষ্ট প্রতিযোগিতামূলক চাপ এবং জ্ঞান বিনিময়ের সুবিধা নিতে পারে।