সরকারের কখন AI মডেল নিয়ন্ত্রণ করা উচিত?

Anthropic সম্প্রতি একটি বড় সমস্যার সম্মুখীন হয়েছে। মার্কিন সরকার তাদের Fable 5 এবং Mythos 5 মডেলগুলো বিদেশি নাগরিকদের ব্যবহার করতে বাধা দেওয়ার জন্য একটি নির্দেশিকা জারি করেছে। আইন মেনে চলার জন্য, Anthropic সকল গ্রাহকদের জন্য অ্যাক্সেস বন্ধ করে দিয়েছে।

এটি একটি বিশাল পরিবর্তন।

Frontier AI আর কেবল সফটওয়্যার নয়। এটি কৌশলগত অবকাঠামো (strategic infrastructure) হয়ে উঠছে। যখন সফটওয়্যার অবকাঠামোতে পরিণত হয়, তখন সরকার হস্তক্ষেপ করে।

আমরা প্রায়ই AI-কে চ্যাটবট বা ইমেজ জেনারেটরের মতো একটি পণ্যের বিভাগ হিসেবে বিবেচনা করি। কিন্তু আসল পরিবর্তনটি ঘটছে এর গভীরে। আধুনিক AI সিস্টেমগুলো কোড লিখতে পারে, সিকিউরিটি হোল খুঁজে বের করতে পারে এবং ওয়ার্কফ্লো পরিচালনা করতে পারে। এগুলো আধা-স্বয়ংক্রিয়ভাবে (semi-autonomously) কাজ করে।

এটি ঝুঁকির ধরন বদলে দিচ্ছে। একটি সাধারণ অ্যাপ নিয়ন্ত্রণ করা সহজ। কিন্তু একটি সিস্টেম যা সাইবার হামলা স্বয়ংক্রিয়ভাবে করতে পারে, তা জাতীয় নিরাপত্তা অবকাঠামোর মতো দেখায়।

নিয়ন্ত্রণের পক্ষে যুক্তি

যদি কোনো মডেল বায়োসিকিউরিটি ঝুঁকি, জালিয়াতি বা গণ-নজরদারির গতি বাড়িয়ে দেয়, তবে অবাধ অ্যাক্সেস ঝুঁকিপূর্ণ। প্রকৌশলীরা ইতিমধ্যেই রাসায়নিক, সামরিক সরঞ্জাম এবং গুরুত্বপূর্ণ অবকাঠামোর ক্ষেত্রে সীমাবদ্ধতা মেনে চলেন। যদি AI হুমকির প্রেক্ষাপট বদলে দেয়, তবে অ্যাক্সেস কন্ট্রোল বা প্রবেশাধিকার নিয়ন্ত্রণ করা যুক্তিযুক্ত।

অতিরিক্ত নিয়ন্ত্রণের বিপক্ষে যুক্তি

সরকারি নিয়ন্ত্রণ স্থূল এবং রাজনৈতিক হতে পারে। আকস্মিক বিধিনিষেধ গবেষক, স্টার্টআপ এবং প্রকৌশলীদের ক্ষতি করে। এটি প্রতিযোগিতার ক্ষেত্রেও সমস্যা তৈরি করে। যদি কেবল বড় কোম্পানিগুলোই জটিল নিয়ম মেনে চলার সামর্থ্য রাখে, তবে আমরা কেন্দ্রীকরণ (centralization) দেখতে পাব। কেন্দ্রীকরণ মানে কম অডিট এবং কম স্থিতিস্থাপকতা (resilience)।

সমাধান: সক্ষমতা-ভিত্তিক নিয়মাবলী

আমাদের হাইপ বা জনপ্রিয়তার ভিত্তিতে মডেলগুলোকে সীমাবদ্ধ করা উচিত নয়। আমাদের উচিত সেগুলো কী করতে সক্ষম তার ভিত্তিতে সীমাবদ্ধ করা।

এই প্রশ্নগুলো করুন:

  • এটি কি সিকিউরিটি হোল খুঁজে বের করতে এবং সেগুলো ব্যবহার করতে পারে?
  • এটি কি অদক্ষদের জন্য ক্ষতিকারক কাজ সম্পন্ন করতে পারে?
  • এটি কি তদারকি ছাড়াই বিভিন্ন সিস্টেমের টুলস পরিচালনা করতে পারে?
  • এটি কি চাপের মুখে সেফটি গার্ড বা সুরক্ষা ব্যবস্থা এড়িয়ে যেতে পারে?

প্রকৌশলীদের অবশ্যই এই আলোচনার নেতৃত্ব দিতে হবে। নীতি কেবল বিমূর্ত আইন হতে পারে না। এর জন্য মডেলের সক্ষমতা, টুলের অ্যাক্সেস এবং ব্যবহারের প্রেক্ষাপট সম্পর্কে প্রযুক্তিগত জ্ঞানের প্রয়োজন।

আসল লড়াইয়ের ক্ষেত্র: অ্যাক্সেস কন্ট্রোল

AI নিরাপত্তা কেবল মডেল ওয়েট (model weights) নিয়ে নয়। এটি অ্যাক্সেস কন্ট্রোল বা প্রবেশাধিকার নিয়ন্ত্রণ নিয়ে।

কে সিস্টেমটি ব্যবহার করতে পারে? এটি একটি ধ্রুপদী ইঞ্জিনিয়ারিং সমস্যা। একটি ন্যাচারাল ল্যাঙ্গুয়েজ প্রম্পট অনেক সিস্টেমের মধ্যে কাজ শুরু করতে পারে। পারমিশন বা অনুমতি অবশ্যই অবকাঠামোর অংশ হতে হবে, এটি পরে ভাবার বিষয় হতে পারে না। একটি দুর্বল প্রোডাক্ট শেলের ভেতরে একটি শক্তিশালী মডেল থাকা বিপজ্জনক।

আমার মতামত

AI নিষিদ্ধ করা টেকসই নয়। নিয়ম ছাড়া সবকিছু উন্মুক্ত করে দেওয়া দায়িত্বজ্ঞানহীন।

হস্তক্ষেপ তখনই যুক্তিযুক্ত যখন তিনটি বিষয় মিলে যায়:

  • উচ্চ সক্ষমতা
  • অপব্যবহারের উচ্চ সম্ভাবনা
  • কম জবাবদিহিতা

লক্ষ্য হলো উদ্ভাবনকে থামিয়ে না দিয়ে বিপর্যয় রোধ করা।

AI-এর জন্য নিয়ম তৈরির আগেই এটি অবকাঠামো হয়ে উঠছে। সিস্টেম ডিজাইনে আপনার নেওয়া সিদ্ধান্তগুলো—যেমন পারমিশন, লগিং এবং মানুষের অনুমোদন—পৃথিবী কীভাবে AI শাসন করবে তা নির্ধারণ করবে।

AI নিয়ন্ত্রণের ভবিষ্যৎ অবকাঠামোর মাধ্যমেই লেখা হবে।

Source: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

Optional learning community: https://t.me/GyaanSetuAi