AI গভর্নেন্স ফ্রেমওয়ার্কগুলো পড়ার জন্য চমৎকার। এগুলো ভূমিকা নির্ধারণ করে, নীতিমালা তালিকাভুক্ত করে এবং রিভিউ বোর্ডগুলোর রূপরেখা তৈরি করে। কিন্তু একটি ফ্রেমওয়ার্ক তখনই অকার্যকর হয়ে পড়ে যখন কোনো কর্মচারী গ্রাহকের মতামত (feedback) একটি পাবলিক চ্যাটবটে পেস্ট করেন, অথবা যখন একটি ব্যাকএন্ড API নিঃশব্দে ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য (personally identifiable information) কোনো এক্সটার্নাল মডেলে পাঠিয়ে দেয়। গভর্নেন্সের আসল কাজ কোনো কমিটির কক্ষে হয় না। এটি হয় অ্যাক্সেস পাথে (access path)। এটি ঠিক সেই বিন্দু যেখানে একজন ব্যক্তি, অ্যাপ্লিকেশন বা API এন্ডপয়েন্ট প্রথম একটি AI মডেলের সংস্পর্শে আসে। আপনি যদি সেখানে আপনার নিয়মগুলো কার্যকর করতে না পারেন, তবে আপনার কাছে গভর্নেন্স নেই; আপনার কাছে আছে কেবল একটি ইচ্ছার তালিকা (wish list)।
ফ্রেমওয়ার্ক এবং বাস্তবতার মধ্যকার ব্যবধান
বেশিরভাগ প্রতিষ্ঠান গত দুই বছর ধরে AI কাউন্সিল গঠন, গ্রহণযোগ্য-ব্যবহারের নীতিমালা (acceptable-use policies) তৈরি এবং কর্মীদের প্রশিক্ষণ দেওয়ার পেছনে ব্যয় করেছে। এই প্রচেষ্টাগুলো গুরুত্বপূর্ণ। এগুলো প্রত্যাশা তৈরি করে। তবে, এগুলো তা দেখতে পায় না যে মঙ্গলবার বিকেলের একটি কোডিং সেশনের সময় একজন ডেভেলপার সময় বাঁচাতে একটি আনসেন্সরড ব্রাউজার এক্সটেনশনের মাধ্যমে প্রোপাইটরি সোর্স কোড পাঠিয়ে দিচ্ছেন। ফ্রেমওয়ার্কগুলো থাকে নথিপত্রে। কাজ চলে টার্মিনাল, ব্রাউজার এবং API কলের মাধ্যমে।
এর ফলাফল হলো একটি নিশ্চিত অন্ধবিন্দু (blind spot)। নেতৃত্ব বিশ্বাস করে যে AI ব্যবহার নিয়ন্ত্রিত কারণ নীতিমালায় তাই বলা আছে, অথচ অপারেশনাল কার্যক্রম ভিন্ন গল্প বলে। এই বিচ্ছিন্নতা অত্যন্ত ব্যয়বহুল। কোনো মাস্ক না করা স্বাস্থ্য রেকর্ড বা প্রকাশ না করা আর্থিক তথ্য সম্বলিত একটি মাত্র প্রম্পট কমপ্লায়েন্স লঙ্ঘন, রেগুলেটরি তদন্ত, অথবা এমন ধরনের জনসমক্ষে আসা ঘটনার কারণ হতে পারে যা কোনো ক্ষমা প্রার্থনার মাধ্যমেও ঠিক করা সম্ভব নয়। অপব্যবহার শনাক্ত করার জন্য অডিট বা নিরীক্ষার অপেক্ষায় থাকা মানে অনেক দেরি করে ফেলা। প্রকৃত গভর্নেন্সের জন্য কেবল কাগজপত্রের নয়, বরং মিথস্ক্রিয়া বা ইন্টারঅ্যাকশনের (interaction) ওপর নজরদারি বা ভিজিবিলিটি প্রয়োজন।
অ্যাক্সেস পাথ (Access Path) আসলে কী বোঝায়
অ্যাক্সেস পাথ কোনো বিমূর্ত ধারণা নয়। এটি হলো সেই সুনির্দিষ্ট মুহূর্ত যখন একটি রিকোয়েস্ট আপনার এনভায়রনমেন্ট থেকে বেরিয়ে একটি AI মডেলের দিকে অগ্রসর হয়। সেই রিকোয়েস্টটি অনুমোদিত একটি ওয়েব ইন্টারফেস ব্যবহারকারী একজন মার্কেটিং ম্যানেজার, কর্মীদের প্রশ্নের উত্তর দেওয়া একটি Slack বট, অথবা সাপোর্ট টিকিট সামারি করার জন্য API কল করা একটি মাইক্রোসার্ভিস থেকে আসতে পারে। প্রতিটি পথের নিজস্ব ঝুঁকি রয়েছে এবং প্রত্যেকের জন্য নিজস্ব গার্ডরেইলস (guardrails) প্রয়োজন।
এই প্রান্তে কোনো কন্ট্রোল পয়েন্ট না থাকলে, আপনার প্রতিষ্ঠানের পক্ষে একজন কর্মচারী যে একটি অভ্যন্তরীণ ইমেল পুনরায় লেখার জন্য মডেলকে বলছেন এবং একজন কর্মচারী যে অ্যাকাউন্ট নম্বর ভর্তি একটি স্প্রেডশিট আপলোড করছেন—এই দুটির মধ্যে পার্থক্য করার কোনো উপায় থাকবে না। উভয়ই ট্র্যাফিকের মতো দেখায়। কেবল একটিকেই অগ্রসর হওয়ার অনুমতি দেওয়া উচিত। যতক্ষণ না আপনি এই সীমানাটি নিয়ন্ত্রণ করছেন, ততক্ষণ আপনার সরাসরি নিয়ন্ত্রণের বাইরে থাকা প্রতিটি AI মডেল মূলত একটি অন্ধকার সুড়ঙ্গের মতো, যেখান দিয়ে তথ্য কোনো কিছু না বুঝে বেরিয়ে যেতে পারে।
আর্কিটেকচারকে যে নয়টি প্রশ্নের উত্তর দিতে হবে
কোনো প্রম্পট মডেলে পৌঁছানোর আগে, আপনার সিস্টেমকে অবশ্যই নয়টি নির্দিষ্ট প্রশ্নের উত্তর দিতে সক্ষম হতে হবে। শুরু করুন আইডেন্টিটি (identity) এবং ইনটেন্ট (intent) দিয়ে। রিকোয়েস্টটি কে পাঠাচ্ছে? এর ব্যবসায়িক ব্যবহারিক ক্ষেত্র (business use case) কী? কোন বিভাগ বা সিস্টেম এর মালিক? এই তিনটি বিষয় নির্ধারণ করে যে মিথস্ক্রিয়াটি বৈধ এবং অনুসরণযোগ্য কি না।
এরপর আসে ডেটা এবং মডেলের নিরাপত্তা। প্রম্পটে কী ডেটা যাচ্ছে? কোন AI মডেল এটি প্রসেস করবে? সেই নির্দিষ্ট মডেলটি কি এই নির্দিষ্ট কাজের জন্য অনুমোদিত? আপনার এনভায়রনমেন্ট থেকে ডেটা বের হওয়ার আগে কি সংবেদনশীল ডেটা মাস্ক বা ব্লক করা প্রয়োজন?
সবশেষে আসে অপারেশনাল অ্যাকাউন্টেবিলিটি (operational accountability)। আপনি কি অ্যাক্সেসটি রেকর্ড করেছেন