OpenAI-এর এথিক্স প্রধান মাত্র এক বছরের মাথায় পদত্যাগ করেছেন, যা Financial Times-এর একটি প্রতিবেদনে প্রকাশিত হয়েছে। এই ঘটনাটি ল্যাবের অভ্যন্তরীণ নিরাপত্তা যাচাই প্রক্রিয়া নিয়ে পুনরায় সন্দেহ জাগিয়ে তুলেছে। এই পদত্যাগটি গুরুত্বপূর্ণ কারণ এই ভূমিকাটি মূলত কোম্পানির ঝুঁকিপূর্ণ ডিপ্লয়মেন্ট বা প্রয়োগের ক্ষেত্রে একটি অভ্যন্তরীণ নিয়ন্ত্রণ ব্যবস্থা হিসেবে কাজ করার কথা, এবং এই পদের আকস্মিক শূন্যতা ইঙ্গিত দেয় যে সেই নিয়ন্ত্রণ ব্যবস্থাটি হয়তো অনুপস্থিত।

প্রস্থানের একটি ধারা

এই পদত্যাগ কোনো বিচ্ছিন্ন ঘটনা নয়। গত দুই বছরে OpenAI নিরাপত্তা-কেন্দ্রিক বেশ কিছু কর্মী হারিয়েছে। ২০২৪ সালে Superalignment টিমের বেশ কয়েকজন সদস্য চলে যান। এর আগে, ২০২৩ সালে শাসনতান্ত্রিক বিশৃঙ্খলার সময় বোর্ডের সদস্যদের সরিয়ে দেওয়া হয়েছিল। বারবার ফিরে আসা বিষয়টি একই: গবেষকরা প্রযুক্তিটিকে সুরক্ষিত করার জন্য যোগ দেন, তারপর বাধার সম্মুখীন হন এবং চলে যান।

এই পদের কাজ কী ছিল

এথিক্স প্রধান ডিপ্লয়মেন্ট সংক্রান্ত সিদ্ধান্ত, ডেটা হ্যান্ডলিং পদ্ধতি এবং সম্ভাব্য ক্ষতিকারক সক্ষমতাগুলোর অভ্যন্তরীণ যাচাইকরণ তদারকি করেন। যখন সেই পদে থাকা ব্যক্তি দ্রুত চলে যান, তখন প্রশ্ন ওঠে যে সেই পদের প্রকৃত কর্তৃত্ব আদৌ ছিল কি না।

কর্মী পরিবর্তনের সম্ভাব্য কারণসমূহ

  • রিলিজ বন্ধ করার সীমিত ক্ষমতা – যদি এই পদের মাধ্যমে কোনো প্রোডাক্ট টিমকে লঞ্চ বা প্রকাশ বন্ধ করতে বাধ্য করা না যায়, তবে এই পদটি কার্যকরী হওয়ার পরিবর্তে কেবল প্রতীকী হয়ে পড়ে।
  • নিরাপত্তার চেয়ে গতির ওপর চাপ – অন্যান্য এআই জায়ান্টদের সাথে প্রতিযোগিতার কারণে এমন একটি পরিবেশ তৈরি হয় যেখানে পুঙ্খানুপুঙ্খ ঝুঁকি মূল্যায়নের চেয়ে দ্রুত ফিচার বা বৈশিষ্ট্য পৌঁছে দেওয়ার ওপর বেশি গুরুত্ব দেওয়া হয়।
  • নিরাপত্তা কাজের চেয়ে বাণিজ্যিক অগ্রাধিকারের প্রাধান্য – নেতৃত্ব হয়তো রাজস্ব উৎপাদনকারী প্রকল্পগুলোকে বেশি প্রাধান্য দেয়, যার ফলে নিরাপত্তা দলগুলো জনবল সংকট ও অতিরিক্ত কাজের চাপে পড়ে।
  • ক্রমাগত ঘর্ষণের ফলে ক্লান্তি – নিরাপত্তা কর্মী এবং প্রোডাক্ট ইঞ্জিনিয়ারদের মধ্যে বারবার সংঘর্ষ এমনকি সবচেয়ে প্রতিশ্রুতিবদ্ধ গবেষকদেরও মানসিকভাবে বিপর্যস্ত করে তুলতে পারে।

এই বিষয়গুলো শিল্পের একটি বৃহত্তর উত্তেজনার প্রতিফলন ঘটায়: ল্যাবগুলো তাদের পুরস্কৃত করে যারা নতুন সক্ষমতা নিয়ে আসে, অন্যদিকে যারা বিপদ চিহ্নিত করে তাদের অনেক সময় বাধা হিসেবে দেখা হয়।

পাল্টা যুক্তি: অভ্যন্তরীণ সুরক্ষা ব্যবস্থা এখনও থাকতে পারে

OpenAI তাদের এথিক্স প্রধানের কর্তৃত্ব সম্পর্কে জনসমক্ষে বিস্তারিত কিছু জানায়নি এবং পদত্যাগ নিয়ে কোম্পানিটি কোনো বিবৃতিও দেয়নি। এটি সম্ভব যে অন্যান্য অভ্যন্তরীণ ব্যবস্থা—যেমন ক্রস-ফাংশনাল নিরাপত্তা পর্যালোচনা বা বাহ্যিক উপদেষ্টা বোর্ড—এখনও কাজ করছে। তবে তাদের কার্যকারিতার কোনো সুনির্দিষ্ট প্রমাণ না থাকায়, এই শূন্যতা একটি উল্লেখযোগ্য ঘাটতি তৈরি করে।

OpenAI-এর বাইরেও এই প্রস্থানের গুরুত্ব কেন

যদি একটি মুনাফাভিত্তিক এআই ল্যাব এক বছরের বেশি সময় ধরে একজন এথিক্স লিড ধরে রাখতে না পারে, তবে বাণিজ্যিক প্রতিষ্ঠানের ভেতরে নিরাপত্তা বিশেষজ্ঞদের অন্তর্ভুক্ত করার মডেলটি ভঙ্গুর বলে মনে হয়। নিরাপদ এআই তৈরির অঙ্গীকার নিয়ে প্রতিষ্ঠিত Anthropic-ও একই ধরনের চাপের কথা জানিয়েছে, এমনকি বিশাল সম্পদের অধিকারী বড় কোম্পানিগুলোও এথিক্স ইউনিট এবং প্রোডাক্ট গ্রুপের মধ্যে ঘর্ষণের কথা নথিভুক্ত করেছে।

কোন বিষয়গুলো এই পরিস্থিতি পরিবর্তন করতে পারে

  • নিয়ন্ত্রক ক্ষমতা সম্পন্ন স্বতন্ত্র অডিটর – এমন বাহ্যিক সংস্থা যারা কেবল অভ্যন্তরীণ সদিচ্ছার ওপর নির্ভর না করে নিয়ম মেনে চলার বিষয়টি কার্যকর করতে পারে।
  • আইনত বাধ্যতামূলক নিরাপত্তা মূল্যায়ন – এমন নিয়ম যা কোনো নতুন মডেল প্রকাশের আগে নথিভুক্ত ঝুঁকি বিশ্লেষণ বাধ্যতামূলক করে।
  • হুইসেলব্লোয়ারদের জন্য আরও শক্তিশালী সুরক্ষা – এমন সুরক্ষা ব্যবস্থা যা কর্মীদের প্রতিশোধের ভয় ছাড়াই উদ্বেগ প্রকাশ করতে সাহায্য করে।
  • নিরাপত্তা সংক্রান্ত সতর্কবার্তা জনসমক্ষে প্রকাশ করা – স্বচ্ছতা যা বাহ্যিক বিশেষজ্ঞ এবং সাধারণ মানুষকে দেখতে সাহায্য করবে যে কী কী ঝুঁকি চিহ্নিত করা হয়েছে।
  • মুনাফার উদ্দেশ্য ছাড়াই নিরাপত্তা গবেষণায় অর্থায়ন – অনুদান বা সরকারি অর্থায়ন যা নিরাপত্তা কাজকে প্রোডাক্টের ডেডলাইনের প্রভাব থেকে মুক্ত রাখবে।

পরবর্তী পর্যবেক্ষণ

যখন একজন এথিক্স লিডার এক বছরের বেশি সময় থাকতে পারেন না, তখন মূল কাঠামোটি প্রশ্নবিদ্ধ হয়। পণ্যের উচ্চাকাঙ্ক্ষা এবং নিরাপত্তার দায়িত্বের মধ্যে ক্ষমতার ভারসাম্য পুনর্গঠিত না হওয়া পর্যন্ত, মেধাবীদের হারানোর এই চক্রটি সম্ভবত চলতে থাকবে। আগামী কয়েক মাস দেখাবে যে OpenAI—এবং বৃহত্তর এআই কমিউনিটি—এই ধারাটি ভাঙতে পারে কি না।