২৭২ জন বিশেষজ্ঞ ঝুঁকির কথা জানিয়েছেন। কিন্তু কেউ এর কারণ বা প্রক্রিয়া (mechanisms) চিহ্নিত করেননি।

এমআইটি (MIT)-র একটি গবেষণায় ২৭২ জন বিশ্বব্যাপী বিশেষজ্ঞের মতামত নেওয়া হয়েছে। তারা এআই (AI) ঝুঁকিগুলো নিয়ে পর্যালোচনা করেছেন। ফলাফলগুলো অত্যন্ত স্পষ্ট।

২৪টি এআই ঝুঁকি এলাকার মধ্যে ১৮টিতে আগামী পাঁচ বছরের মধ্যে অন্তত ১০% বিপর্যয়কর ফলাফলের সম্ভাবনা রয়েছে।

এই প্রেক্ষাপটে, বিপর্যয় বলতে বোঝায়:

  • ১০ লক্ষাধিক মৃত্যু।
  • ১০০ বিলিয়ন ডলারের বেশি ক্ষয়ক্ষতি।
  • গণতান্ত্রিক রীতিনীতির পতন।

সবচেয়ে বড় ঝুঁকিগুলো হলো বিপজ্জনক সক্ষমতা, প্রতিযোগিতামূলক গতিশীলতা, অস্ত্র, ক্ষমতার কেন্দ্রীকরণ এবং ভুল তথ্য।

গবেষণাটি একটি দায়িত্বের ঘাটতি (responsibility gap) প্রকাশ করেছে। এআই ঝুঁকির ফলে যারা ক্ষতিগ্রস্ত হন তারা হলেন সাধারণ মানুষ। আর যারা এই ঝুঁকিগুলো সমাধান করতে পারেন তারা হলেন ডেভেলপার এবং নিয়ন্ত্রক সংস্থা। বিমান চলাচল বা পারমাণবিক শক্তির মতো অন্যান্য শিল্পে, আমরা এই ঘাটতি পূরণে বাধ্যতামূলক মানদণ্ড এবং দায়বদ্ধতা ব্যবহার করি। এআই-এর ক্ষেত্রে এই প্রক্রিয়াগুলো (mechanisms) এখনও বিদ্যমান নেই।

এর চেয়েও গভীর একটি ঘাটতি রয়েছে। এটি হলো সেই গবেষকদের মধ্যে যারা ব্যর্থতার পূর্বাভাস দেন এবং সেই ইঞ্জিনিয়ারদের মধ্যে যারা সিস্টেমগুলো তৈরি করেন।

গবেষকরা গবেষণাপত্র লেখেন। ইঞ্জিনিয়াররা ব্লগ পোস্ট এবং বেঞ্চমার্ক পড়েন। তাদের কাজের ভাষা এক নয়। একজন ইঞ্জিনিয়ার দেখেন পারফরম্যান্সের উন্নতি। একজন গবেষক দেখেন একটি বিপর্যয়কর ঝুঁকি। তাদের মধ্যে কোনো যোগসূত্র নেই।

গবেষণাটি ঝুঁকির কথা উল্লেখ করেছে, কিন্তু সেই ঝুঁকির কারণ হিসেবে যে প্রকৌশলগত ব্যর্থতাগুলো (engineering failures) কাজ করে, সেগুলোর নাম উল্লেখ করেনি।

উদাহরণস্বরূপ:

  • মাল্টি-এজেন্ট ঝুঁকি (Multi-agent risks): শেয়ার্ড প্রোটোকলের অভাবে সিস্টেমের মধ্যে সংঘর্ষ বা সংঘাত ঘটে।
  • প্রতিযোগিতামূলক গতিশীলতা (Competitive dynamics): দ্রুত পণ্য বাজারে আনার তাড়নায় দলগুলো স্বাধীন যাচাইকরণ (independent verification) এড়িয়ে যায়। পরিবর্তে তারা সেলফ-ভেরিফিকেশন ব্যবহার করে, যা দ্রুত হলেও অনিরাপদ।
  • নিরাপত্তা ঝুঁকি (Security vulnerabilities): দলগুলো কোড স্ক্যান করার জন্য LLM ব্যবহার করে, কিন্তু তারা কনফিগারেশন এবং অবকাঠামোগত ঝুঁকিগুলো এড়িয়ে যায়।

একটি স্থিতিশীল সিস্টেমের পাঁচটি অংশ প্রয়োজন:

  • একটি টুল (মডেল)।
  • একটি ইঞ্জিন (ঘোষিত উদ্দেশ্য)।
  • একটি ট্রান্সমিশন (contracts এবং CI/CD)।
  • একটি কন্ট্রোল ইউনিট (একটি স্বাধীন oracle)।
  • একটি কেসিং (প্রয়োগকৃত সীমানা)।

বেশিরভাগ এআই সিস্টেমে কন্ট্রোল ইউনিট এবং কেসিংয়ের অভাব রয়েছে। তারা স্বেচ্ছাসেবী গার্ডরেল (voluntary guardrails)-এর ওপর নির্ভর করে। মডেলগুলো উন্নত হওয়ার সাথে সাথে এই গার্ডরেলগুলো প্রায়ই অকার্যকর হয়ে পড়ে।

শিল্পখাত ১০% বিপর্যয়কর হওয়ার সম্ভাবনাকে একটি গ্রহণযোগ্য ঝুঁকি হিসেবে বিবেচনা করে। কিন্তু এটি গ্রহণযোগ্য নয়। ডেভেলপারদের স্বেচ্ছামূলক পদক্ষেপ যথেষ্ট নয়। প্রতিযোগিতা নিরাপত্তার ধাপগুলো এড়িয়ে যাওয়ার একটি প্রবণতা তৈরি করে।

আমাদের কেবল পরামর্শ নয়, বরং যান্ত্রিক প্রয়োগ বা বাধ্যবাধকতা (mechanical enforcement) প্রয়োজন। পূর্বাভাসিত ব্যর্থতা ঘটার আগেই ঝুঁকি সংক্রান্ত গবেষণা এবং প্রকৌশলগত প্রয়োগের মধ্যে ব্যবধান কমিয়ে আনা প্রয়োজন।

Source: https://dev.to/bala_paranj_059d338e44e7e/272-experts-named-the-risks-nobody-named-the-mechanisms-4jb

Optional learning community: https://t.me/GyaanSetuAi