𝗔𝗜 𝗗𝗼𝗲𝘀 𝗡𝗼𝘁 𝗥𝗲𝗽𝗹𝗮𝗰𝗲 𝗝𝘂𝗱𝗴𝗺𝗲𝗻𝘁

AI মানুষের বিচারবুদ্ধিকে প্রতিস্থাপন করে না

আর্থিক গবেষণা এবং ঝুঁকি পর্যবেক্ষণে AI-এর ব্যবহার বৃদ্ধি পাচ্ছে।

ডেভেলপাররা একটি নির্দিষ্ট চ্যালেঞ্জের সম্মুখীন হন। সমস্যাটি AI ডেটা প্রসেস করতে পারে কি না তা নিয়ে নয়। এটি পারে। আসল সমস্যা হলো ব্যবহারকারীরা মডেলটি কী জানে না তা বুঝতে পারে কি না।

বাজারে অনিশ্চয়তা পরিবেশের একটি অংশ। একটি মডেল পুরনো ডেটার মধ্যে প্যাটার্ন খুঁজে পায়। ভবিষ্যৎ অতীতের মতো হবে এমন কোনো প্রতিশ্রুতি এটি দিতে পারে না। AI-কে মানুষের বিচারবুদ্ধিকে সহায়তা করতে হবে, প্রতিস্থাপন করতে নয়।

আর্থিক ডেটা প্রতিনিয়ত পরিবর্তিত হয়। সুদের হার পরিবর্তিত হয়। তারল্য (Liquidity) পরিবর্তিত হয়। পারস্পরিক সম্পর্ক (Correlations) ভেঙে যায়। একটি নির্দিষ্ট বাজার পরিবেশে প্রশিক্ষিত একটি মডেল প্রায়শই পরবর্তী পরিবেশে ব্যর্থ হয়।

ডেভেলপারদের মনে রাখতে হবে: মডেলের নির্ভুলতা কখনোই স্থায়ী নয়। আপনি একবার একটি মডেল ডেপ্লয় (deploy) করে সেটি চিরকাল কাজ করবে এমন আশা করতে পারেন না। আপনার প্রয়োজন নিরবচ্ছিন্ন পর্যবেক্ষণ এবং যাচাইকরণ (validation)।

পূর্বাভাস (Prediction) মানেই ঝুঁকি ব্যবস্থাপনা নয়।

অনেকেই পূর্বাভাসকে চূড়ান্ত লক্ষ্য হিসেবে বিবেচনা করেন। এটি একটি ভুল। একটি ভালো সিস্টেমের অবশ্যই জিজ্ঞাসা করা উচিত: এই পূর্বাভাসটি ভুল হলে কী হবে?

শক্তিশালী ইঞ্জিনিয়ারিং মানে হলো ব্যর্থতার কথা মাথায় রেখে ডিজাইন করা। সিস্টেমের উচিত অনিশ্চয়তা প্রদর্শন করা। গণিতকে সত্য বলে ভুল করার হাত থেকে ব্যবহারকারীদের রক্ষা করা উচিত তাদের।

নির্ভুলতা মানেই সত্য নয়।

অস্থিরতা (volatility) কম হওয়ার কারণে একটি মডেল কম ঝুঁকির স্কোর দেখাতে পারে। কিন্তু যদি তারল্য (liquidity) কম থাকে, তবে সেই সংকেতটি অসম্পূর্ণ। মানুষ প্রয়োজনীয় প্রেক্ষাপট (context) প্রদান করে। AI-এর উচিত প্রতিটি উত্তরের পেছনের অনুমান (assumptions) এবং ঝুঁকিগুলো প্রদর্শন করা।

আর্থিক AI টুল তৈরির সময় এই চেকলিস্টটি ব্যবহার করুন:

• ডেটার গুণমান (Data quality): ডেটা কি পরিচ্ছন্ন এবং সময়োপযোগী?
• ডেটা বায়াস (Data bias): ট্রেনিং ডেটা কি কোনো নির্দিষ্ট সময়ের প্রতি পক্ষপাতদুষ্ট?
• মডেল ড্রিফট (Model drift): লঞ্চ করার পর আপনি কি পারফরম্যান্স পর্যবেক্ষণ করেন?
• ব্যাখ্যামূলক ক্ষমতা (Explainability): ব্যবহারকারীরা কি দেখতে পারেন কেন মডেলটি একটি উত্তর দিয়েছে?
• স্ট্রেস টেস্টিং (Stress testing): বাজার ধসে পড়ার সময় সিস্টেমটি কীভাবে কাজ করে?
• ঝুঁকি যোগাযোগ (Risk communication): UI কি অনিশ্চয়তা স্পষ্টভাবে দেখায়?
• মানুষের মাধ্যমে পর্যালোচনা (Human review): সিদ্ধান্ত নেওয়ার আগে বিশেষজ্ঞরা কি আউটপুট পরীক্ষা করেন?

ভালো AI-এর উচিত অতিরিক্ত আত্মবিশ্বাস কমিয়ে আনা। এটি ব্যবহারকারীদের বুঝতে সাহায্য করা উচিত যে কোথায় অনুমানগুলো দুর্বল। এটি প্রশ্নের মান উন্নত করা উচিত।

AI কোনো ওরাকল (oracle) নয়। এটি একটি গবেষণা সহকারী।

এটি দ্রুত ডেটা প্রসেস করতে পারে। কিন্তু এটি ফলাফল বা নৈতিকতার দায়ভার নিতে পারে না। সেই দায়ভার আপনার ওপরই থাকে।

এমন সিস্টেম তৈরি করুন যা মানুষকে অনিশ্চয়তা বুঝতে সাহায্য করে। এভাবেই AI কার্যকর হয়ে ওঠে।

উৎস: https://dev.to/profdrgustavohenriquevalente/ai-does-not-replace-judgment-a-developers-view-of-financial-model-risk-ce1

ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi