কেন আপনার AI কনফিডেন্স স্কোর মিথ্যা বলছে
আপনি আপনার মডেলটি প্রশিক্ষণ দিয়েছেন। মেট্রিক্সগুলো দারুণ দেখাচ্ছিল। আপনি এটি ডেপ্লয় করেছেন।
ছয় মাস পর, কিছু একটা ভুল হচ্ছে। আপনার অ্যাকুরেসি ড্যাশবোর্ড ঠিক দেখাচ্ছে, কিন্তু মডেলটি ব্যর্থ হচ্ছে।
এটি ঘটে ডিস্ট্রিবিউশন শিফট (distribution shift)-এর কারণে। প্রোডাকশনে থাকা ডেটা আপনার ট্রেনিং ডেটা থেকে আলাদা। এই শিফট ক্যালিব্রেশন (calibration) নষ্ট করে দেয়।
আপনি যদি Mixture-of-Experts (MoE) আর্কিটেকচার