Most banking AI projects fail for a reason that has nothing to do with model quality. Leadership teams burn months comparing parameter counts and benchmark scores while a quieter threat erodes everything they build. They treat model size as the victory condition. It is not. In the regulated, multi-step workflows that dominate finance, accuracy does not multiply. It decays. Fixate on the single-step score, and you will be blindsided by the system-wide failure.
আসল সমস্যা মডেলের আকার নয়
এখানে সেই হিসাবটি দেওয়া হলো যা রিস্ক অফিসারদের দুশ্চিন্তায় রাখে। একটি পাইপলাইনের কথা কল্পনা করুন যেখানে ছয়টি স্বতন্ত্র ধাপ রয়েছে—ডেটা এক্সট্রাকশন, ভ্যালিডেশন, রিস্ক স্কোরিং, কমপ্লায়েন্স চেক, ডকুমেন্ট জেনারেশন এবং চূড়ান্ত অনুমোদন। প্রতিটি ধাপ আলাদাভাবে কাজ করলে ৯৭ শতাংশ নির্ভুলতা অর্জন করে। সহজাত প্রবৃত্তি বলে এটি উদযাপন করার সময়। কিন্তু সম্ভাবনা বা প্রোবাবিলিটি সহজাত ধারণার মতো চলে না। এই ধাপগুলোকে একত্রে যুক্ত করলে এন্ড-টু-এন্ড নির্ভরযোগ্যতা কমে প্রায় ৮৩ শতাংশে নেমে আসে।
স্থানীয় নিখুঁততা এবং সামগ্রিক ব্যর্থতার মধ্যবর্তী এই ব্যবধানটিই হলো AI Coordination Gap। এটি হলো এজেন্ট, সফটওয়্যার টুল এবং হিউম্যান রিভিউয়ারদের মধ্যে কাজের হস্তান্তরের (handoff) সময় যে বাধা বা ঘর্ষণ তৈরি হয়। রেগুলেটররা ইতিমধ্যেই এই সুনির্দিষ্ট দুর্বলতাটি খুঁজছেন। আপনার ইঞ্জিনিয়ারিং টিম তাদের পোস্ট-মর্টেম শেষ করার আগেই তারা এটি শনাক্ত করে ফেলবে।
২০২৬ সালের মধ্যে আলোচনার মোড় ঘুরে গেছে। প্রশ্নটি এখন আর এটি নয় যে কোন মডেলটি রিসার্চ লিডারবোর্ডে শীর্ষে রয়েছে। প্রশ্নটি এখন বাজেট ডিসিপ্লিন, ডেটা সোভরেইনটি এবং আপডেট কন্ট্রোল নিয়ে। আপনি এখন দুটি জিনিসের মধ্যে একটি বেছে নিচ্ছেন: একটি কাস্টম Small Language Model যা আপনি আপনার নিজস্ব ইনফ্রাস্ট্রাকচারের ভেতরে সীমাবদ্ধ রাখতে পারেন, অথবা একটি অফ-দ্য-শেলফ Large Language Model যা আপনি টোকেন অনুযায়ী ভাড়া নেন।
SLM বনাম LLM: ২০২৬ সালে আসলে কী পরিবর্তন হচ্ছে
অফ-দ্য-শেলফ ফ্রন্টিয়ার মডেল—GPT-4o, Claude এবং তাদের সমসাময়িক মডেলগুলো—ওপেন-এন্ডেড রিজনিং এবং কম ভলিউমের অ্যানালিটিক্যাল কাজের জন্য অতুলনীয়। তারা কথার পেছনের অর্থ বুঝতে পারে। তারা সূক্ষ্মতা সামলাতে পারে। কিন্তু এই সুবিধার একটি অতিরিক্ত মূল্য বা ট্যাক্স রয়েছে। আপনি এই মডেলের ওয়েটস (weights) মালিক নন। আপনি এর রিলিজ শিডিউল নিয়ন্ত্রণ করতে পারেন না। ভেন্ডরের পক্ষ থেকে সপ্তাহান্তের একটি নীরব আপডেট আপনার অ্যাপ্লিকেশন কীভাবে ডেব্ট-টু-ইনকাম থ্রেশহোল্ড ব্যাখ্যা করবে বা সন্দেহজনক লেনদেন শনাক্ত করবে তা বদলে দিতে পারে, এবং ঠিক কী পরিবর্তন হয়েছে তার কোনো রেকর্ড আপনার কাছে নাও থাকতে পারে। এমন একটি শিল্পে যেখানে প্রতিটি সিদ্ধান্তের জন্য একটি অডিট ট্রেইল প্রয়োজন, সেখানে এই অস্বচ্ছতা অত্যন্ত ব্যয়বহুল।
Llama বা Mistral-এর মতো ওপেন ওয়েটসের ওপর ভিত্তি করে তৈরি কাস্টম SLM-গুলো সমীকরণটি বদলে দেয়। এগুলো উচ্চ-ভলিউমের কঠিন কাজের জন্য বিশেষভাবে তৈরি: যেমন মর্টগেজ PDF থেকে ফিল্ড এক্সট্রাক্ট করা, KYC ডকুমেন্ট ক্লাসিফাই করা বা ট্রানজ্যাকশন মেমো পার্স করা। যেহেতু আপনি এগুলো হোস্ট করেন, তাই আপনি একটি নির্দিষ্ট ভার্সন ফ্রিজ করে রাখতে পারেন, ডিফারেনশিয়াল টেস্টিং চালাতে পারেন এবং একজন অডিটরকে প্রমাণ করতে পারেন যে মার্চ মাসে মডেলটি যেভাবে আচরণ করেছিল, জুন মাসেও সেটি একইভাবে কাজ করছে। এগুলো অত্যন্ত সাশ্রয়ীও বটে; ক্লাউড-ভিত্তিক প্রতিপক্ষগুলোর তুলনায় প্রতি টোকেনে এদের খরচ প্রায় দশ থেকে ত্রিশ গুণ কম। তবে এর বিনিময়ে কিছুটা সক্ষমতা কমতে পারে। একটি SLM বাজারের প্রবণতা নিয়ে দার্শনিক আলোচনা করবে না। তবে এটি আপনার ফায়ারওয়ালের বাইরে কোনো প্রোপ্রাইটারি ডেটা না পাঠিয়ে প্রতি ঘণ্টায় দশ হাজার ইনভয়েস প্রসেস করতে পারবে।
হেটেরোজিনিয়াস রাউটিং: ৮০/২০ বিভাজন
যে ব্যাংকগুলো এগিয়ে যাচ্ছে তারা এটিকে আর 'হয় এটি অথবা ওটি' হিসেবে দেখছে না। তাদের আর্কিটেকচার হলো হেটেরোজিনিয়াস। একটি সস্তা, ফাইন-টিউনড SLM পূর্বাভাসযোগ্য এবং স্ট্রাকচার্ড কাজের প্রথম ধাপগুলো সামলায়—যেমন ডকুমেন্ট এক্সট্রাকশন, এনটিটি ট্যাগিং বা রুটিন এলিজিবিলিটি স্ক্রিন—যা মোট ভলিউমের প্রায় আশি শতাংশ কাজ সম্পন্ন করে। বাকি বিশ শতাংশ, অর্থাৎ যে কাজগুলোর জন্য অ্যানালজিক্যাল রিজনিং বা জটিল পলিসি ইন্টারপ্রিটেশন প্রয়োজন, সেগুলো একটি ফ্রন্টিয়ার LLM-এর কাছে পাঠানো হয়।
এটি কেবল তাত্ত্বিক নয়। একটি মর্টগেজ সার্ভিসার একটি SLM-কে পে স্টাব থেকে আয়ের তথ্য সংগ্রহ করতে দিতে পারে, এবং তারপর শুধুমাত্র অস্পষ্ট আবেদনগুলো একটি বড় মডেলের কাছে পাঠাতে পারে যা পরিবর্তনশীল ফেডারেল গাইডলাইনের সাথে একাধিক কর্মসংস্থানের ধরনকে ক্রস-রেফারেন্স করবে। এতে সক্ষমতা না কমিয়েই আপনি ক্লাউড খরচ কমাতে পারবেন।
ব্যবধান কমানোর জন্য একটি পাঁচ-স্তরীয় ফ্রেমওয়ার্ক
কোঅর্ডিনেশন গ্যাপ বা সমন্বয়ের ব্যবধান কমাতে কেবল স্মার্ট রাউটিং যথেষ্ট নয়। এর জন্য একটি সুনির্দিষ্ট স্ট্যাক প্রয়োজন। এখানে একটি পাঁচ-স্তরীয় ফ্রেমওয়ার্ক দেওয়া হলো যা টিমগুলো এখনই ব্যবহার করতে পারে।
মডেল সিলেকশন। ইনফারেন্সকে একজন ট্রায়াজ নার্সের মতো বিবেচনা করুন। ভলিউম এবং সেনসিটিভিটির ওপর ভিত্তি করে কাজগুলো রাউট করুন। উচ্চ-ফ্রিকোয়েন্সি এবং কম ঝুঁকির অপারেশনগুলো আপনার SLM-এর কাছে পাঠান। বিচারবুদ্ধি, অস্পষ্টতা বা কাস্টমার কমপ্লেইন রেজোলিউশনের মতো বিষয়গুলো LLM-এর কাছে পাঠান। রাউটিং রুলগুলো কোডের মাধ্যমে লিখুন, প্রম্পটের মাধ্যমে নয়।
Grounding. Every answer that touches a customer must point back to a source document. Use retrieval-augmented generation to anchor outputs in your actual policy manuals, rate sheets, and regulatory notices. Never trust a model’s parametric memory for current interest rates or fee schedules. Memory drifts. A PDF with a version number does not.
Orchestration. Build workflows where the path is visible. Tools like LangGraph let you define explicit, auditable state machines. A decision should move through defined stages: extract, verify, decision, log. Do not let agents "chat" their way to a conclusion in an open conversational loop. If you cannot draw the flowchart, you cannot explain it to a regulator.
Tool Access. Agents need to call core banking systems, but every integration is a potential failure point. Use the Model Context Protocol to standardize how agents authenticate and query your ledgers, CRM records, and compliance databases. Uniform interfaces reduce the surface area for silent breakage.
Verification. Reserve a hard lane for human judgment. Route high-risk decisions—large wire transfers, credit limit overrides, SAR filings—to a human reviewer or to a second verification agent running on an isolated model. Redundancy at the edge protects the center.
Measure the Right Thing
Stop rewarding teams for per-step accuracy. A pipeline where each module claims 99 percent on a test set can still fail one in five real customers when the steps interact. Start measuring end-to-end reliability. Inject synthetic failure cases. Test handoffs the way attackers test seams.
The banks actually winning with AI in 2026 are not the ones renting the biggest models. They are the ones stitching together the clearest systems. They know that a small model you can audit beats a large model you cannot explain, and that