Vercel-এর জুন মাসের টোকেন-শেয়ার রিপোর্ট অনুযায়ী, গেটওয়ে টোকেনের ২৯% এখন ওপেন-ওয়েট মডেল (open-weight models) দ্বারা পরিচালিত হচ্ছে, যা এপ্রিলে ছিল মাত্র ১১%। এর মধ্যে শুধুমাত্র DeepSeek-এর অবদান ছিল ২২.৬%। এই উল্লম্ফন একটি দ্রুত পরিবর্তনের ইঙ্গিত দিচ্ছে: ডেভেলপাররা এখন আর একটি একক "সেরা" মডেলের ওপর নির্ভর না করে AI মডেলগুলোকে একটি রাউটেবল ইনফ্রাস্ট্রাকচার (routable infrastructure) হিসেবে বিবেচনা করছেন।

কেন ডেভেলপাররা মডেলগুলোকে ইনফ্রাস্ট্রাকচার হিসেবে বিবেচনা করছেন

সস্তা, ওপেন-ওয়েট মডেল—যার অনেকগুলোই চীনা প্রোভাইডারদের—Anthropic-এর মতো প্রিমিয়াম অফারগুলোর তুলনায় অনেক কম খরচে পাওয়া যায়। কোড এক্সট্রাকশন, টেক্সট ক্লিনিং বা সাধারণ ডেটা লুক-আপের মতো রুটিন কাজের জন্য, ডলারের বদলে সেন্টে (cents) খরচ হয় এমন একটি মডেল অনেক বেশি আকর্ষণীয় হতে পারে, এমনকি যদি সেটি কয়েক শতাংশ কম নির্ভুলও হয়।

এর ফলে একটি নতুন ডিজাইন প্যাটার্ন তৈরি হয়েছে। একটি অ্যাপ্লিকেশন প্রথমে কাজের "বিরক্তিকর" বা রুটিন অংশের জন্য একটি স্বল্পমূল্যের মডেলের কাছে রিকোয়েস্ট পাঠায়। যদি আউটপুট একটি সাধারণ কোয়ালিটি চেক বা মান যাচাইয়ে উত্তীর্ণ হয়, তবে পাইপলাইনটি এগিয়ে যায়; যদি না হয়, তবে দ্বিতীয়বার যাচাই বা চূড়ান্ত সিদ্ধান্তের জন্য একটি উচ্চমূল্যের মডেলকে ডাকা হয়। এখানে একটি একক মডেল বেছে নেওয়ার চেয়ে রাউটিং লজিক (routing logic) একটি গুরুত্বপূর্ণ অংশে পরিণত হয়েছে।

সংখ্যাগুলো কী বলছে

Vercel-এর ডেটা, যা একাধিক AI প্রোভাইডারকে সংযুক্তকারী তাদের গেটওয়ে থেকে সংগ্রহ করা হয়েছে, তা দেখায় যে ওপেন-ওয়েট মডেলগুলো প্রান্তিক অবস্থা থেকে মূলধারায় চলে আসছে। এপ্রিলে, তারা মোট টোকেনের এক-দশমাংশের সামান্য বেশি অংশ দখল করেছিল; জুন নাগাদ, তারা প্রায় এক-তৃতীয়াংশের কাছাকাছি পৌঁছেছে। একটি চীনা মডেল DeepSeek একা টোকেন ভলিউমের এক-পঞ্চমাংশের বেশি অবদান রেখেছে।

উচ্চমানের মডেলগুলো এখনও খরচের সিংহভাগ দখল করে আছে। উদাহরণস্বরূপ, Anthropic এখনও আর্থিক ব্যয়ের সিংহভাগ দখল করে আছে কারণ এর প্রতি টোকেনের মূল্য বেশি। এর হিসাবটি সহজ: সস্তা মডেলগুলো উচ্চ-ভলিউম এবং স্বল্প-মার্জিন সম্পন্ন কাজগুলো দখল করে নিচ্ছে, আর দামী মডেলগুলো উচ্চ-মার্জিন এবং উচ্চ-প্রভাবশালী কাজগুলো ধরে রাখছে।

AI এজেন্টদের জন্য এর প্রভাব

একটি AI এজেন্ট সাধারণত কতগুলো ধাপ অনুসরণ করে: পরিকল্পনা (planning), ডেটা রিট্রিভাল (data retrieval), টুল ইনভোকেশন (tool invocation) এবং ফলাফল রিফাইনমেন্ট (result refinement)। যখন প্রতিটি ধাপকে সবচেয়ে সাশ্রয়ী মডেলের ওপর অর্পণ করা যায়, তখন সামগ্রিক পরিচালন ব্যয় নাটকীয়ভাবে কমে যায়।

  • ডেটা রিট্রিভাল এবং এক্সট্রাকশন-এর জন্য প্রায়শই কেবল মৌলিক ভাষা বোঝার প্রয়োজন হয়, যা সস্তা মডেলগুলো খুব ভালোভাবে করতে পারে।
  • চূড়ান্ত সিদ্ধান্ত—যে অংশটি নির্ধারণ করে উত্তরটি গ্রহণযোগ্য কি না—তা উচ্চ নির্ভরযোগ্যতাসম্পন্ন প্রিমিয়াম মডেলগুলোর আওতাতেই থাকে।

এই স্তরভিত্তিক পদ্ধতি ডেভেলপারদের বাজেট না বাড়িয়ে বড় আকারের কাজের চাপ স্বয়ংক্রিয় করতে সাহায্য করে। এটি "সেরা মডেলটি বেছে নিন" থেকে "প্রতিটি ধাপে সাফল্য পরিমাপ করুন এবং সেই অনুযায়ী রাউট করুন" — এই মানসিকতার দিকে একটি পরিবর্তন নিয়ে আসে।

ঝুঁকি এবং সীমাবদ্ধতা

অর্থনৈতিক দিকটি আকর্ষণীয় হলেও, এই পরিবর্তনটি মসৃণ নয়।

  • কমপ্লায়েন্স (Compliance): কিছু বিচারব্যবস্থা কঠোর ডেটা-হ্যান্ডলিং নিয়ম আরোপ করে যা বিদেশি-হোস্ট করা মডেলের ব্যবহার সীমিত করতে পারে।
  • হোস্টিং জটিলতা: বড় প্রিমিয়াম মডেলগুলো ইন-হাউস চালানো কঠিন, তাই সংস্থাগুলোকে বাহ্যিক API-এর ওপর নির্ভর করতে হয়, যা ল্যাটেন্সি (latency) এবং ভেন্ডর-লক (vendor-lock) সংক্রান্ত উদ্বেগ বাড়াতে পারে।

এই কারণগুলোর জন্য, সস্তা মডেলগুলো প্রিমিয়াম মডেলগুলোকে পুরোপুরি প্রতিস্থাপন করার সম্ভাবনা কম। পরিবর্তে, তারা রুটিন কাজের জন্য ডিফল্ট হিসেবে ব্যবহৃত হবে, আর প্রিমিয়াম মডেলগুলো "ডিসিশন লেয়ার"-এ থাকবে যেখানে তাদের উচ্চ খরচ যুক্তিযুক্ত।

পরবর্তী যা লক্ষ্য রাখতে হবে

  • রাউটিংয়ের জন্য টুলিং: রাউটিং লেয়ার যত বেশি কেন্দ্রীয় হয়ে উঠবে, আমরা ল্যাটেন্সি, খরচ এবং কনফিডেন্স থ্রেশহোল্ডের (confidence thresholds) ওপর ভিত্তি করে মডেল নির্বাচন স্বয়ংক্রিয় করার জন্য SDK এবং প্ল্যাটফর্মের একটি জোয়ার দেখতে পাব।

যেসব ডেভেলপার কাজের স্তরে সাফল্য পরিমাপ করা, রিট্রাই (retry) ট্র্যাক করা এবং "ভলিউম" ও "জাজমেন্ট"-কে স্পষ্টভাবে আলাদা করার কাজ শুরু করবেন, তারা এই উদীয়মান ইনফ্রাস্ট্রাকচার মাইন্ডসেটের সুবিধা নিতে সবচেয়ে ভালোভাবে প্রস্তুত থাকবেন।

মূল কথা: AI স্ট্যাকটি একটি একক মডেল নির্বাচন থেকে একটি রাউটিং সমস্যায় রূপান্তরিত হচ্ছে, যেখানে সস্তা ওপেন-ওয়েট মডেলগুলো কাজের সিংহভাগ সামলায় এবং প্রিমিয়াম মডেলগুলো উচ্চ-প্রভাবশালী সিদ্ধান্তের জন্য সংরক্ষিত থাকে। সেই রাউটিংয়ে দক্ষতা অর্জন করাই হবে AI নির্মাতাদের জন্য পরবর্তী প্রতিযোগিতামূলক সুবিধা।