এন্টারপ্রাইজগুলো অত্যন্ত দ্রুতগতিতে AI ইনফ্রাস্ট্রাকচার সম্প্রসারণ করছে, তবুও মূলধনী ব্যয় (capital expenditure) এবং অপারেশনাল তদারকির মধ্যে একটি ক্রমবর্ধমান "কম্পিউট গ্যাপ" (compute gap) দেখা দিচ্ছে। সংস্থাগুলো হার্ডওয়্যার নিশ্চিত করার জন্য যখন তড়িঘড়ি করছে, তখন তারা দেখছে যে তাদের ইউনিট ইকোনমিক্স এবং GPU ব্যবহারের মাত্রা পরিমাপ করার ক্ষমতা বিনিয়োগের গতির সাথে তাল মেলাতে পারছে না।

কম্পিউট গ্যাপ: দ্রুত বিনিয়োগ বনাম নিম্ন দৃশ্যমানতা

১০৭টি এন্টারপ্রাইজের ওপর করা একটি VentureBeat Pulse Research সমীক্ষা AI লাইফসাইকেলে একটি বড় ধরনের বিচ্ছিন্নতা দেখায়। কোম্পানিগুলো অবকাঠামোতে প্রচুর মূলধন ঢালছে কিন্তু এটি পরিচালনা করার জন্য প্রয়োজনীয় টেলিমিতি (telemetry) তাদের নেই। ব্যয়ের পরিকল্পনা আকাশচুম্বী হচ্ছে, তবুও প্রোডাকশন ম্যাচিউরিটি বা উৎপাদনগত পরিপক্কতা কম থাকছে; সমীক্ষায় অংশগ্রহণকারী কোম্পানিগুলোর মাত্র ২১% বড় পরিসরে প্রোডাকশনে AI ব্যবহার করছে।

সবচেয়ে গুরুত্বপূর্ণ লক্ষণ হলো অদক্ষতা। ৮৩% এন্টারপ্রাইজ রিপোর্ট করেছে যে তাদের GPU ব্যবহারের হার ৫০% বা তার কম। আরও খারাপ বিষয় হলো, অর্ধেকেরও কম (৪৪%) কঠোরভাবে ট্র্যাক করতে পারে যে তাদের AI কম্পিউটের প্রকৃত খরচ কত। ফলে, দীর্ঘমেয়াদী অর্থনীতি পরিচালনার জন্য প্রয়োজনীয় স্বচ্ছতা ছাড়াই ভারী এবং দ্রুতগতির বিনিয়োগ সম্পন্ন হচ্ছে।

পরিবর্তনশীল ভেন্ডর ডায়নামিক্স এবং উচ্চ চর্ন (Churn) রেট

প্রথাগত হাইপারস্কেলার এবং মডেল API-গুলো এই ক্ষেত্রে আধিপত্য বিস্তার করছে। Google Cloud ৪৮% ব্যবহার নিয়ে শীর্ষে রয়েছে, যার পরে রয়েছে Microsoft Azure (২৯%), AWS (২২%) এবং Oracle Cloud (২২%)। মডেল ব্যবহারের ক্ষেত্রে Gemini (৪১%) এবং OpenAI (৪০%) প্রধান। CoreWeave, Lambda এবং Together-এর মতো বিশেষায়িত AI ক্লাউডগুলোর বাজার দখল ২%-এর নিচে।

অস্থিরতা অনেক বেশি। ৬৪% এন্টারপ্রাইজ আগামী বারো মাসের মধ্যে তাদের ইনফ্রাস্ট্রাকচার প্রোভাইডার পরিবর্তন বা নতুন প্রোভাইডার যুক্ত করার পরিকল্পনা করছে এবং ৩৮% আগামী প্রান্তিকের মধ্যেই তা করতে চায়। তাদের সিদ্ধান্তের ৪১% এর পেছনে রয়েছে বিদ্যমান স্ট্যাকের সাথে ইন্টিগ্রেশন করার প্রয়োজনীয়তা, আর ৩৫% এর কারণ হলো টোটাল কস্ট অফ ওনারশিপ (TCO)। মাত্র ৮% মূল টোকেন প্রাইস বা মূল্যের কথা উল্লেখ করেছে।

পরবর্তী দিগন্ত: বিশেষায়িত ক্লাউড এবং মেমরি ব্যান্ডউইথ

যে সব এন্টারপ্রাইজ পরীক্ষামূলক পর্যায় পেরিয়ে এগিয়ে যাচ্ছে, তারা AI-বিশেষায়িত ক্লাউডগুলোর দিকে নজর দিচ্ছে। ৪৫% আগামী বছর এই ধরনের প্রোভাইডারদের মূল্যায়ন করার পরিকল্পনা করছে—যা মূল্যায়নের জন্য সবচেয়ে বড় পরিকল্পিত ক্ষেত্র।

একটি নতুন প্রযুক্তিগত সীমাবদ্ধতা দেখা দিচ্ছে: শুধুমাত্র র (raw) GPU কম্পিউট নয়, বরং মেমরি ব্যান্ডউইথ বড় পরিসরে ইনফারেন্স (inference) প্রক্রিয়াকে সীমিত করে দেবে। মাত্র ২০% কোম্পানি এই বাধা সম্পর্কে সচেতন বা এটি সমাধানের পদক্ষেপ নিচ্ছে। ডেভেলপার এবং CTO-দের জন্য, ব্যান্ডউইথের ওপর নিয়ন্ত্রণ থাকাটাই স্কেলেবল ইনফারেন্স এবং অনিয়ন্ত্রিত খরচের মধ্যে পার্থক্য তৈরি করবে।

মূল বিষয়সমূহ

  • অদক্ষতাই স্বাভাবিক: ৮৩% এন্টারপ্রাইজ ≤ ৫০% GPU ব্যবহার করছে; অর্ধেকেরও কম কোম্পানি কম্পিউট খরচ সঠিকভাবে ট্র্যাক করতে পারে।
  • ভেন্ডর চর্ন রেট বেশি: ৬৪% আগামী এক বছরের মধ্যে প্রোভাইডার পরিবর্তন বা যুক্ত করার পরিকল্পনা করছে, যেখানে ইন্টিগ্রেশন (৪১%) এবং TCO (৩৫%) প্রধান অগ্রাধিকার।
  • বিশেষায়িত ক্লাউডের দিকে যাত্রা: কম্পিউট গ্যাপ কমাতে ৪৫% কোম্পানি নিশ (niche) AI ক্লাউড মূল্যায়ন করবে।
  • মেমরি ব্যান্ডউইথের ঝুঁকি: প্রায় ২০% কোম্পানি এই উদীয়মান বাধাটি শনাক্ত করেছে বা তা মোকাবিলা করছে।

নিবন্ধ

১০৭টি ফার্মের ওপর করা একটি VentureBeat Pulse Research সমীক্ষা দেখায় যে, ৮৩% কোম্পানি GPU-কে অর্ধেক বা তার কম ক্ষমতায় ব্যবহার করছে, যেখানে মাত্র ৪৪% প্রতিটি কম্পিউট আওয়ারের সঠিক খরচ নির্ধারণ করতে পারে। এই অসামঞ্জস্যতার কারণে ৬৪% উত্তরদাতা আগামী এক বছরের মধ্যে ইনফ্রাস্ট্রাকচার ভেন্ডর পরিবর্তন বা নতুন ভেন্ডর যুক্ত করার পরিকল্পনা করছেন।

কেন এখন “কম্পিউট গ্যাপ” গুরুত্বপূর্ণ

প্রধান সংখ্যাগুলো একটি রূঢ় চিত্র তুলে ধরে: AI খরচ বাড়ছে, কিন্তু প্রোডাকশন ম্যাচিউরিটি বা উৎপাদনগত পরিপক্কতা পিছিয়ে আছে। মাত্র ২১% কোম্পানি বলছে যে তারা প্রোডাকশনে বড় পরিসরে AI ব্যবহার করছে, যার অর্থ হলো বেশিরভাগ বিনিয়োগ ল্যাব, প্রুফ-অফ-কনসেপ্ট বা অলস পড়ে থাকা হার্ডওয়্যারে আটকে আছে। কম GPU ব্যবহারের সরাসরি প্রভাব পড়ে অপচয় হওয়া মূলধনের ওপর—অর্ধেক খালি সার্ভারও বিদ্যুৎ খরচ করে, কুলিংয়ের প্রয়োজন হয় এবং র‍্যাক স্পেস দখল করে রাখে। যখন অর্ধেকেরও কম সংস্থা প্রতি-GPU খরচ ট্র্যাক করতে পারে, তখন বাজেট করাটা অনেকটা অনুমানের ওপর নির্ভর করে এবং CFO-রা এমন একটি 'ব্ল্যাক বক্স'-এর সম্মুখীন হন যা এক বছরের প্রযুক্তিগত বাজেটকে তছনছ করে দিতে পারে।

আমরা এখানে কীভাবে পৌঁছালাম

এই দৌড় শুরু হয়েছিল যখন হাইপারস্কেলাররা AI-নির্দিষ্ট ইনস্ট্যান্স এবং model-as-a-service API চালু করে। Google Cloud এখন সমীক্ষায় অংশগ্রহণকারী ওয়ার্কলোডের ৪৮% হোস্ট করে, যার পরে রয়েছে Microsoft Azure (২৯%), AWS (২২%) এবং Oracle Cloud (২২%)। মডেল ব্যবহারের ক্ষেত্রেও একই চিত্র দেখা যায়, যেখানে Gemini এবং OpenAI প্রত্যেকে ব্যবহারের প্রায় ৪০% দখল করে আছে। এর আকর্ষণ ছিল স্পষ্ট: একটি বিশ্বস্ত ক্লাউড, ব্যবহারের জন্য প্রস্তুত GPU, এবং স্বচ্ছ খরচের প্রতিশ্রুতি দেওয়া pay-as-you-go মডেল।

এই গবেষণা একটি লুকানো খরচ উন্মোচন করেছে। পরিবর্তনের সিদ্ধান্তের পেছনে ইন্টিগ্রেশনের জটিলতা প্রধান ভূমিকা পালন করে: ৪১% প্রোভাইডারের স্ট্যাককে বিদ্যমান পাইপলাইনের সাথে যুক্ত করার অসুবিধা উল্লেখ করেছে, আর ৩৫% টোটাল কস্ট অফ ওনারশিপের (TCO) কথা বলেছে। মাত্র ৮% বলেছে যে টোকেন প্রাইস তাদের দূরে সরিয়ে দিচ্ছে, যা প্রমাণ করে যে ইকোসিস্টেমের সাথে সামঞ্জস্যতার চেয়ে সরাসরি দামের গুরুত্ব কম।

ভেন্ডর এবং ক্রেতাদের জন্য ঝুঁকি

বড় তিনটি ক্লাউড প্রোভাইডারের জন্য বিশাল মার্কেট শেয়ার তাদের প্রভাব বজায় রাখতে সাহায্য করে, তবে ভেন্ডর পরিবর্তনের প্রবণতা সেই আধিপত্য কমে যাওয়ার সংকেত দিচ্ছে।

ক্রেতারা দুটি ঝুঁকির সম্মুখীন হন। প্রথমত, ক্রমাগত কম ইউটিলাইজেশন প্রতিটি ইনফারেন্স বা ট্রেনিং জবের খরচ বাড়িয়ে দেয়, যা AI-এর ব্যবসায়িক ভিত্তিকে দুর্বল করে তোলে। দ্বিতীয়ত, খরচের স্বচ্ছতার অভাব কৌশলগত পরিকল্পনাকে বাধাগ্রস্ত করে; স্পষ্ট ইউনিট ইকোনমিক্স ছাড়া আরও বিনিয়োগের যৌক্তিকতা প্রমাণ করা বা AI-সমৃদ্ধ পণ্যের মূল্য নির্ধারণ করা কঠিন হয়ে পড়ে।

বিশেষায়িত AI ক্লাউডের উত্থান

বিশেষায়িত AI ক্লাউড—CoreWeave, Lambda এবং Together—বর্তমানে বাজারের ২%-এর কম অংশ দখল করে আছে। ৪৫% এন্টারপ্রাইজ জানিয়েছে যে তারা আগামী বছর এই নিশ (niche) প্রোভাইডারদের মূল্যায়ন করবে, যা ভেন্ডর মূল্যায়নের ক্ষেত্রে একক বৃহত্তম পরিকল্পিত ক্ষেত্র। তাদের ভ্যালু প্রপোজিশন মূলত AI টুলচেইনের সাথে আরও নিবিড় ইন্টিগ্রেশন, আরও বিস্তারিত বিলিং এবং AI ওয়ার্কলোডের জন্য উপযোগী হার্ডওয়্যারের ওপর ভিত্তি করে তৈরি, যা GPU ইউটিলাইজেশনকে বর্তমানের ৫০% সীমার অনেক উপরে নিয়ে যেতে পারে।

একটি প্রযুক্তিগত অন্ধবিন্দু: মেমরি ব্যান্ডউইথ

হার্ডওয়্যার সংক্রান্ত আলোচনা পরিবর্তিত হচ্ছে। ইনফারেন্স ওয়ার্কলোড বৃদ্ধির সাথে সাথে, মেমরি ব্যান্ডউইথ—অর্থাৎ একটি GPU-তে ডেটা কত দ্রুত আদান-প্রদান হয়—একটি বটলনেক বা প্রতিবন্ধকতা হয়ে দাঁড়ায়, যা র (raw) কম্পিউট পাওয়ারকেও ছাড়িয়ে যায়। তবুও জরিপ করা সংস্থাগুলোর মাত্র ২০% এই সীমাবদ্ধতাটি স্বীকার করে অথবা এটি সমাধানের পদক্ষেপ নিচ্ছে। ব্যান্ডউইথকে অবহেলা করার অর্থ হতে পারে যে, একটি সম্পূর্ণ ব্যবহৃত GPU-ও প্রয়োজনীয় থ্রুপুট দিতে পারবে না, যার ফলে ইনস্ট্যান্সের সংখ্যা বৃদ্ধি পাবে এবং খরচ বেড়ে যাবে।

পাল্টা যুক্তি: হাইপারস্কেলাররা এখনও আধিপত্য বিস্তার করছে

হাইপারস্কেলারদের যুগ শেষ হয়ে গেছে বলে ঘোষণা করাটা হবে অকাল। তাদের বিশাল স্কেল, বিশ্বব্যাপী উপস্থিতি এবং বিদ্যমান এন্টারপ্রাইজ চুক্তি এখনও অনেক প্রতিষ্ঠানের জন্য ডিফল্ট পছন্দ হিসেবে কাজ করে। জরিপ দেখায় যে বেশিরভাগ ওয়ার্কলোড এখনও এই প্ল্যাটফর্মগুলোতে রয়েছে এবং যেসব প্রতিষ্ঠানের সুপ্রতিষ্ঠিত মাল্টি-ক্লাউড কৌশল রয়েছে, তাদের ক্ষেত্রে উচ্চ ইউটিলাইজেশনের আকর্ষণের চেয়ে বিদ্যমান ব্যবস্থার জড়তা বেশি কার্যকর হতে পারে। তদুপরি, বিশেষায়িত ক্লাউডগুলোর সীমিত মার্কেট শেয়ার নির্দেশ করে যে আগ্রহ থাকলেও মাইগ্রেশন বা স্থানান্তর হবে ধীরগতিতে।

পরবর্তীতে যা লক্ষ্য রাখতে হবে

  • মেমরি ব্যান্ডউইথ সীমাবদ্ধতা: ইনফারেন্স ওয়ার্কলোড বৃদ্ধির সাথে সাথে, ব্যান্ডউইথ একটি গুরুত্বপূর্ণ বটলনেক হয়ে উঠতে পারে, যা হার্ডওয়্যার নির্বাচন এবং আর্কিটেকচার সংক্রান্ত সিদ্ধান্তকে প্রভাবিত করবে।

মূল বিষয়সমূহ

  • অদক্ষতাই স্বাভাবিক: ৮৩% এন্টারপ্রাইজ ৫০% বা তার কম ইউটিলাইজেশনে GPU চালায়; মাত্র ৪৪% কম্পিউট খরচ নির্ভুলভাবে ট্র্যাক করতে পারে।
  • ভেন্ডর পরিবর্তন বা চর্ন উচ্চ: ৬৪% এক বছরের মধ্যে একটি ইনফ্রাস্ট্রাকচার প্রোভাইডার পরিবর্তন বা যুক্ত করার পরিকল্পনা করছে, যার মূল চালিকাশক্তি হলো ইন্টিগ্রেশন (৪১%) এবং TCO (৩৫%)।
  • বিশেষায়িত ক্লাউডের উত্থান ঘটছে: কম্পিউট গ্যাপ পূরণের লক্ষ্যে আগামী বারো মাসে ৪৫% প্রতিষ্ঠান নিশ AI ক্লাউডগুলো মূল্যায়ন করবে।
  • মেমরি ব্যান্ডউইথ একটি আসন্ন সীমাবদ্ধতা: প্রায় ২০% সংস্থা এই উদীয়মান বটলনেক সম্পর্কে সচেতন বা এটি সমাধানের পদক্ষেপ নিচ্ছে।

AI খরচ এবং অর্থনৈতিক স্বচ্ছতার মধ্যকার ব্যবধান এখন আর কেবল একটি ছোটখাটো বিষয় নয়; এটি ক্রয় কৌশলগুলোকে নতুন রূপ দিচ্ছে এবং এমন প্রোভাইডারদের দিকে মাইগ্রেশনের দিকে ধাবিত করছে যারা প্রতিটি ডলারের সর্বোচ্চ ব্যবহার নিশ্চিত করতে পারে।