AI ইনফ্রাস্ট্রাকচার বা অবকাঠামো ব্যবস্থার চিত্র এখন আমূল বদলে যাচ্ছে, কারণ মূলধন এখন মডেল ট্রেনিং থেকে মডেল এক্সিকিউশনের দিকে সরে আসছে। টেক ইনভেস্টমেন্ট ফার্ম Upper90 থেকে AI ইনফারেন্স স্টার্টআপ General Compute-এর কাছে প্রাপ্ত ৪০০ মিলিয়ন ডলারের বিশাল ঋণ হার্ডওয়্যার ফাইন্যান্সিং এবং ব্যবহারের ক্ষেত্রে একটি ঐতিহাসিক মাইলফলক হিসেবে চিহ্নিত হয়েছে।

জামানতের একটি নতুন যুগ: ইনফারেন্স চিপের ফাইন্যান্সিং

GPU ফাইন্যান্সিংয়ের শুরুর দিনগুলোর কথা মনে করিয়ে দিয়ে Upper90 এখন একটি নতুন অ্যাসেট ক্লাসে প্রবেশ করছে: ইনফারেন্স-নির্দিষ্ট সিলিকন। যদিও ফাইন্যান্সিংয়ের আগের ঢেউটি—যার নেতৃত্ব দিয়েছিল CoreWeave-এর মতো প্রতিষ্ঠানগুলো—বিশাল ট্রেনিং ওয়ার্কলোডের জন্য ব্যবহৃত Nvidia GPU-এর ওপর গুরুত্ব দিয়েছিল, এই ৪০০ মিলিয়ন ডলারের চুক্তিটি ইতিমধ্যে প্রশিক্ষিত মডেলগুলো চালানোর জন্য বিশেষভাবে তৈরি চিপগুলোকে জামানত হিসেবে ব্যবহার করছে।

CEO Finn Puklowski-এর নেতৃত্বে General Compute একটি "neocloud" তৈরি করছে—যা সাধারণ উদ্দেশ্যে কম্পিউটিং করার পরিবর্তে বিশেষভাবে AI ওয়ার্কলোডের জন্য ডিজাইন করা একটি বিশেষায়িত ইনফ্রাস্ট্রাকচার প্রোভাইডার। এই পার্থক্যটি অত্যন্ত গুরুত্বপূর্ণ; যেখানে AWS এবং Azure-এর মতো প্রথাগত হাইপারস্কেলাররা বিস্তৃত পরিষেবা প্রদান করে, সেখানে neocloud-গুলো Large Language Models (LLMs)-এর অনন্য ল্যাটেন্সি (latency) এবং থ্রুপুট (throughput) প্রয়োজনীয়তার জন্য অপ্টিমাইজ করা হয়।

SambaNova-র SN50-এর প্রযুক্তিগত শ্রেষ্ঠত্ব

General Compute-এর কৌশলের মূলে রয়েছে Intel-সমর্থিত চিপ প্রস্তুতকারক কোম্পানি SambaNova-র সাথে তাদের অংশীদারিত্ব। কোম্পানিটি SambaNova-র SN50 চিপ ব্যবহার করছে, যা প্রথাগত হার্ডওয়্যারের তুলনায় উল্লেখযোগ্য পারফরম্যান্স বৃদ্ধির জন্য তৈরি করা হয়েছে।

General Compute-এর মতে, এই চিপগুলো বর্তমান GPU-ভিত্তিক ক্লাউডের তুলনায় ১৬ গুণ পর্যন্ত দ্রুত ইনফারেন্স স্পিড দিতে পারে। শুধুমাত্র গতির বাইরেও, SN50 দুটি প্রধান অপারেশনাল সুবিধা প্রদান করে:

  • বিদ্যুৎ সাশ্রয় (Power Efficiency): এগুলো প্রতি টোকেনে কম শক্তি খরচ করে, যা AI ব্যবহারের বিশাল ওভারহেড খরচ কমিয়ে দেয়।
  • সহজ কুলিং ব্যবস্থা (Simplified Cooling): হাই-এন্ড GPU-এর মতো, যেগুলোর প্রায়শই জটিল ও ব্যয়বহুল ওয়াটার-কুলিং সিস্টেমের প্রয়োজন হয়, এই চিপগুলো বিভিন্ন ধরণের স্ট্যান্ডার্ড ডেটা সেন্টার এনভায়রনমেন্টে দ্রুত স্থাপনের সুবিধা দেয়।

Nvidia-র একাধিপত্য ভাঙা

এই চুক্তিটি কেবল মূলধন বিনিয়োগের চেয়েও বেশি কিছু; এটি একটি কৌশলগত সংকেত যে বাজার Nvidia-র আধিপত্যের বিকল্প খুঁজছে। যেহেতু টোকেন এবং ফ্রন্টিয়ার মডেল ব্যবহারের খরচ ডেভেলপারদের জন্য একটি বাধা হয়ে দাঁড়িয়েছে, তাই ওপেন-সোর্স মডেলগুলোতে সস্তা ও দক্ষ অ্যাক্সেসের চাহিদা বাড়ছে।

উচ্চ-ক্ষমতাসম্পন্ন ওপেন-সোর্স মডেলের উত্থান—যেমন Kimi-র K3, যা কোডিং বেঞ্চমার্কে Anthropic এবং OpenAI-এর সাথে প্রতিযোগিতা করছে—এর অর্থ হলো শিল্পের মূল সমস্যা বা 'বটলনেক' এখন "কীভাবে মডেল তৈরি করব?" থেকে পরিবর্তিত হয়ে "কীভাবে সাশ্রয়ীভাবে সেগুলো চালাব?" এ এসে দাঁড়িয়েছে। নন-Nvidia সিলিকন ব্যবহারের মাধ্যমে, General Compute এবং TensorWave (যারা AMD-র সাথে অংশীদারিত্ব করছে)-এর মতো প্রতিযোগীরা একটি উন্নত Total Cost of Ownership (TCO) প্রদানের জন্য নিজেদের প্রস্তুত করছে।

Puklowski যেমনটি উল্লেখ করেছেন, এই চুক্তিটি AI ইকোসিস্টেমে Nvidia-র একচেটিয়া আধিপত্যকে খণ্ডিত করতে "মূলধনের স্বয়ংক্রিয় বিন্যাস" (capital organizing itself) হিসেবে কাজ করছে। বিশেষায়িত ইনফারেন্স হার্ডওয়্যারের ওপর বাজি ধরে বিনিয়োগকারীরা স্বীকার করছেন যে, AI বিপ্লবের পরবর্তী ধাপটি স্কেল, দক্ষতা এবং দৈনন্দিন অ্যাপ্লিকেশনে AI-এর ব্যাপক ব্যবহারের মাধ্যমে পরিচালিত হবে।

মূল বিষয়সমূহ

  • ইনফারেন্স-কেন্দ্রিক ফাইন্যান্সিং: ৪০০ মিলিয়ন ডলারের এই চুক্তিটি বিশাল ঋণের জামানত হিসেবে শুধুমাত্র ট্রেনিং GPU-এর পরিবর্তে বিশেষায়িত ইনফারেন্স চিপ ব্যবহারের দিকে একটি পরিবর্তনের ইঙ্গিত দেয়।
  • পারফরম্যান্স বৃদ্ধি: General Compute-এর লক্ষ্য হলো SambaNova-র SN50 চিপ ব্যবহার করে GPU-ভিত্তিক ক্লাউডকে ১৬ গুণ পর্যন্ত ছাড়িয়ে যাওয়া, যা উন্নত বিদ্যুৎ সাশ্রয় এবং সহজ স্থাপনের সুবিধা প্রদান করে।
  • স্ট্যাক বৈচিত্র্যকরণ: এই পদক্ষেপটি ওপেন-সোর্স LLM-এর সাশ্রয়ী স্কেলিং নিশ্চিত করতে নন-Nvidia সিলিকনের ক্রমবর্ধমান বাজার চাহিদাকে নির্দেশ করে।