OpenAI তাদের নিজস্ব ইনফারেন্স চিপ, Jalapeño উন্মোচন করেছে এবং জানিয়েছে যে এটি Nvidia-র GB200 এবং GB300 অ্যাক্সিলারেটরের তুলনায় প্রতি কিলোওয়াটে 1.9x পর্যন্ত বেশি থ্রুপুট প্রদান করে। দলটি মাত্র নয় মাসে একটি ধারণা বা কনসেপ্টকে একটি কার্যকর সিলিকন ডাই-তে রূপান্তরিত করেছে—যা কাস্টম এআই প্রসেসরের জন্য সাধারণ দুই-থেকে-তিন বছরের চক্রের তুলনায় অনেক দ্রুত।

কেন এই দ্রুতগতির উন্নয়ন গুরুত্বপূর্ণ

OpenAI এখন শুধুমাত্র Nvidia GPU-র ওপর নির্ভর না করে Cerebras, AWS Trainium, AMD এবং অন্যান্য হার্ডওয়্যার ব্যবহার করে মডেল পরিচালনা করছে। যেহেতু এআই এখন ট্রেনিং-নির্ভর থেকে ইনফারেন্স-নির্ভর ওয়ার্কলোডের দিকে সরে যাচ্ছে, তাই বিদ্যুৎ ব্যবহার এবং প্রতিটি কুয়েরির খরচ অত্যন্ত নির্ণায়ক হয়ে উঠছে। একটি চিপ যদি একটি ট্রিলিয়ন-প্যারামিটার মডেলের জন্য প্রয়োজনীয় শক্তি অর্ধেক করে দিতে পারে, তবে তা প্রতিদিন বিলিয়ন বিলিয়ন রিকোয়েস্ট হ্যান্ডেল করা পরিষেবাগুলোর পরিচালন ব্যয় উল্লেখযোগ্যভাবে কমিয়ে দিতে পারে।

কীভাবে এআই চিপটি তৈরি করল

Jalapeño হলো একটি ASIC—একটি চিপ যা একটি নির্দিষ্ট উদ্দেশ্যে তৈরি: লার্জ ল্যাঙ্গুয়েজ মডেল চালানো। একটি সাধারণ-উদ্দেশ্যের GPU-র বিপরীতে, একটি ASIC অপ্রয়োজনীয় লজিক বাদ দেয় এবং LLM ইনফারেন্স প্যাটার্নের সাথে সামঞ্জস্য রেখে ডেটা পাথগুলোকে সাজিয়ে নেয়। OpenAI-র ইঞ্জিনিয়াররা এর ডিজাইন XLS-এ লিখেছিলেন, যা একটি হার্ডওয়্যার ডেসক্রিপশন ল্যাঙ্গুয়েজ এবং এটি মেশিন-লার্নিং মডেলগুলোকে কোড জেনারেট করতে সাহায্য করে। কোম্পানিটি জানিয়েছে যে চিপের কোরের অর্ধেকেরও বেশি অংশ এআই-জেনারেটেড লজিক দিয়ে তৈরি, যা ডিজাইন পাইপলাইনকে কয়েক বছর থেকে কমিয়ে কয়েক মাসে নিয়ে এসেছে।

পারফরম্যান্সের দাবি বনাম বাস্তবতা

OpenAI Jalapeño-র জন্য তিনটি প্রধান পরিসংখ্যান উল্লেখ করেছে:

  • প্রতি কিলোওয়াটে থ্রুপুট: Nvidia-র GB200/GB300-এর তুলনায় 1.5 – 1.9x বেশি।
  • ল্যাটেন্সি: একই Nvidia মডেলের তুলনায় 1.7 – 3.6x কম।
  • 1-ট্রিলিয়ন-প্যারামিটার মডেলে বিদ্যুৎ খরচ: GB300-এর 1,400 W-এর বিপরীতে 700 W।

যদি এই পরিসংখ্যানগুলো সঠিক প্রমাণিত হয়, তবে একটি ডেটা সেন্টার একই মডেল অর্ধেক বিদ্যুৎ খরচে চালাতে পারবে এবং একই সাথে দ্রুত রেসপন্স প্রদান করতে পারবে। এই দাবিগুলো মূলত ইনফারেন্সের ওপর কেন্দ্রিত; OpenAI ট্রেনিং পারফরম্যান্স নিয়ে কিছু বলেননি, যা চ্যাট-ভিত্তিক অ্যাপ্লিকেশন সার্ভ করার ক্ষেত্রে তাদের বর্তমান গুরুত্বের সাথে সামঞ্জস্যপূর্ণ।

Nvidia-র জন্য এর অর্থ কী

Nvidia-র আসন্ন Blackwell এবং Vera Rubin চিপগুলো হাই-এন্ড অ্যাক্সিলারেটর বাজারকে লক্ষ্য করে তৈরি। Nvidia-র সুবিধা হলো তাদের পরিপক্ক সফটওয়্যার স্ট্যাক, ব্যাপক ডেভেলপার ব্যবহার এবং বিভিন্ন এআই কাজের ক্ষেত্রে নমনীয়তা। বিপরীতে, Jalapeño হলো একটি নির্দিষ্ট কাজের জন্য তৈরি ডিভাইস যা কেবল তখনই জয়ী হয় যখন ওয়ার্কলোড এর বিশেষায়িত কাজের সাথে মিলে যায়।

Nvidia-র ওপর চাপের দুটি দিক রয়েছে। প্রথমত, যেসব গ্রাহক কাস্টম ASIC কেনার সামর্থ্য রাখেন, তারা আশাপ্রদ সাশ্রয়ের জন্য এতে স্থানান্তরিত হতে পারেন, যা Nvidia-র ইনফারেন্স মার্কেট শেয়ার কমিয়ে দিতে পারে। দ্বিতীয়ত, এআই যে হার্ডওয়্যার ডিজাইনে সাহায্য করতে পারে তার প্রমাণ প্রতিযোগীদের ডেভেলপমেন্ট সাইকেলকে সংকুচিত করতে পারে, যা Nvidia-কে তাদের রোডম্যাপ দ্রুত করতে বাধ্য করবে।

পাল্টা যুক্তি এবং অমীমাংসিত প্রশ্নাবলী

  • সফটওয়্যার ইকোসিস্টেম: Nvidia-র CUDA লাইব্রেরি, প্রোফাইলিং টুলস এবং কমিউনিটি সাপোর্ট এখনও বেশিরভাগ ডেভেলপারের কাছে তাদের একটি নির্ণায়ক সুবিধা প্রদান করে। Jalapeño ইন্টিগ্রেট করতে নতুন টুলচেইন এবং সম্ভবত কোড পুনরায় লেখার প্রয়োজন হবে।
  • বাস্তব জগতের যাচাইকরণ: এই সংখ্যাগুলো OpenAI-র অভ্যন্তরীণ পরীক্ষা থেকে এসেছে। স্বতন্ত্র বেঞ্চমার্ক, দীর্ঘমেয়াদী নির্ভরযোগ্যতার ডেটা এবং মিক্সড-টেন্যান্ট লোডের অধীনে স্কেলিং আচরণ এখনও যাচাই করা হয়নি।
  • ইকোনমিকস অফ স্কেল: একটি ASIC-এর খরচ কমার সুবিধা উৎপাদনের পরিমাণের সাথে বৃদ্ধি পায়। OpenAI-র অভ্যন্তরীণ ব্যবহার এই বিনিয়োগকে যৌক্তিক করতে পারে, তবে উৎপাদন স্কেল না করা পর্যন্ত বাইরের গ্রাহকদের প্রতিটি চিপের জন্য উচ্চমূল্য দিতে হতে পারে।

আগামীর পথ

আপাতত, Jalapeño প্রমাণ করে যে একটি নয় মাসের দ্রুতগতির উন্নয়ন এমন একটি চিপ তৈরি করতে পারে যা কাগজে-কলমে এআই স্ট্যাকের সবচেয়ে খরচ-সংবেদনশীল অংশে প্রচলিত GPU-কে ছাড়িয়ে যায়। আসল পরীক্ষা হবে সেই সুবিধা বাস্তব জগতের ওয়ার্কলোডের চাপে টিকে থাকে কি না।