IBM তাদের Granite 4.2 ফ্যামিলির লার্জ ল্যাঙ্গুয়েজ মডেলগুলো উন্মোচন করেছে, যেখানে ৩ বিলিয়ন, ৮ বিলিয়ন এবং ৩০ বিলিয়ন প্যারামিটার বিশিষ্ট সংস্করণ রয়েছে। এগুলোর ৫১২ কে-টোকেন কনটেক্সট উইন্ডো এবং বিল্ট-ইন এজেন্টিক টুল ব্যবহারের সুবিধা রয়েছে, যা সম্পূর্ণ Apache 2.0 লাইসেন্সের অধীনে। এই পদক্ষেপটি ডেভেলপারদের একটি বিরল ওপেন-ওয়েট, এন্টারপ্রাইজ-গ্রেড এআই প্রদান করে, যা বিশাল সব নথিপত্র বিশ্লেষণ করতে পারে এবং প্রোপাইটরি এপিআই-এর ওপর নির্ভর না করেই স্বয়ংক্রিয়ভাবে কাজ করতে পারে।
কেন IBM-এর এই ওপেন-ওয়েট উদ্যোগ এখন গুরুত্বপূর্ণ
এই নমনীয় লাইসেন্স কোম্পানিগুলোকে লাইসেন্সিং ফি ছাড়াই অন-প্রিমিসেস, প্রাইভেট ক্লাউড বা এজ ডিভাইসে মডেলগুলো চালানোর সুযোগ দেয়—যা সেই সব নিয়ন্ত্রিত শিল্পগুলোর জন্য একটি স্পষ্ট সুবিধা যারা তাদের ডেটা বাহ্যিক পরিষেবার কাছে প্রকাশ করতে পারে না।
প্রযুক্তিগত অগ্রগতি
- স্কেল এবং ট্রেনিং ডেটা – IBM মডেলগুলোকে প্রায় ১৫ ট্রিলিয়ন টোকেন ব্যবহার করে একদম শুরু থেকে প্রশিক্ষণ দিয়েছে, যা বৃহত্তম বাণিজ্যিক ফাউন্ডেশনগুলোর ডেটাসেটের আকারের সমতুল্য।
- কনটেক্সট উইন্ডো – ৫১২ কে-টোকেন উইন্ডো একটি মাত্র পাসে সম্পূর্ণ কোডবেস, দীর্ঘ নীতি নথি বা বহু অধ্যায়ের বই কভার করতে পারে, যা চাকিং (chunking) এবং পুনরায় একত্রিত করার প্রয়োজনীয়তা দূর করে।
- ডুয়াল-মোড কম্পিউট – একটি “thinking” মোড গভীর রিজনিং লেয়ারগুলোকে সক্রিয় করে, অন্যদিকে একটি “non-thinking” মোড কম GPU চাহিদা নিয়ে সাধারণ লুক-আপ সম্পন্ন করে। এই টগলটি ব্যবহারকারীদের ল্যাটেন্সি এবং প্রতি অনুরোধের খরচের মধ্যে ভারসাম্য বজায় রাখতে সাহায্য করে।
- এজেন্টিক রিইনফোর্সমেন্ট লার্নিং – ৮ B এবং ৩০ B মডেলগুলো একটি বিশেষায়িত RL পর্যায়ের মধ্য দিয়ে গেছে যা তাদের বাহ্যিক টুল ব্যবহার করা, স্যান্ডবক্সড কোড চালানো এবং ওয়েব সার্চ করার প্রশিক্ষণ দেয়। মডেলগুলো OpenAI-স্টাইল টুল-কলিং এন্ডপয়েন্ট প্রদান করে, ফলে বিদ্যমান অর্কেস্ট্রেশন পাইপলাইনগুলো নতুন করে না লিখেও পুনরায় ব্যবহার করা সম্ভব।
- ইনফারেন্স-বান্ধব – vLLM এবং SGLang-এর সাথে সামঞ্জস্যতার কারণে মডেলগুলো সাধারণ হার্ডওয়্যারে উচ্চ থ্রুপুট প্রদান করতে পারে, যা ডজন ডজন সমান্তরাল এজেন্ট স্কেল করার জন্য এন্টারপ্রাইজগুলোর জন্য একটি ব্যবহারিক সুবিধা।
স্পিচ সাইড-ট্র্যাক: Granite Speech 5.0 Turbo CTC
LLM লাইনের পাশাপাশি, IBM Granite Speech 5.0 Turbo CTC নামে ৪৭০ মিলিয়ন প্যারামিটার বিশিষ্ট একটি স্পিচ-টু-টেক্সট মডেল প্রকাশ করেছে। IBM বলছে এটি এক সেকেন্ডে তিন ঘণ্টার অডিও ট্রান্সক্রাইব করতে পারে, যা Open ASR লিডারবোর্ডের পূর্ববর্তী বিজয়ীদের তুলনায় দ্বিগুণ দ্রুত। এর ক্ষুদ্র আকার এবং অত্যধিক থ্রুপুট এটিকে রিয়েল-টাইম ক্যাপশনিং, কল-সেন্টার অ্যানালিটিক্স এবং বৃহৎ পরিসরের অডিও ইনজেশন পাইপলাইনের জন্য একটি উপযুক্ত প্রার্থী করে তুলেছে।
AI ইকোসিস্টেমের জন্য গুরুত্ব
কারা লাভবান হবে:
- এন্টারপ্রাইজগুলো ব্যয়বহুল API ব্যবহারের পরিবর্তে একটি সাশ্রয়ী, সেলফ-হোস্টেড বিকল্প পাবে।
- ডেভেলপাররা একটি তৈরি করা এজেন্টিক স্ট্যাক পাবে যা বাণিজ্যিক লাইসেন্স নিয়ে দরকষাকষি না করেই কাস্টমাইজ করা সম্ভব।
- IBM তার গবেষণা সক্ষমতা প্রদর্শনকারী একটি ফ্ল্যাগশিপ ওপেন-সোর্স অফার প্রদানের মাধ্যমে AI দৌড়ে তার প্রাসঙ্গিকতা পুনরায় প্রতিষ্ঠিত করছে।
কারা হুমকির মুখে:
- ক্লোজড-সোর্স প্রদানকারী সংস্থাগুলো, যারা প্রোপাইটরি মডেলের মাধ্যমে গ্রাহকদের আটকে রাখার (lock-in) ওপর নির্ভর করে, তারা এন্টারপ্রাইজ স্পেন্ড বা ব্যয়ে হ্রাস দেখতে পারে যদি গ্রাহকরা স্থানীয়ভাবে হোস্ট করা Granite এজেন্টগুলোতে স্থানান্তরিত হয়।
- ছোট ওপেন-সোর্স প্রজেক্টগুলো ম্লান হয়ে যেতে পারে; Granite-এর স্কেল এবং টুলিং সাপোর্ট কমিউনিটি-চালিত প্রচেষ্টার জন্য একটি উচ্চ মানদণ্ড স্থাপন করে।
খরচ এবং ভারসাম্য: পাঁচ লক্ষ টোকেন কনটেক্সট সহ একটি ৩০ B মডেল চালাতে এখনও উচ্চমানের GPU বা ক্লাস্টার প্রয়োজন; সংস্থাগুলোকে হার্ডওয়্যার বিনিয়োগের বিপরীতে API ফি সাশ্রয়ের বিষয়টি বিবেচনা করতে হবে।
সারকথা
Granite 4.2 একটি সত্যিকারের এন্টারপ্রাইজ-গ্রেড, ওপেন-ওয়েট এআই জনসমক্ষে নিয়ে এসেছে, যেখানে বিশাল কনটেক্সট উইন্ডোর সাথে সরাসরি টুল ব্যবহারের সুবিধা যুক্ত করা হয়েছে। এর Apache 2.0 লাইসেন্স আইনি জটিলতা দূর করে, তবে হার্ডওয়্যার এবং নিরাপত্তার চ্যালেঞ্জের কারণে মডেলটি প্রথমে সেই সব সম্পদশালী সংস্থাগুলোতে জায়গা করে নেবে যারা কম্পিউট খরচ বহন করতে পারে এবং শক্তিশালী স্যান্ডবক্সিংয়ে বিনিয়োগ করতে পারে। যদি কমিউনিটি এটিকে সমর্থন করে, তবে Granite পরবর্তী প্রজন্মের স্বায়ত্তশাসিত এজেন্টগুলোর মেরুদণ্ড হয়ে উঠতে পারে, যা বৃহত্তর এআই বাজারকে এমন ওপেন-সোর্স বিকল্পগুলোর মুখোমুখি হতে বাধ্য করবে যা আর স্কেল বা সক্ষমতার ক্ষেত্রে কোনো আপস করে না।