কেন ফিলিপাইনের এন্টারপ্রাইজগুলো স্মল ল্যাঙ্গুয়েজ মডেলের (SLM) দিকে ঝুঁকছে
২০২৬ সালের মধ্যে, এন্টারপ্রাইজ এআই (AI) ওয়ার্কলোডের ৭৮% ১০ বিলিয়নের কম প্যারামিটারের মডেলে চলবে। এটি ২০২৪ সালের ৩১% থেকে একটি বিশাল লাফ।
ফিলিপাইনের ব্যবসায়িক প্রতিষ্ঠানগুলো বিশাল ফ্রন্টিয়ার মডেলগুলো থেকে সরে আসছে। এর পরিবর্তে তারা স্মল ল্যাঙ্গুয়েজ মডেল (SLM) বেছে নিচ্ছে। এই পরিবর্তন তিনটি সমস্যার সমাধান করে: খরচ, গতি এবং ডেটা আইন।
খরচের পার্থক্য
ফ্রন্টিয়ার মডেলগুলোর প্রতি মিলিয়ন টোকেনের খরচ ০.৫০ থেকে ১৫ ডলারের মধ্যে। একটি মাঝারি আকারের BPO এই API কলগুলোর জন্য প্রতি মাসে ছয় অঙ্কের অংকের টাকা ব্যয় করতে পারে।
SLM এই হিসাব বদলে দিচ্ছে। একটি সিঙ্গেল GPU-তে ফাইন-টিউন করা একটি 7B মডেলের প্রতি মিলিয়ন টোকেনের খরচ প্রায় ০.০৮ ডলার। এটি খরচে ৮৫% হ্রাস।
গতির প্রভাব
বড় ক্লাউড মডেলগুলোর রেসপন্স করতে ৮০০ থেকে ২,০০০ মিলিসেকেন্ড সময় লাগে। লোকাল হার্ডওয়্যারে SLM গুলো ৫০ থেকে ২০০ মিলিসেকেন্ডের মধ্যে রেসপন্স করে। ভয়েস এজেন্ট এবং ফ্রড ডিটেকশনের ক্ষেত্রে গতিই সব।
ডেটা সার্বভৌমত্ব এবং আইন
বাঙ্কো সেন্ট্রাল এনজ ফিলিপাইনস (Bangko Sentral ng Pilipinas) আর্থিক প্রতিষ্ঠানগুলোর জন্য ডেটা স্থানীয় এবং অডিটেবল রাখা বাধ্যতামূলক করেছে। বড় ইউএস-ভিত্তিক মডেলগুলো প্রায়শই এই পরীক্ষায় ব্যর্থ হয় কারণ ডেটা দেশের বাইরে চলে যায়।
সেলফ-হোস্টেড SLM আপনার ডেটা সেন্টারে থাকে। লগগুলোর মালিক আপনি। নিরাপত্তা আপনার নিয়ন্ত্রণে।
ফিলিপাইনে তিনটি প্রধান ব্যবহারের ক্ষেত্র
- BPO অপারেশন: মেট্রো ম্যানিলার একটি BPO একটি 8B মডেল ব্যবহার করে প্রতি ইন্টারঅ্যাকশনে খরচ $0.012 থেকে কমিয়ে $0.0018 এ নামিয়ে এনেছে।
- ব্যাংকিং: ব্যাংকগুলো তাগালগ (Tagalog) এবং সেবুয়ানো (Cebuano) ভাষায় নথি প্রসেস করতে SLM ব্যবহার করে। এই মডেলগুলো স্থানীয় ভাষার নির্ভুলতার ক্ষেত্রে সাধারণ মডেলগুলোর চেয়ে ২২% পর্যন্ত এগিয়ে।
- স্বাস্থ্যসেবা: ফিলিপাইন জেনারেল হাসপাতাল রুটিন পেশেন্ট ইনকোয়ারি বা রোগীদের সাধারণ জিজ্ঞাসার ৪০% সামলাতে একটি অন-প্রিমিস SLM ব্যবহার করে।
চ্যালেঞ্জ
SLM চালানো সহজ নয়। এগুলো ফাইন-টিউন এবং মনিটর করার জন্য MLOps দক্ষ জনবলের প্রয়োজন। বর্তমানে ফিলিপাইনের ১৭ লক্ষ IT-BPM কর্মীদের মধ্যে ৫%-এরও কম মানুষের এই অভিজ্ঞতা রয়েছে।
আপনার একটি SLM প্রয়োজন কি না তা কীভাবে সিদ্ধান্ত নেবেন:
- আপনার কাজ কি নির্দিষ্ট এবং উচ্চ-ভলিউমের? তবে SLM ব্যবহার করুন।
- আপনার ডেটা কি সংবেদনশীল বা নিয়ন্ত্রিত? তবে SLM ব্যবহার করুন।
- আপনার কি একটি MLOps টিম আছে? যদি না থাকে, তবে আপাতত API ব্যবহার চালিয়ে যান।
ফিলিপাইনে এআই-এর ভবিষ্যৎ বড় মডেল নয়। বরং এটি হলো ছোট, দ্রুত এবং স্থানীয়ভাবে নিয়ন্ত্রিত মডেল।
উৎস: https://dev.to/yanoai/why-philippine-enterprises-are-quietly-switching-to-small-language-models-4hek
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi