Meta Llama 3.2 ওপেন সোর্স হিসেবে প্রকাশ করেছে

Meta Llama 3.2 সবার জন্য উন্মুক্ত করেছে, যার মধ্যে একটি ৭০ বিলিয়ন-প্যারামিটার মডেল যুক্ত করা হয়েছে। আপনি GitHub বা Hugging Face থেকে কোডটি সংগ্রহ করতে পারেন।

মডেলটি ২.৫ ট্রিলিয়ন-টোকেন ডেটাসেটের ওপর প্রশিক্ষণ দেওয়া হয়েছে। বিভিন্ন ধরনের কাজের চাপ সামলাতে Meta তিনটি সাইজ প্রদান করছে:

  • 8 B
  • 30 B
  • 70 B

এই তিনটিই আধুনিক GPU এবং LPU চিপে চলতে পারে। একটি নতুন আর্কিটেকচার কম্পিউটেশনাল চাহিদা ২২% কমিয়ে দেয়, যার ফলে খরচ কমে এবং শক্তির ব্যবহারও হ্রাস পায়।

কেন এটি আপনার জন্য গুরুত্বপূর্ণ

  • কম খরচ – স্টার্টআপ এবং ডেভেলপাররা এখন বিশাল বাজেট ছাড়াই বড় মডেলগুলো চালাতে পারবেন।
  • উন্নত পারফরম্যান্স – বেঞ্চমার্ক অনুযায়ী, reasoning এবং বহুভাষিক কাজের ক্ষেত্রে Llama 3.2 বেশ কিছু ওপেন-সোর্স প্রতিদ্বন্দ্বীকে ছাড়িয়ে গেছে।
  • বাণিজ্যিক স্বাধীনতা – Apache 2.0 লাইসেন্স আপনাকে কোনো রয়্যালটি ছাড়াই ব্যবসায়িক কাজে মডেলটি ব্যবহার করার অনুমতি দেয়।
  • হার্ডওয়্যার গতি – NVIDIA H100 এবং Groq LPU-এর মতো চিপগুলোতে মডেলটি ১.৮ গুণ দ্রুত চলে।

Meta একটি তহবিলে ১৫০ মিলিয়ন ডলার বিনিয়োগ করছে যা Llama 3.2-এর ওপর ভিত্তি করে তৈরি প্রকল্পগুলোকে সহায়তা করবে, যার ফলে AI উন্নয়ন কেবল বদ্ধ ল্যাবরেটরির মধ্যে সীমাবদ্ধ না থেকে কমিউনিটির কাছে পৌঁছে যাবে।

উৎস: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi