AWS Bedrock-এর ৩৩টি অঞ্চলের মধ্যে মাত্র একটি—us-west-2—আপনাকে ৭০-বিলিয়ন প্যারামিটারের Llama 3.3 মডেলটি fine-tune করার সুযোগ দেয়। ডেভেলপারদের হয় ক্রস-রিজিয়ন পাইপলাইন তৈরি করতে হবে অথবা একটি জটিল বিকল্প পদ্ধতি (workaround) মেনে নিতে হবে।

কেন এই আবিষ্কারটি গুরুত্বপূর্ণ

AWS-এর পাবলিক প্রাইসিং পেজে এখনও পুরনো Llama 2 সিরিজের ট্রেনিং খরচ তালিকাভুক্ত করা আছে। নতুন Llama 3.1 এবং 3.3 ফ্যামিলিগুলো সেখানে একেবারেই নেই। ইঞ্জিনিয়ারদের অনুমান করতে হয় কোন অঞ্চলগুলো আসলে fine-tuning সাপোর্ট করে, জবগুলো কতক্ষণ কিউতে (queue) থাকবে এবং আইডল (idle) সময়ের জন্য বিল আসবে কি না।

প্রকৃত তথ্য বা সংখ্যাসমূহ

  • us-west-2 – একমাত্র অঞ্চল যেখানে Llama 3.3 70B fine-tuning কাজ করে।
  • us-east-1 – শুধুমাত্র Amazon-নির্মিত মডেল; কোনো Llama বা Anthropic fine-tuning সম্ভব নয়।
  • eu-west-2 (London) – একটি মাত্র নন-Llama মডেল fine-tune করতে পারে।
  • অন্যান্য সকল অঞ্চল – Llama 3.3 70B-এর জন্য “model not available” এরর (error) দেখায়।

আপনার যদি একটি কাস্টম-টিউন করা Llama 3.3 70B প্রয়োজন হয়, তবে us-west-2 অঞ্চলে জবটি চালান এবং বিভিন্ন অঞ্চলের মধ্যে ডেটা ট্রান্সফার করুন, অথবা “Custom Model Import” পদ্ধতিটি চেষ্টা করতে পারেন, যদিও লেখকের প্রচেষ্টায় একটি সাধারণ হার্ডওয়্যার এররের (hardware error) কারণে সেটি ব্যর্থ হয়েছে।

Custom Model Import: একটি ঝুঁকিপূর্ণ বিকল্প পথ

AWS ডকুমেন্টেশন দাবি করে যে “Custom Model Import”-এর মাধ্যমে ২০০ GB-এর নিচের ওয়েট (weights) eu-central-1 সহ যেকোনো অঞ্চলে নিয়ে আসা সম্ভব। বাস্তবে, Llama 3.3 70B (যা এই সাইজের চেয়ে অনেক বড়) ইমপোর্ট করার চেষ্টা বারবার “hardware error” দেখাচ্ছে। আপাতত, নেটিভ us-west-2 fine-tuning endpoint ব্যবহার করাই সবচেয়ে নিরাপদ।

টাকা (এবং মানসিক শান্তি) বাঁচানোর দুটি কৌশল

  1. টপ-লেভেল “InProgress” ফ্ল্যাগ-এর ওপর ভরসা করবেন না। কোনো জব ঘণ্টার পর ঘণ্টা AWS-ম্যানেজড কিউতে (queue) “InProgress” স্ট্যাটাস নিয়ে বসে থাকতে পারে, অথচ কোনো কম্পিউট (compute) কাজ করছে না। বিলিং তখনই শুরু হয় যখন নেস্টেড trainingDetails ফিল্ডটি “Running” এ পরিবর্তিত হয়। কিউতে বসে থাকা সময়ের জন্য বিল এড়াতে ভেতরের ফ্ল্যাগটি চেক করুন।
  2. অস্থিরতার চেয়ে ধৈর্য বেশি কার্যকর। একটি টেস্ট জব ট্রেনিং শুরু হওয়ার আগে ২৩ ঘণ্টা কিউতে অপেক্ষা করেছিল এবং কোনো সমস্যা ছাড়াই সম্পন্ন হয়েছিল। জবটি বন্ধ করে পুনরায় চালু করলে সেটি লাইনের একদম শেষে চলে যায়, ফলে মোট অপেক্ষার সময় বেড়ে যায়। কিউতে থাকার সময় ফ্রি; খরচ তখনই শুরু হয় যখন GPU ইনস্ট্যান্সগুলো চালু হয়।

মাঠ পর্যায়ের অন্যান্য শিক্ষা

  • মডেল স্কিমা (schema) ভিন্ন হয়। Llama 3.3 এবং Llama 3.1 আলাদা কনফিগারেশন অবজেক্ট ব্যবহার করে। একটি ভার্সন থেকে অন্য ভার্সনে JSON স্কিমা কপি-পেস্ট করলে ভ্যালিডেশন এরর (validation error) দেখা দেয়, যদিও টোকেন লেন্থের মতো লিমিটগুলো একই থাকে।
  • কোটার (quota) অদ্ভুত নিয়ম। “Custom models with a creating status”-এর লিমিট প্রায়শই সামগ্রিক জব কোটার চেয়ে অনেক কম থাকে। যদি দেখেন আগের একটি জব এখনও “creating” দেখাচ্ছে এবং আপনি “quota exceeded” এরর পাচ্ছেন, তবে নতুন একটি জব শুরু করার আগে পুরনো এন্ট্রিটি ডিলিট করে দিন।
  • স্টোরেজ খরচ বাড়তে পারে। প্রতিটি fine-tuned চেকপয়েন্ট S3 স্টোরেজ ব্যবহার করে, যার জন্য স্ট্যান্ডার্ড রেটে বিল করা হয়। কোনো কাজে না আসা পুরনো ভার্সনগুলো রেখে দিলে কোনো সুবিধা ছাড়াই আপনার মাসিক বিল বেড়ে যাবে।

সারকথা

আপনার প্রজেক্ট যদি একটি fine-tuned Llama 3.3 70B মডেলের ওপর নির্ভরশীল হয়, তবে সেই ধাপটি us-west-2 অঞ্চলে চালানোর পরিকল্পনা করুন, অথবা কাস্টম ইমপোর্টের ক্ষেত্রে ট্রায়াল-অ্যান্ড-এরর (trial-and-error) পদ্ধতির জন্য প্রস্তুত থাকুন। কিউ স্ট্যাটাসটি সূক্ষ্মভাবে যাচাই করুন, দীর্ঘ সময় অপেক্ষারত জবগুলো বাতিল করা থেকে বিরত থাকুন এবং স্টোরেজ ও কোটা ব্যবহার নিবিড়ভাবে পর্যবেক্ষণ করুন।