AWS Bedrock کے 33 ریجنز میں سے صرف ایک—us-west-2—آپ کو 70-billion-parameter Llama 3.3 ماڈل کو fine-tune کرنے کی اجازت دیتا ہے۔ ڈویلپرز کو یا تو کراس ریجن پائپ لائنز (cross-region pipelines) کو آپس میں جوڑنا پڑتا ہے یا پھر کسی مشکل اور غیر موثر طریقے (clunky workaround) سے کام چلانا پڑتا ہے۔

یہ دریافت کیوں اہم ہے

AWS کا عوامی پرائسنگ پیج (public pricing page) اب بھی پرانی Llama 2 سیریز کے لیے ٹریننگ اخراجات دکھاتا ہے۔ نئی Llama 3.1 اور 3.3 فیملیز کا ذکر بالکل نہیں ہے۔ انجینئرز کو اندازہ لگانا پڑتا ہے کہ کون سے ریجنز حقیقت میں fine-tuning کو سپورٹ کرتے ہیں، جابز (jobs) کو قطار (queues) میں کتنا وقت لگے گا، اور کیا غیر فعال وقت (idle time) کے بھی پیسے لیے جائیں گے۔

ٹھوس اعداد و شمار

  • us-west-2 – واحد ریجن جہاں Llama 3.3 70B fine-tuning کام کرتی ہے۔
  • us-east-1 – صرف Amazon کے بنائے ہوئے ماڈلز؛ Llama یا Anthropic fine-tuning دستیاب نہیں۔
  • eu-west-2 (London) – صرف ایک غیر-Llama ماڈل کو fine-tune کرتا ہے۔
  • تمام دیگر ریجنز – Llama 3.3 70B کے لیے "model not available" کی غلطی (error) دیتے ہیں۔

اگر آپ کو ایک کسٹم-ٹیون شدہ (custom-tuned) Llama 3.3 70B کی ضرورت ہے، تو جاب کو us-west-2 میں چلائیں اور ڈیٹا کو مختلف ریجنز میں منتقل کریں، یا "Custom Model Import" کا طریقہ آزمائیں، لیکن مصنف کی کوشش ایک عام ہارڈ ویئر ایرر (hardware error) کی وجہ سے ناکام ہوگئی۔

Custom Model Import: ایک پرخطر راستہ

AWS کی دستاویزات (docs) کا دعویٰ ہے کہ "Custom Model Import" 200 GB سے کم weights والے ماڈلز کو کسی بھی ریجن، بشمول eu-central-1، میں لا سکتا ہے۔ حقیقت میں، Llama 3.3 70B (جو اس سائز سے کہیں زیادہ ہے) کو امپورٹ کرنے کی کوششوں میں بار بار "hardware error" کا سامنا کرنا پڑا۔ فی الحال، سب سے محفوظ راستہ اصل (native) us-west-2 fine-tuning اینڈ پوائنٹ ہی ہے۔

دو طریقے جو پیسے (اور ذہنی سکون) بچاتے ہیں

  1. اوپر سطح کے "InProgress" فلیگ پر بھروسہ نہ کریں۔ ایک جاب گھنٹوں تک AWS کے مینیجڈ کیو (queue) میں اس اسٹیٹس کے ساتھ رہ سکتی ہے جبکہ کوئی کمپیوٹ (compute) نہیں چل رہا ہوتا۔ بلنگ تب ہی شروع ہوتی ہے جب اندرونی trainingDetails فیلڈ "Running" میں تبدیل ہو جائے۔ غیر فعال کیو ٹائم (idle queue time) کے پیسے دینے سے بچنے کے لیے اندرونی فلیگ کو چیک کریں۔
  2. صبر بے صبری پر غالب آتا ہے۔ ایک ٹیسٹ جاب ٹریننگ شروع ہونے سے پہلے 23 گھنٹوں تک کیو میں رہی اور بغیر کسی مسئلے کے مکمل ہوگئی۔ اسے کینسل (kill) کر کے دوبارہ شروع کرنے سے وہ لائن میں سب سے پیچھے چلی گئی، جس سے کل انتظار کا وقت بڑھ گیا۔ کیو ٹائم مفت ہے؛ خرچہ تب شروع ہوتا ہے جب GPU instances چلنا شروع ہوتے ہیں۔

فیلڈ کے دیگر تجربات

  • ماڈل اسکیمائیں (schemas) مختلف ہوتی ہیں۔ Llama 3.3 اور Llama 3.1 مختلف کنفیگریشن آبجیکٹس استعمال کرتے ہیں۔ ایک ورژن سے دوسرے ورژن میں JSON schema کو کاپی پیسٹ کرنے سے ویلیڈیشن ایررز (validation errors) آتے ہیں، اگرچہ ٹوکن کی لمبائی جیسی حدود ایک جیسی ہوتی ہیں۔
  • کوٹہ کی پیچیدگیاں۔ "Custom models with a creating status" کی حد اکثر مجموعی جاب کوٹہ سے بہت کم ہوتی ہے۔ اگر آپ کو "quota exceeded" کی غلطی کا سامنا کرنا پڑے جبکہ پچھلی جاب اب بھی "creating" دکھا رہی ہو، تو نئی جاب شروع کرنے سے پہلے پرانی انٹری کو ڈیلیٹ کر دیں۔
  • اسٹوریج کا خرچہ بڑھتا جاتا ہے۔ ہر fine-tuned چیک پوائنٹ S3 اسٹوریج استعمال کرتا ہے جس کے لیے معیاری نرخوں (standard rates) پر بلنگ کی جاتی ہے۔ پرانے ورژنز کو ویسے ہی چھوڑ دینے سے آپ کا ماہانہ بل بڑھ جاتا ہے جبکہ اس سے کوئی فائدہ نہیں ہوتا۔

خلاصہ

اگر آپ کا پروجیکٹ ایک fine-tuned Llama 3.3 70B ماڈل پر منحصر ہے، تو اس مرحلے کو us-west-2 میں چلانے کا منصوبہ بنائیں، یا کسٹم امپورٹس کے ساتھ آزمائش اور غلطی (trial-and-error) کے لیے تیار رہیں۔ کیو اسٹیٹس (queue status) کی باریک بینی سے تصدیق کریں، طویل انتظار کرنے والی جابز کو منسوخ کرنے سے گریز کریں، اور اسٹوریج اور کوٹہ کے استعمال پر کڑی نظر رکھیں۔