AWS Bedrock च्या ३३ रिजनपैकी (regions) फक्त एक—us-west-2—तुम्हाला ७०-बिलियन-पॅरामीटर असलेला Llama 3.3 मॉडेल फाईन-ट्यून (fine-tune) करण्याची परवानगी देते. डेव्हलपर्सना एकतर क्रॉस-रिजन पाईपलाईन्स (cross-region pipelines) एकत्र जोडाव्या लागतात किंवा एखाद्या कठीण पर्यायाचा (clunky workaround) अवलंब करावा लागतो.

ही माहिती का महत्त्वाची आहे

AWS च्या सार्वजनिक प्राइसिंग पेजवर (pricing page) अजूनही जुन्या Llama 2 सिरीजसाठी ट्रेनिंग खर्च दर्शविला जातो. नवीन Llama 3.1 आणि 3.3 फॅमिली पूर्णपणे गायब आहेत. कोणते रिजन प्रत्यक्षात फाईन-ट्यूनिंगला सपोर्ट करतात, जॉब्स (jobs) किती वेळ क्यू (queue) मध्ये राहतील आणि आयडल टाइमसाठी (idle time) बिल आकारले जाईल का, याबाबत इंजिनिअर्सना अंदाज बांधावा लागतो.

नेमकी आकडेवारी

  • us-west-2 – एकमेव रिजन जिथे Llama 3.3 70B फाईन-ट्यूनिंग काम करते.
  • us-east-1 – फक्त Amazon-निर्मित मॉडेल्स; Llama किंवा Anthropic फाईन-ट्यूनिंग उपलब्ध नाही.
  • eu-west-2 (London) – फक्त एकच, नॉन-Llama मॉडेल फाईन-ट्यून करते.
  • इतर सर्व रिजन – Llama 3.3 70B साठी “model not available” एरर (error) देतात.

जर तुम्हाला कस्टम-ट्यून केलेले Llama 3.3 70B हवे असेल, तर जॉब us-west-2 मध्ये चालवा आणि डेटा क्रॉस-रिजन पद्धतीने पाठवा, किंवा “Custom Model Import” चा मार्ग वापरून पहा, परंतु लेखकाच्या प्रयत्नात सामान्य हार्डवेअर एररमुळे (hardware error) ती पद्धत अपयशी ठरली.

Custom Model Import: एक जोखमीचा मार्ग

AWS डॉक्युमेंट्सनुसार (docs), “Custom Model Import” द्वारे २०० GB पेक्षा कमी वजनाचे (weights) मॉडेल eu-central-1 सह कोणत्याही रिजनमध्ये आणता येते. प्रत्यक्षात, Llama 3.3 70B (जे या आकारापेक्षा खूप मोठे आहे) इम्पोर्ट करण्याचा प्रयत्न वारंवार “hardware error” दाखवतो. सध्यासाठी, नेटिव्ह (native) us-west-2 फाईन-ट्यूनिंग एंडपॉइंट (endpoint) हाच सर्वात सुरक्षित पर्याय आहे.

पैसे (आणि मानसिक शांतता) वाचवणारे दोन युक्त्या

  1. वरच्या स्तरावरील “InProgress” फ्लॅगवर (flag) विश्वास ठेवू नका. कोणताही कॉम्प्युट (compute) रन होत नसतानाही, जॉब तासनतास AWS-मॅनेज्ड क्यू (queue) मध्ये त्या स्टेटससह राहू शकतो. जेव्हा नेस्टेड trainingDetails फील्ड “Running” मध्ये बदलते, तेव्हाच बिलिंग सुरू होते. आयडल क्यू टाइमसाठी (idle queue time) पैसे भरण्यापासून वाचण्यासाठी अंतर्गत फ्लॅग तपासा.
  2. संयम महत्त्वाचा आहे. एक टेस्ट जॉब ट्रेनिंग सुरू होण्यापूर्वी २३ तास क्यू मध्ये राहिला आणि नंतर कोणत्याही अडचणीशिवाय पूर्ण झाला. तो जॉब थांबवून (killing) पुन्हा सुरू केल्यामुळे तो रांगेत सर्वात शेवटी गेला, ज्यामुळे एकूण प्रतीक्षा वेळ वाढला. क्यू टाइम मोफत आहे; एकदा GPU इन्स्टन्सेस (instances) सुरू झाले की खर्च सुरू होतो.

इतर महत्त्वाचे धडे

  • मॉडेल स्कीमा (schemas) वेगळे असतात. Llama 3.3 आणि Llama 3.1 मध्ये वेगळे कॉन्फिगरेशन ऑब्जेक्ट्स (configuration objects) वापरले जातात. टोकन लांबीसारख्या मर्यादा सारख्या असल्या तरी, एका व्हर्जनचा JSON स्कीमा दुसऱ्या व्हर्जनमध्ये कॉपी-पेस्ट केल्यास व्हॅलिडेशन एरर्स (validation errors) येतात.
  • कोटा (Quota) मधील त्रुटी. “Custom models with a creating status” ची मर्यादा अनेकदा एकूण जॉब कोटापेक्षा खूपच कमी असते. जर एखादा जुना जॉब अजूनही “creating” दाखवत असताना तुम्हाला “quota exceeded” एरर येत असेल, तर नवीन जॉब सुरू करण्यापूर्वी जुनी एन्ट्री (entry) डिलीट करा.
  • स्टोरेजचा खर्च वाढतो. प्रत्येक फाईन-ट्यून केलेल्या चेकपॉइंटसाठी (checkpoint) S3 स्टोरेज वापरले जाते, ज्याचे बिलिंग स्टँडर्ड दराने केले जाते. जुने व्हर्जन तसेच ठेवल्यामुळे कोणताही फायदा न होता तुमचा मासिक खर्च वाढतो.

थोडक्यात सांगायचे तर

जर तुमचा प्रोजेक्ट फाईन-ट्यून केलेल्या Llama 3.3 70B मॉडेलवर अवलंबून असेल, तर तो टप्पा us-west-2 मध्ये चालवण्याचे नियोजन करा, किंवा कस्टम इम्पोर्ट्सच्या (custom imports) प्रयत्नांसाठी तयार राहा. क्यू स्टेटस (queue status) बारकाईने तपासा, जास्त वेळ वाट पाहणारे जॉब्स मध्येच थांबवणे टाळा आणि स्टोरेज व कोटा वापराचे बारकाईने निरीक्षण करा.