Ni moja tu kati ya maeneo (regions) 33 ya AWS Bedrock—us-west-2—inayokuwezesha kufanya fine-tuning ya modeli ya Llama 3.3 yenye vigezo (parameters) bilioni 70. Watengenezaji lazima iunganishe mifumo ya kuvuka maeneo (cross-region pipelines) au wavumilie njia mbadala zisizo na ufanisi.

Kwa nini ugunduzi huu ni muhimu

Ukurasa wa bei wa hadhara wa AWS bado unaorodhesha gharama za mafunzo (training costs) kwa mfululizo wa zamani wa Llama 2. Familia mpya za Llama 3.1 na 3.3 hazijaonekana kabisa. Wahandisi wamebaki kukisia ni maeneo gani yanayounga mkono fine-tuning, kazi zitakaa kwa muda gani kwenye foleni (queues), na ikiwa muda wa kutokuwa na kazi (idle time) utatozwa.

Takwimu halisi

  • us-west-2 – eneo pekee ambapo fine-tuning ya Llama 3.3 70B inafanya kazi.
  • us-east-1 – modeli zilizoundwa na Amazon pekee; hakuna fine-tuning ya Llama au Anthropic.
  • eu-west-2 (London) – inafanya fine-tuning ya modeli moja isiyo ya Llama.
  • Maeneo mengine yote – yanatoa makosa ya “model not available” kwa Llama 3.3 70B.

Ikiwa unahitaji Llama 3.3 70B iliyofanyiwa marekebisho maalum (custom-tuned), endesha kazi hiyo katika us-west-2 na ushinde data kuvuka maeneo, au jaribu njia ya “Custom Model Import”, ambayo jaribio la mwandishi lilifeli kabisa kutokana na hitilafu ya jumla ya kifaa (hardware error).

Custom Model Import: njia ya hatari

Nyaraka za AWS zinadai kuwa “Custom Model Import” inaweza kuleta uzito (weights) wa chini ya GB 200 katika eneo lolote, ikiwemo eu-central-1. Kiuhalisia, majaribio ya kuingiza (import) Llama 3.3 70B (ambayo ni kubwa zaidi ya ukubwa huo) yamegonga mara kwa mara “hardware error.” Kwa sasa, chaguo salama zaidi ni kutumia endpoint ya asili ya fine-tuning ya us-west-2.

Mbinu mbili zinazookoa pesa (na akili)

  1. Usiamini alama ya juu ya “InProgress”. Kazi inaweza kukaa kwenye foleni inayodhibitiwa na AWS kwa saa nyingi ikiwa na hali hiyo wakati hakuna compute inayofanya kazi. Malipo huanza tu wakati uwanja wa trainingDetails unabadilika kuwa “Running.” Angalia alama ya ndani ili kuepuka kulipia muda wa foleni ukiwa hauna kazi.
  2. Subira inashinda haraka. Kazi moja ya majaribio ilikaa kwenye foleni kwa saa 23 kabla ya mafunzo kuanza na kukamilika bila tatizo. Kuifuta na kuianzisha upya iliiweka nyuma kabisa kwenye mstari, ikiongeza muda wote wa kusubiri. Muda wa foleni ni bure; gharama huanza mara tu mifumo ya GPU inapoanza kufanya kazi.

Mafunzo mengine ya nyanjani

  • Mifumo ya modeli (Model schemas) inatofautiana. Llama 3.3 na Llama 3.1 hutumia vitu vya usanidi (configuration objects) tofauti. Kunakili na kubandika (copy-pasting) JSON schema kutoka toleo moja kwenda lingine husababisha makosa ya uhakiki (validation errors), ingawa mipaka kama urefu wa tokeni inafanana.
  • Changamoto za kotala (Quota quirks). Kikomo cha “Custom models with a creating status” mara nyingi ni cha chini sana kuliko kotala ya jumla ya kazi. Ukipata kosa la “quota exceeded” wakati kazi iliyopita bado inaonyesha “creating,” futa ingizo la zamani kabla ya kuanzisha lingine jipya.
  • Uhifadhi unazidi kuongezeka. Kila checkpoint iliyofanyiwa fine-tuning hutumia uhifadhi wa S3 unaotozwa kwa viwango vya kawaida. Kuacha matoleo ya zamani bila kuguswa huongeza bili yako ya kila mwezi bila kutoa thamani.

Hitimisho

Ikiwa mradi wako unategemea modeli ya Llama 3.3 70B iliyofanyiwa fine-tuning, panga hatua hiyo kufanyika katika us-west-2, au jiandae kwa majaribio na makosa (trial-and-error) na uingizaji wa modeli maalum (custom imports). Hakiki hali ya foleni kwa kiwango cha ndani zaidi, epuka kusitisha kazi zinazosubiri kwa muda mrefu, na ufuatilie matumizi ya uhifadhi na kotala kwa karibu.