Jaribio la mwanatengenezaji mmoja (solo developer) kwa kutumia mifano mitatu ya Claude lilipunguza gharama za kila mwezi za API kwa 35% na kupunguza muda wa wastani wa kutekeleza kazi (latency) kutoka sekunde 42 hadi sekunde 27. Kwa kuelekeza kazi rahisi na zisizo na utata kwenye mfano wa bei rahisi wa Haiku, kazi za kawaida kwa Sonnet, na kuweka Opus nzito kwa matatizo yenye hatari kubwa, mwandishi alithibitisha kuwa tabia ya "kutumia mfano bora kwa kila kitu" ni gharama kubwa.

Kwa nini uelekezaji (routing) ulikuwa muhimu

Mwandishi anaendesha wakala wa kodi anayejitegemea (autonomous coding agent) ambaye hupokea mtiririko wa kazi za maendeleo—marekebisho ya lint, uongezaji wa vipengele, mapitio ya usalama, na vikao vya kina vya kutatua hitilafu (debugging). Kwa miezi kadhaa, wakala huyo alituma kila ombi kwa Opus, mfano wenye uwezo mkubwa zaidi wa Claude, akidhania kuwa ubora wa juu daima ungezidi bei. Opus ina bei ya juu kwa kila token, hivyo bili iliongezeka bila udhibiti.

Mwandishi alipoanzisha mpango wa uelekezaji wa ngazi (tiered routing scheme), matumizi yalishuka hadi 65% ya kiwango chake cha awali na matumizi ya Opus yalipungua hadi 11% ya kazi zote.

Jinsi mfumo wa ngazi tatu unavyofanya kazi

Mantiki ya uelekezaji inategemea utata (ambiguity), na si idadi ya mistari ya kodi inayohusika katika kazi. Mwandishi alifafanua makundi matatu:

  • Haiku – kazi zenye utata mdogo na zinazotabirika. Mifano: kurekebisha onyo za lint, kubadilisha majina ya vigeu (variables), kufupisha faili za log. Jibu sahihi kwa kawaida ni mstari mmoja wa kodi au maandishi.
  • Sonnet – injini ya kawaida ya kazi. Inashughulikia utekelezaji wa vipengele, marekebisho ya kawaida ya hitilafu, na uboreshaji wa kodi (refactors) ambapo tatizo liko wazi lakini suluhisho linaweza kuhusisha hatua kadhaa.
  • Opus – kazi zenye hatari kubwa na utata mwingi. Maamuzi ya usanifu (architecture), ukaguzi wa usalama, vikao tata vya kutatua hitilafu, au kazi yoyote ambapo njia sahihi haiko wazi na kosa moja linaweza kuharibu mfumo (pipeline).

Jedwali la utafutaji la kudumu (static lookup table) linapanga kila ombi linaloingia kwenye mfano unaofaa kulingana na sheria hizi. Mwandishi alijaribu mfano wa "akili" (smart model) ambao ungeamua ngazi papo hapo, lakini matumizi ya ziada ya token yalifuta akiba yoyote. Sheria rahisi za kudumu zilifunika takriban 80% ya mzigo wa kazi na kuifanya mfumo uwe na gharama nafuu na inayotabirika.

Mtandao wa usalama wa uongezaji ngazi (escalation safety net)

Mifano ya bei rahisi bado hufanya makosa. Ili kuzuia jibu lisilo sahihi kutoka Haiku au Sonnet liharibu ujenzi wa programu (build), mfumo huongeza ombi ngazi juu baada ya kushindwa mara mbili, ukilihamishia kwenye ngazi inayofuata. Mtandao huu wa usalama unakamata makosa mapema na kuwezesha mfumo kuendelea kufanya kazi vizuri bila kuingiliwa na binadamu.

Takwimu zinazojieleza zenyewe

Baada ya wiki nne za kuendesha uelekezaji wa ngazi, mwandishi alirekodi mabadiliko haya:

  • Matumizi ya API yalishuka hadi 65% ya gharama ya awali (punguzo la 35%).
  • Muda wa wastani wa kukamilisha kazi ulipungua kutoka sekunde 42 hadi sekunde 27.
  • Matumizi ya Opus yalipungua kutoka kushughulikia kila ombi hadi 11% tu ya kazi zote.

Takwimu hizi zinaonyesha kuwa kazi nyingi za maendeleo zinaweza kupewa mifano ya bei rahisi bila kupungua kwa ubora unaoonekana, huku matatizo magumu zaidi yakibaki kunufaika na uwezo mkubwa wa Opus wa kusoma muktadha (context window).

Mafunzo kwa watengenezaji wengine

  1. Anza na ngazi ya chini, si ya juu. Sehemu kubwa ya kazi za kila siku za kodi hazihitaji mfano wenye nguvu zaidi. Kuifanya Sonnet kuwa chaguo la kawaida kwa kazi zenye utata kulihifadhi pesa nyingi zaidi kuliko kulazimisha kila kitu kupitia Haiku.
  2. Pima ugumu, si ukubwa. Marekebisho ya mstari mmoja ya tatizo la race-condition yanaweza kuwa magumu kuliko kuboresha faili nzima. Elekeza kwa kulingana na jinsi suluhisho lilivyo na utata, si kwa idadi ya mistari iliyobadilishwa.
  3. Angalia kiwango cha uongezaji ngazi. Idadi inayoongezeka ya uongezaji ngazi inaashiria kuwa sheria za kudumu hazilingani tena na mzigo wa kazi. Rekebisha makundi kabla ya mifano ya bei rahisi kuanza kusababisha hitilafu zaidi katika mfumo.

Kuweka mfano wa gharama kubwa zaidi kwa ajili ya matatizo magumu zaidi na kuruhusu mifano ya bei rahisi kushughulikia mengine huifanya maendeleo yanayosaidiwa na AI kuwa ya haraka na ya bei nafuu. Faida halisi iko katika mkakati wa uelekezaji uliodhibitiwa unaoendana na kifaa sahihi kwa kazi sahihi.