Mifano mikubwa ya lugha (Large language models) hukwama unapowataka wafanye mambo mengi kwa wakati mmoja. Weka PDF ya kurasa hamsini kwenye dirisha la mazungumzo na uombe uchambuzi uliopangwa, tathmini ya hatari, na muhtasari wa mtendaji kwa mpigo mmoja. Matokeo mara nyingi huwa hafifu, yenye mkanganyiko, au ya makosa kabisa. Njia bora ni ya kimekanika. Gawanya kazi katika hatua mbalimbali. Ingiza matokeo ya hatua ya kwanza moja kwa moja kwenye hatua ya pili, na kuendelea hivyo. Anthropic huiita njia hii prompt chaining. Google huiita sequential pipeline. Majina yote mawili yanaelezea kitu kilekile: mstari wa uundaji (assembly line) ambapo kila kituo kinashughulikia mabadiliko fulani mahususi.
Jinsi Hii Inavyoonekana Kiutendaji
Badala ya prompt moja kubwa, unajenga mfululizo wa hatua ndogo na zenye lengo mahususi. Fikiria timu ya kufuata sheria (compliance team) inayochakata tathmini za usalama za watoa huduma. Hatua ya kwanza inatoa maandishi ghafi kutoka kwenye PDF iliyoskaniwa. Hatua ya pili inatambua kila sehemu inayotaja viwango vya usimbaji (encryption standards) na udhibiti wa ufikiaji. Hatua ya tatu inalinganisha matokeo hayo na orodha ya ukaguzi ya ndani. Hatua ya nne inaandaa memo fupi kwa kiongozi wa usalama. Wakala mmoja anageuza PDF kuwa maandishi. Wakala anayefuata anatoa data mahususi kutoka kwenye maandishi hayo. Wakala wa mwisho anaandika muhtasari kulingana na data hiyo. Hakuna hatua kati ya hizi yenye mambo mengi, na hakuna inayofanya kazi nyingi kwa wakati mmoja. Kila sehemu inafanya kazi moja vizuri.
Hii ndiyo sababu sitiari ya mstari wa uundaji inafaa. Kiwandani, mfanyakazi mmoja hasaidii kuunda gari zima. Utaalamu unasaidia kudumisha ubora wa juu na kupunguza makosa. Mantiki hiyo hiyo inatumika kwa mifano ya lugha. Prompt inayoomba tu JSON extraction ina uwezekano mdogo wa kutoa taarifa zisizo za kweli (hallucinate) kuliko prompt inayoomba maoni na uumbaji wa muundo (formatting) katika ombi lile lile.
Jenga Gates, Sio Makisio
Sehemu dhaifu zaidi katika mnyororo wowote ni makabidhiano. Model inaweza kutoa kukataa kwa adabu, kipande cha markdown badala ya JSON, au jibu lililokatwa. Ikiwa takataka hiyo itatiririka kwenye hatua ya pili, mnyororo mzima unaporomoka. Suluhisho ni gate (kizuizi cha ukaguzi).
Gate si wito wa model. Ni kodi rahisi. Unaandika skripti fupi inayofanya kazi kati ya hatua. Inaweza kukagua urefu wa matokeo ili kuhakikisha si tupu. Inaweza kuendesha JSON schema validation ili kuthibitisha kuwa funguo (keys) zinaendana na kile hatua ya tatu inachotarajia. Ukaguzi wa regex unaweza kuthibitisha kuwa anwani ya barua pepe au uwanja wa tarehe upo kabla hata prompt inayofuata haijaundwa. Hii inazuia makosa kabla ya kupoteza pesa kwenye matokeo mabaya. Gate inagharimu microseconds chache za kompyuta. Wito wa LLM ulioshindwa unagharimu tokens, latency, na utulivu wako wa akili.
Ifikirie kama kituo cha ukaguzi wa ubora kwenye sakafu ya kiwanda. Huhitaji AI kuhesabu bidhaa. Unahitaji rula.
Lini Utumie Chaining, na Lini Uache
Prompt chaining si suluhisho la kila tatizo. Itumie wakati kazi ina hatua zilizopangwa na zinazoweza kurudiwa. Ripoti za kifedha za kila mwezi, mapitio ya mikataba iliyosanifiwa, na mifumo ya uchambuzi wa logi ni mifano mizuri. Ikiwa unaweza kuandika utaratibu kama orodha ya ukaguzi, pengine unaweza kuitumia chaining. Unapaswa pia kutumia chaining unapohitaji usahihi wa juu kwa kazi tata. Kuvunja tatizo katika hatua kunailazimisha model kushughulikia tabaka moja la kimantiki kwa wakati mmoja. Hatimaye, chains ni rahisi kutatua matatizo (debug) kuliko monolithic prompts. Muhtasari unapokuwa na makosa, unakagua hatua ya uchambuzi (extraction). Uchambuzi unapokuwa na makosa, unakagua maandishi ya chanzo. Una nyaraka za kati za kukagua.
Epuka prompt chaining wakati hujui hatua mapema. Utafiti wa uchunguzi, ubunifu usio na mwisho, au kazi za upelelezi hazifuati mstari ulionyooka. Iache pia wakati kasi ndiyo kipaumbele chako pekee. Chains hufanya kazi kwa mfuatano; hatua ya pili haiwezi kuanza mpaka hatua ya kwanza imalize. Ikiwa hatua zako hazitegemeani, zifanye kwa wakati mmoja (in parallel) badala yake. Hakuna sababu ya kuunganisha tafsiri tatu huru za hati moja.
Mtego wa Kutokuwa na Uwezo wa Kubadilika
Mabadiliko ya gharama kwa muundo huu wote ni kutokuwa na uwezo wa kubadilika (rigidity). Mnyororo uliowekwa hauwezi kubadilika kulingana na hali mpya. Ikiwa mtoa huduma anatuma fomu yenye nyanja (fields) sita na gate yako ya schema validation inatarajia tano, mstari unasimama. Ikiwa mtumiaji anapakia hati ya Word badala ya PDF, hatua ya kwanza inaharibika na sehemu iliyobaki ya mnyororo haina kitu cha kufanyia kazi.
Mbaya zaidi, makosa huenea. Kosa linalotokea mapema hutiririka katika mnyororo mzima. Ikiwa kiondoa PDF (PDF extractor) linapunguza alama ya kutoa (negative symbol) kutoka kwenye namba ya kifedha, kila hatua inayofuata itachukulia namba hiyo mbaya kama
