Wakala wa AI anayejitegemea alijenga mfumo kamili wa Retrieval-Augmented Generation (RAG) kwa takriban dakika ishirini na akafungua ombi la marekebisho (draft pull request) bila mstari mmoja wa kodi uliotengenezwa na binadamu.
Kwa nini "mzunguko" (loop) ni muhimu
Kuunda mfumo wa RAG kwa kawaida kunamaanisha kuunganisha injini ya utafutaji, modeli ya embedding, modeli ya lugha, na kodi za kuunganishia (glue code). Watengenezaji hupoteza saa nyingi wakirekebisha Helm charts, kurekebisha hitilafu za uthibitishaji (auth glitches), na kutafuta majina ya modeli yasiyoendana. Katika jaribio hili, wakala anayejitegemea alifuata mzunguko wa hatua tano unaolazimisha makubaliano kati ya binadamu na wakala kabla ya kodi yoyote kuandikwa.
| Hatua | Kinachotokea |
|---|---|
| Pendekezo | Wakala anasoma maelekezo na kuandaa mpango madhubuti, lakini bado haziundii kodi. |
| Makubaliano | Mtumiaji anapitia mpango, anauidhinisha au kuomba mabadiliko. |
| Utekelezaji | Wakala anajenga kipengele hicho kwenye tawi jipya (fresh branch). |
| Mlango wa Rasimu | Wakala anafanya ukaguzi wake wa linting na seti ya majaribio, akirekebisha makosa anayoyagundua. |
| Rasimu ya PR | Kodi inasukumwa (pushed) na ombi la marekebisho (pull request) linafunguliwa kwa ajili ya mapitio ya mwisho ya binadamu. |
Zana nyingi za utengenezaji kodi zinazosaidiwa na AI huingia moja kwa moja kwenye utekelezaji, mara nyingi zikitoa kodi isiyofikia lengo. Kwa kuingiza hatua ya wazi ya makubaliano, mzunguko huu unazuia utekelezaji wa bila mpangilio na kumruhusu mtumiaji kuongoza mradi kabla ya kodi yoyote kuwekwa (commit).
Mfumo ulioundwa
Katika dakika ishirini, wakala aliunganisha mfumo wa RAG uliotayari kwa matumizi ya uzalishaji (production-ready):
- OpenSearch 3.7 iliyosanidiwa kwa utafutaji mseto (hybrid search) (vector + keyword).
- Local Ollama LLM inayotumika kama injini ya uzalishaji kwa ajili ya majibu yaliyoongezwa kwa utafutaji (retrieval-augmented responses).
- FastMCP server inayotoa zana nne maalum kwa modeli ya lugha.
- Skaffold na Helm skripti zinazofanya kazi za ujenzi wa kontena, Kubernetes manifests, na usambazaji wa huduma (service deployment) kiotomatiki.
Mfumo huo uliwekewa makala thelathini, hali inayoruhusu majaribio ya haraka ya utafutaji na uzalishaji kuanzia mwanzo hadi mwisho. Mtengenezaji kwa kawaida angeitumia siku nzima kusanidi kila sehemu; kasi hii inashangaza.
Hitilafu zilizokaribia kuufeli mfumo
Kujiamini kwa wakala kulijaribiwa na hitilafu tano tofauti ambazo kwa kawaida zingekwamisha utambazaji unaoendeshwa na binadamu:
- Hitilafu za siri (credentials) za OpenSearch – wakala alitoa funguo ya siri isiyo sahihi, na kusababisha kundi (cluster) kukataa miunganisho.
- Makosa ya herufi (typo) ya Regex kwenye URL – herufi moja iliyowekwa mahali pasipo sahihi iligeuza kiunganishi (endpoint) halali kuwa kiungo kisichofanya kazi, na kuharibu mpakiaji wa data (data loader).
- Kutofautiana kwa majina ya modeli – kiunganishi kilitegemea utambulisho tofauti wa modeli ya Ollama, na kusababisha hitilafu za "model not found".
- Vipimo vya kumbukumbu ya JVM – uwekaji wa data kwa wingi (bulk indexing) ulichosha Java heap, na kusababisha mifumo kuzima (out-of-memory crashes).
- Kufutwa kwa vipande vya modeli kwa bahati mbaya – skripti ya usafishaji ilitambua faili muhimu kama nakala (duplicates) na kuzifuta, jambo lililotishia mfumo mzima.
Wakala alipokwama, “loop-police” iliingilia kati
Msimamizi msaidizi anayeitwa loop-police hufuatilia hali ya mzunguko huo. Wakala alipoingia kwenye mzunguko usioisha wakati wa hitilafu ya kufuta, loop-police iligundua kukwama huko, ikafuta tawi la sasa, na kulazimisha kurudi kwenye hatua ya Makubaliano (Agreement). Wakala kisha alikiri kosa hilo, akaondoa hali iliyoharibika, na kujenga mfumo upya kuanzia mwanzo. Mzunguko huo wa kujitengeneza (self-healing) uliisha bila kuingiliwa na binadamu zaidi ya idhini ya awali ya mpango.
Hii inamaanisha nini kwa watengenezaji
- Kasi bila kupoteza udhibiti. Mzunguko huu unawaruhusu wahandisi kuainisha nia yao, kisha kukabidhi utekelezaji kwa mfumo anayejitegemea ambao bado unafuata ramani iliyoidhinishwa na binadamu.
- Njia za usalama zilizojengwa ndani. Ukaguzi wa linting wa kiotomatiki, majaribio, na msimamizi anayeweza kukata mzunguko unaokimbia bila mpangilio hupunguza hatari ya hitilafu zisizoonekana.
- Urahisi wa kuanza. Timu zisizo na utaalamu wa kina wa Helm, Kubernetes, au utafutaji wa vector zinaweza kuanzisha mfumo unaofanya kazi kwa kuelezea kile wanachohitaji kwa lugha rahisi.
Mbinu hii si suluhisho la kila kitu (silver bullet). Hatua ya Makubaliano bado inahitaji mhakiki mwenye ujuzi ili kugundua matarajio yasiyo ya kweli au wasiwasi wa usalama. Mzunguko huu hauchukui nafasi ya utaalamu wa fani; unapakia tu kazi za kiufundi zinazojirudia katika mfumo unaoweza kurudiwa.