Modeli si Bidhaa. Hapa ndipo kilicho halisi.
Ninatumia muda wangu kujenga na kuzungumza na wahandisi wanaozindua AI. Kuna pengo kati ya maonyesho (demos) na mifumo halisi ya uzalishaji (production systems). Watu wengi hawako wawazi kuhusu pengo hili.
Kila mtu anaita kila kitu "agent". Skripti yenye mzunguko (loop) ni agent. Chatbot yenye kumbukumbu ni agent. Hii inasababisha makosa ya kihandisi. Unatumia nguvu nyingi sana kwenye kazi rahisi (over-engineer) na kutotumia nguvu za kutosha kwenye kazi ngumu (under-engineer).
Agent anahitaji lengo. Hafuati tu maelekezo. Agent huamua nini cha kufanya baadaye. Anashughulikia makosa. Anajua wakati amemaliza.
- Ikiwa binadamu anamwambia mfumo wako kila hatua, huo ni kiolesura cha mazungumzo (chat interface).
- Ikiwa mfumo wako unajirekebisha baada ya wito wa kifaa (tool call) kushindwa, unajenga agent.
- Ikiwa mfumo wako unavunja lengo kuwa kazi ndogo ndogo (subtasks), huo ni agent halisi.
Utekelezaji wa agent halisi ni wa mahususi. Wanafanya jambo moja vizuri kama vile uchimbaji wa hati (document extraction) au ukaguzi wa kodi (code review). Timu zenye mafanikio hazifuatilii modeli mpya. Wanajikita katika maeneo haya matatu:
- Usanifu wa kifaa (Tool design): Kiolesura ni safi kiasi gani?
- Ushughulikiaji wa makosa (Failure handling): Nini kinatokea kifaa kinaporudisha kitu chochote?
- Uwezo wa kufuatilia (Observability): Je, unaweza kufuatilia kwa nini agent alifanya uamuzi fulani?
Mifumo (Frameworks) kama LangChain au CrewAI ina umuhimu mdogo kuliko mifumo ya utendaji (patterns). Framework ni mbao za ujenzi (scaffolding). Usanifu (architecture) ndio jengo lenyewe.
Tumia mifumo hii:
- Panga kisha tekeleza. Tumia hatua moja kwa upangaji na hatua tofauti kwa utekelezaji.
- Tenganisha upatikanaji wa taarifa (retrieval) na uwezo wa kufikiri (reasoning). Kuchukua muktadha (context) na kutumia muktadha ni kazi tofauti.
- Makabidhiano ya wazi (Explicit handoffs). Sanifu makabidhiano wakati agent mmoja anapomkabidhi mwingine kazi.
RAG ni kiwango cha kawaida, lakini chunking mara nyingi huwa si sahihi. Ukigawanya hati vibaya, modeli inapoteza muktadha na kuanza kubuni mambo yasiyo ya kweli (hallucinates). Ikiwa matokeo yako ya RAG hayafai, rekebisha chunking na metadata yako. Usilaumu modeli ya embedding.
Modeli zitakuwa bora zaidi. Madirisha ya muktadha (context windows) yataongezeka. Gharama zitashuka. Hii haibadili changamoto ya kihandisi. Lazima ujenge mifumo ambayo unaweza kuiamini wakati huangalii.
Jikite katika usimamizi (governance), uwezo wa kufuatilia (observability), na matumizi ya vifaa (tool use). Wahandisi muhimu watakuwa wale wanaobobea katika usanifu wa mifumo (systems design), siyo tu uhandisi wa prompt (prompt engineering).
Chanzo: https://dev.to/aibughunter/the-model-is-not-the-product-heres-what-actually-is-52b5