Dirisha la Kujenga Utaalamu wa AI Linafungwa
Watu wanazungumzia maonyesho ya AI (demos) na mifumo ya uzalishaji (production systems) kana kwamba ni kitu kimoja. Si hivyo.
Kuna pengo kubwa kati ya onyesho la kuvutia na mfumo unaofanya kazi katika ulimwengu halisi.
Kila mtu anaita kila kitu ni agent. Chatbot yenye kumbukumbu ni agent. Script yenye mzunguko (loop) ni agent. Hii ni makosa. Kosa hili hupelekea uhandisi mbaya.
Unajikuta unatumia uhandisi uliopitiliza kwenye kazi rahisi na uhandisi mdogo sana kwenye kazi ngumu.
Hii hapa ni tafsiri halisi: Agent ina lengo. Inaamua hatua inayofuata. Inashughulikia makosa. Inajua wakati kazi imekamilika. Kila kitu kingine ni mwito wa kazi (function call) tu.
Jinsi ya kutambua tofauti: • Ikiwa binadamu lazima aongoze kila hatua, hiyo ni interface ya mazungumzo (chat interface). • Ikiwa mfumo unajirekebisha baada ya mwito wa kifaa (tool call) kushindwa, hiyo ni agent. • Ikiwa mfumo unavunja lengo katika kazi ndogo ndogo (subtasks), hiyo ni agent ya kweli.
Timu zenye mafanikio hazifuatilii tu mifano (models) mipya. Zinajikita katika mambo matatu:
- Usanifu wa kifaa (Tool design): Interface ni safi kiasi gani?
- Ushughulikiaji wa makosa (Failure handling): Nini kinatokea wakati kifaa kinaporudisha kitu chochote?
- Uwezo wa kufuatilia (Observability): Kwa nini agent ilifanya uamuzi huo?
Framework unayotumia haina umuhimu mkubwa kama mifumo (patterns) unayofuata. LangChain au CrewAI ni zana tu. Usanifu (architecture) ndio muhimu zaidi.
Tumia mifumo hii:
- Panga kisha tekeleza: Tumia hatua moja kupanga na hatua nyingine tofauti kutenda.
- Tenganisha upatikanaji wa data (retrieval) na uwezo wa kufikiri (reasoning): Kuchukua data na kutumia data ni kazi tofauti.
- Uhamishaji wa wazi (Explicit handoffs): Tumia kumbukumbu zilizopangwa (structured logs) wakati agent mmoja anapomkabidhi mwingine kazi.
RAG pia inasababisha matatizo. Watu wengi hushindwa katika mgawanyo wa data (chunking). Ikiwa vipande vyako (chunks) vinakata muktadha, model itatengeneza habari za uongo (hallucinate). Lazima urekebishe mgawanyo wako na metadata kabla ya kulaumu model.
Models zitakuwa bora zaidi. Tokens zitakuwa nafuu zaidi. Hii haitatua changamoto ya uhandisi.
Changamoto halisi ni kujenga mifumo unayoweza kuamini. Unahitaji usimamizi (governance) na matumizi ya kifaa yanayoaminika.
Wahandisi watakaokuwa na umuhimu katika miaka miwili ijayo si wahandisi wa prompt (prompt engineers). Ni wabunifu wa mifumo (systems designers). Wanajenga AI ambayo watu wengine wanaweza kuimudu (maintain).
Jumuia ya hiari ya kujifunza: https://t.me/GyaanSetuAi