𝗧𝗵𝗲 𝗥𝗶𝗴𝗵𝘁 𝗪𝗮𝘆 𝗧𝗼 𝗕𝘂𝗶𝗹𝗱 𝗔𝗡 𝗔𝗜 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 Nilikuwa nikifikiri kwamba kuifanya msaidizi wangu wa AI kuwa mwerevu zaidi kulihitaji kuongeza zana nyingi zaidi kwenye mzunguko uleule. Hiyo ilifanya kazi kwa muda fulani. Lakini baadaye msaidizi wangu alihitaji kufanya kazi za kawaida za mtumiaji kama vile kuendeleza kazi kutoka kwenye mazungumzo, kujibu swali la hali ya kazi, au kukumbuka mtiririko wa kazi (workflow).
Tatizo halikuwa ni idadi ya zana ambazo msaidizi wangu angeweza kutumia, bali ulikuwa ni usanifu (architecture) wake. Usanifu wa zamani ulikuwa rahisi: ujumbe wa mtumiaji -> mzunguko wa msaidizi -> zana -> jibu. Hii inafaa kwa onyesho (demo), lakini si kwa msaidizi wa kudumu (resident assistant).
Msaidizi wa kudumu anahitaji kujua ikiwa ujumbe ni kazi mpya, ufuatiliaji (follow-up), au ubatilishaji (cancellation). Anahitaji kuepuka kuchukua rasilimali za kompyuta kutoka kwa kazi nyingine na kukumbuka taratibu bila kutumia nakala za mazungumzo (transcripts) za zamani.
Kwa hivyo, niliacha kumchukulia msaidizi wangu kama wakala mmoja na nikaanza kumchukulia kama "local control plane". Sasa usanifu wangu unaonekana hivi:
- Experience Plane: inamiliki mahali mtumiaji anapozungumza
- Assistant Control Plane: inaamua ni aina gani ya kazi hii
- Runtime Execution Plane: mahali ambapo kazi za uandishi wa kodi hufanyika
- Proxy / Model Access Plane: inashughulikia kazi za mtoa huduma (provider)
Pia nina Observation Plane na Memory / Policy Plane. Tabaka hizi humsaidia msaidizi wangu kubaki na akili timamu na kuzingatia kazi zake.
Maboresho makubwa yalikuja kutokana na kumfanya msaidizi wangu atumie uchunguzi (observations) badala ya kumbukumbu ghafi (raw logs). Hii humsaidia msaidizi wangu kuona ukweli mfupi kama vile "Kazi X inasubiri idhini" badala ya kusoma nakala kubwa ya mazungumzo.
Nilijifunza kuwa "kukumbuka" si sawa na kujaza historia nyingi zaidi za mazungumzo kwenye prompt. Kwa msaidizi wangu, kumbukumbu (memory) inategemea faili na ina mipaka (scoped). Inaweza kuhifadhi mtiririko wa kazi, ukweli, au rejeleo na kulikumbuka inapohitajika.
Ikiwa unajenga wakala (agents) kuzunguka zana zilizopo, je, unaweka kila kitu ndani ya mzunguko mmoja, au unaanza kutenganisha udhibiti (control), utekelezaji (execution), uchunguzi (observation), na kumbukumbu (memory) pia? Source: https://dev.to/codekingai/my-ai-assistant-needed-a-control-plane-not-a-bigger-loop-15aa Optional learning community: https://t.me/GyaanSetuAi