𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗪𝗮𝗻𝗮𝗵𝗶𝘁𝗮𝗷𝗶 𝗖𝗶𝗿𝗰𝘂𝗶𝘁 𝗕𝗿𝗲𝗮𝗸𝗲𝗿𝘀
Watu huzungumzia uwezo wa AI wa kufikiri (reasoning), kupanga, na kumbukumbu.
Hawazungumzii mara kwa mara kile kinachotokea wakati wakala (agent) anapofeli.
Niligundua hili wakati nikijaribu mifumo ya kazi inayojitegemea (autonomous workflows). Wakala hakufeli (crash). Hakutoa makosa (errors).
Alijaribu tu kwa bidii zaidi.
Wito wa zana (tool call) ulishindwa. Wakala akajaribu tena. Hilo pia likashindwa. Akatengeneza mpango mpya. Akaita zana zaidi. Aliendelea kuzunguka bila mwisho.
Kwa nje ulionekana kama unafanya kazi kwa tija. Lakini ndani, ulikuwa umekwama kwenye mzunguko (loop).
Katika mifumo iliyosambazwa (distributed systems), wahandisi hutumia circuit breakers. Ikiwa huduma inafeli, unaacha kutuma maombi (requests). Unalinda sehemu nyingine ya mfumo.
AI agents pia wanahitaji hili.
Wakala anayejitegemea huita API, hufanya usambazaji wa kodi (deploys code), na kutumia tokeni. Bila vizuizi (guardrails), kosa dogo linakuwa gharama kubwa.
Wazia wakala anayesambaza programu (application). Usambazaji unashindwa. Wakala anajaribu tena. Unashindwa tena. Anabadilisha mipangilio na kujaribu tena. Kila hatua inafanya kosa kuwa baya zaidi.
Mtindo (model) si tatizo. Akili bila mipaka haiwezi kutabirika.
Circuit breaker hutengeneza mipaka hiyo. Inaweza:
- Kusimamisha utekelezaji baada ya majaribio mengi yaliyoshindwa.
- Kusimamisha mchakato wa kazi (workflow) wakati gharama zinapofikia kikomo.
- Kuomba idhini ya binadamu kabla ya kugusa mazingira ya uzalishaji (production).
- Kuzuia vitendo vya hatari hadi utakapovithibitisha.
Circuit breakers hazipunguzi uhuru (autonomy). Zinajenga uaminifu.
Tunatumia muda kuwafundisha wakala jinsi ya kutenda. Lazima tutumie muda kuwafundisha wakati wa kuacha.
Katika uzalishaji (production), kujua wakati wa kuacha ni muhimu zaidi kuliko kujua nini cha kufanya baadaye.
Source: https://dev.to/mukeshkuiry/the-day-i-realized-ai-agents-need-circuit-breakers-22hj
Optional learning community: https://t.me/GyaanSetuAi