𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗦𝗰𝗼𝗽𝗲𝘀 𝗔𝗻𝗱 𝗧𝗼𝗼𝗹 𝗟𝗶𝗳𝗲𝗰𝘆𝗰𝗹𝗲𝘀
Kujenga AI agents ni vigumu kwa sababu huwezi kuwadhibiti kwa urahisi. Unahitaji kuweka mipaka ya gharama. Unahitaji kuzuia mizunguko isiyozuilika (runaway loops). Unahitaji kuona sawia kilichotokea wakati utendaji (run) unapofeli.
Nimeunda njia mpya ya kushughulikia hili. Inatumia agent primitive inayoitwa runAgent kwa kutumia AgentScope. Inajumuisha bajeti, matukio yanayoweza kurudishwa (replayable events), na ughairi uliopangwa (structured cancellation).
Hivi ndivyo inavyofanya kazi:
- Kazi za zana (Tool functions) ni kazi za async za kawaida. Hakuna schemas tata zinazohitajika.
- Bajeti hukaguliwa kabla ya zana kurudisha matokeo. Ukifikia kikomo, mfumo unaghairi utendaji mzima.
- Majaribio upya (Retries) na muda wa kusubiri uliopitiliza (timeouts) hutokea katika kiwango cha zana.
- Ughairi huenea (Cancellation propagates). Ikiwa mtumiaji anaisimamisha agent, mfumo unakata mara moja fetch au database query inayofanyika.
- Unapata log inayoweza kurudishwa. Kila tukio lina aina (typed) na limepangwa kwa mpangilio.
Unaweza kuweka aina tatu za mipaka:
- CostBudget: Inapunguza jumla ya USD iliyotumika.
- OpenAITokens: Inapunguza jumla ya token zilizotumika.
- AgentToolCalls: Inapunguza jumla ya wito wa zana (tool calls) ili kuzuia mizunguko isiyozuilika.
Mtazamo huu ni tofauti na mifumo (frameworks) mingine. Mifumo mingi hutumia JSON schemas nzito au aina zisizo rasmi (loose typing). Mara nyingi hukosa budget primitives za daraja la kwanza. Hazina njia iliyounganishwa ya kughairi kila kitu kwa wakati mmoja.
Kwa mfumo huu, agent wako anashiriki mzunguko wa maisha sawa na programu yako. Ikiwa mchakato mkuu (parent process) unasimama, agent naye anasimama. Hakuna runtime nyingine ya kusimamia.
Unaweza kutumia log ya matukio ili:
- Kujenga dashibodi kwa ajili ya ramani za joto za kufeli (failure heatmaps).
- Kurudisha utendaji (replay a run) katika mazingira ya majaribio.
- Kukagua gharama kamili kwa kuangalia matukio ya mafanikio ya zana.
- Kulinganisha utendaji mbili tofauti ili kuona pale walipotofautiana.
Hii inafanya AI agents kuwa yanayotabirika na salama kwa uzalishaji (production).
Chanzo: https://github.com/WorkRuntime/workit
Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi