Agenti wangu wa Koding aliomba Idhini kwa Kila Hatua Ndogo
Msaidizi wangu wa AI alikuwa na tatizo kubwa. Hakukataa kuomba idhini. Alikuwa anaomba idhini mara nyingi mno.
Ningempa kazi rahisi kama kusoma PDF. Msaidizi angefanya hatua moja, aombe idhini, atekeleze amri, na kisha mara moja aombe tena kwa ajili ya hatua inayofuata ndogo. Kazi moja ikawa mzunguko usioisha wa maombi.
Maombi ya idhini ni muhimu. Unataka msaidizi wa ndani asimame kabla ya kutekeleza amri, kuandika faili, au kufungua programu. Lakini kazi halisi inahitaji hatua nyingi. Kusoma PDF kunahusisha kuangalia kama Python ipo, kutafuta kigeuzi (converter), kuendesha kigeuzi hicho, na kusoma maandishi.
Ikiwa kila hatua moja inaomba idhini, unaacha kutathmini hatari. Unaanza kubofya tu ili kuondoa vikwazo. Hii inakufundisha kupuuza mfumo wa usalama. Hilo ni hatari zaidi kuliko kutokuwa na usalama kabisa.
Mtiririko wa zamani ulikuwa hivi:
- Msaidizi anachagua zana
- Sera inahitaji uthibitisho
- Mtumiaji anaidhinisha
- Zana inafanya kazi
- Msaidizi anaomba tena kwa ajili ya zana inayofuata
Msaidizi alikosa nia ya mtumiaji. Haukuwa unaidhinisha jaribio moja dogo. Ulikuwa unaidhinisha kazi kamili.
Nilibadilisha jinsi CliGate inavyofanya kazi. Sasa, mara tu unapoidhinisha hatua ya kwanza katika mazungumzo, mfumo huweka alama (flag). Hii inaruhusu hatua zinazofuata kuendelea bila mizunguko mipya ya idhini. Msaidizi bado anapata matokeo halisi ili aweze kuendelea kufanya kazi.
Pia niliweka njia ya kutokea: /safe. Amri hii huwasha tena hali ya uthibitisho wa wazi.
Pia nilirekebisha hitilafu ya lugha. Mfumo ulipoendeleza kazi, wakati mwingine ulibadilisha lugha ya maombi. Ikiwa unazungumza Kichina, msaidizi angebadilika kwenda Kiingereza kwa ombi linalofuata. Sasa, msaidizi huangalia ujumbe wako wa mwisho wa kweli ili kuchagua lugha sahihi.
Suluhisho si kuzima idhini. Suluhisho ni kukumbuka kwa nini mtumiaji alitoa idhini.
Kwa zana za ndani, tumia uaminifu unaozingatia kazi (task-scoped trust):
- Omba kabla ya kuvuka mpaka mkubwa
- Kumbuka idhini kwa ajili ya kazi ya sasa
- Toa njia ya kurudi kwenye hali kali (strict mode)
- Usiruhusu ujumbe wa mfumo ubadilishe nia ya mtumiaji
Hivi ndivyo ninavyojenga idhini katika CliGate. Ni mfumo wangu wa udhibiti wa ndani (local control plane) kwa ajili ya Claude Code, Codex CLI, na Gemini CLI.
Unashughulikiaje uchovu wa kutoa idhini (approval fatigue)? Je, unaidhinisha kwa kila wito wa zana, kwa kila kazi, au kwa kila kikao?
Source: https://dev.to/codekingai/my-coding-agent-asked-permission-for-every-tiny-step-4a07