Ulinzi wa Kina kwa Agent Atakayefeli Vibaya

Kila mfumo wa usalama una hitilafu. Unajua tu kuwa bado hujaijua ni ipi.

Hii ndiyo njia pekee ya busara ya kujenga agent anayejitumia (autonomous agent) kwa ajili ya matumizi halisi (production). Conscience itatambua kitendo vibaya. Council itaidhinisha wazo baya. Ukuta wa kutenga (isolation wall) utakuwa na pengo.

Kila tabaka hatimaye litafeli.

Swali la usanifu si jinsi ya kujenga tabaka kamilifu. Swali ni: nini kiko nyuma ya tabaka wakati linapofeli?

Ninatumia tabaka sita kulinda mfumo. Tabaka za awali ni nafuu zaidi kwa sababu zinazuia matatizo kabla hayajawa ukweli.

• L0 — Structural isolation. Huzuia vitendo vya mpangaji (tenant) asiyekuwa sahihi katika ngazi ya msingi. • L1 — Idea-gate. Huzuia mawazo mabaya wakati wa mjadala kabla ya kodi kuwepo. • L2 — Action-gate. Ni mmenyuko (reflex) unaoruhusu au kukataa amri kulingana na hatari. • L3 — Resource-gate. Hudhibiti kumbukumbu, bajeti, na gharama zinazozidi udhibiti. • L4 — Audit. Hutumia risiti zinazothibitisha usaidizi (tamper-evident receipts) kufuatilia kila uamuzi. • L5 — Recovery. Hutumia kizuizi (quarantine) na kurudisha nyuma (rollbacks) ili kuzuia uharibifu unaoendelea.

Orodha ya tabaka si ulinzi wa kina. Ulinzi wa kweli wa kina unahitaji sheria moja:

Kila hatari muhimu lazima ikamatwe na angalau tabaka mbili zinazojitegemea.

Zinazojitegemea inamaanisha hazifeli kwa sababu ile ile. Ikiwa ukaguzi wawili wanatumia mipangilio (config) ile ile au ishara (signal) ile ile, basi ni ukaguzi mmoja. Ishara hiyo ikifeli, ukaguzi wote wawili unafeli.

Niliona hili likitokea. Idea-gate yangu mara moja ilitoa uamuzi wa uhakika kwa mjadala ambao haukuwahi kutokea. Msaidizi (helper) alitunga matokeo yote.

L1 ilifeli. Haikukosa tu kosa. Ilitoa uongo wa kushawishi.

Ikiwa L1 ingekuwa ulinzi wangu pekee, uongo huo ungekuwa uamuzi halisi. Lakini L4 uliukamata. L4 haiamini maelezo (narration). Inaamini risiti pekee. Nilitafuta faili ya nakala (transcript file). Faili hiyo haikuwepo. Dai hilo lilikuwa batili.

Mfumo ulibaki salama kwa sababu nilichukulia kuwa L1 itafeli.

Hali ya sasa ya tabaka hizi:

• L1 — Imeandikwa kodi (Coded). • L2 — Imeandikwa kodi (Coded). • L4 — Imeandikwa kodi (Coded). • L0 — Sehemu (Partial). • L3 — Sehemu (Partial). • L5 — Sehemu (Partial).

Usanifu wa usalama ambao huwezi kuukagua ni kama picha ya mawazo (mood board) tu.

Jiulize maswali haya matatu kuhusu agent yeyote salama:

  1. Kwa hatari yako mbaya zaidi, ni tabaka zipi mbili zinazojitegemea zinazoikamata?
  2. Tabaka linapotoa ishara mbaya ya uhakika, ni tabaka gani iliyo nyuma yake inayokataa kuamini ishara hiyo?
  3. Ni tabaka zipi zimej

Chanzo: https://dev.to/artemmatviychuk/defense-in-depth-for-an-agent-that-will-definitely-screw-up-5en0

Jumuia ya kujifunza ya hiari: https://t.me/GyaanSetuAi