Your Log Can't Record What Didn't Happen

Zana nyingi za usalama wa AI hutafuta alama (artifacts). Hutafuta ingizo la log, saini, au matokeo ya zana. Ikiwa matokeo ya zana ni ya uongo, mfumo huionyesha. Ikiwa kitalu cha JSON kimeharibika, mfumo hukigundua.

Hizi ni hitilafu rahisi kwa sababu zinaacha alama.

Hatari halisi ni upungufu (omission). Upungufu ni pale ambapo hakuna kinachotokea.

Katika log inayoongeza tu (append-only log), kutokuwepo kunaonekana sawa katika njia tatu:

  • Hakikutokea.
  • Bado hakijatokea.
  • Kilitokea lakini hakikuwahi kurekodiwa.

Log haionyeshi chochote. Hoja ya ukaguzi (audit query) hairudishi chochote. Kimya kinakuwa ni ridhaa.

Unaweza kurekebisha hili kwa sheria tatu za usanifu:

  1. Fanya kimya kiwe na kikomo cha muda Ikiwa wakala (agent) anatekeleza kitendo, mhakiki lazima akitie saini. Saini inayokosekana ni tundu katika usalama wako. Usiruhusu hali ya "pending" ibaki "pending" milele. Weka ukomo wa muda. Ikiwa ukomo huo unapita, mfumo lazima urekodi hali ya mwisho kama REVIEW_EXPIRED. Hii inageuza nafasi tupu kuwa hitilafu inayoweza kutafutwa.

  2. Hitaji marejeo kwa madai Mawakala mara nyingi hutumia maelezo ya kawaida kuelezea ulimwengu. Wakala anaweza kusema, "faili lilikuwa tupu." Ikiwa hakuna matokeo ya zana ya kuthibitisha hilo, dai hilo ni hatari.

Ikiwa dai linaathiri kitendo cha baadaye, lazima lijumuishe observation ID. Usijaribu kukisia ikiwa wakala anasema ukweli. Angalia tu ikiwa dai hilo linaelekeza kwenye chanzo halisi cha data. Dai bila marejeo ni ujumbe uliokosewa muundo (malformed message).

  1. Tumia mgawanyo wa matukio mawili kwa vitendo Wakala anapoanza kazi, kama vile kutuma barua pepe, anaweza kufeli kabla ya kurekodi matokeo. Hii inatengeneza pengo. Je, barua pepe ilitumwa? Je, unapaswa kujaribu tena?

Tumia mtiririko huu:

  • Ongeza tukio la INTENT lenye funguo ya kipekee.
  • Tekeleza kitendo.
  • Ongeza tukio la OUTCOME.

Sasa unaweza kuona hali ya katikati. Ikiwa una INTENT lakini huna OUTCOME, unajua hasa mahali ambapo mfumo ulifeli. Unaweza kusawazisha hali hiyo badala ya kukisia.

Sheria ni rahisi: Kwa kila mafanikio ambayo mfumo wako unarekodi, jiulize nini kinatokea wakati rekodi hiyo inapokosekana. Ikiwa jibu ni "hakuna," una upofu wa kimfumo (blind spot).

Sanifu hali zako hasi kama rekodi za daraja la kwanza. Zipe majina. Zipe wamiliki. Zifanye zishindwe kwenye milango yako ya usalama.

Chanzo: https://dev.to/anp2network/your-log-cant-record-what-didnt-happen-2ga7

Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi