Niligundua kuwa kipimo kimoja cha lango la usalama (safety-gate metric) kilificha hitilafu ya siku nzima katika kipengele cha maelezo kinachozalishwa na AI. Kwa kuchukulia "kukataliwa na lango" na "kushindwa kupakia modeli" kama kitu kimoja, kipimo hicho kilitoa hisia ya uongo ya hali nzuri ya mfumo. Kilirekodi kukataliwa mara nne na mafanikio sifuri, lakini modeli haikufanya kazi kabisa wakati huo—kosa ambalo lingeweza kuacha waendeshaji wasijue kuwa mfumo ulikuwa umeharibika.

Jinsi mkanganyiko ulivyotokea

Kipengele hiki kinatumia modeli ya lugha ya ndani kubadilisha mantiki ghafi ya mashine kuwa sentensi zinazoweza kusomwa na binadamu. Lango la usalama la hatua inayofuata (safety gate downstream) linazuia matokeo yoyote yanayokiuka sheria zilizowekwa mapema. Katika uzalishaji (production), nilionyesha kikokotozi (counter) kimoja ambacho kiliongezeka kila wakati lango lilipokataa sentensi. Drone iliporekodi maelezo manne ya AI, kikokotozi kiliripoti kukataliwa mara nne na hakuna matokeo yaliyofanikiwa. Nilichukulia hilo kama lango likifanya kazi yake, na si kama kipengele kilichokuwa kimepata hitilafu.

Kile kikokotozi kilichoficha kilikuwa ni hitilafu ya hatua mbili:

  1. Modeli haifanyi kazi – Modeli inashiriki mashine na sehemu nyingine za mfumo. Ili kuokoa kumbukumbu (memory), mwenyeji (host) huiondoa baada ya kutotumika kwa muda.
  2. Muda kuisha wakati wa kupakia upya (Timeout on reload) – Wakati tishio jipya lilipotokea, mfumo ulijaribu kupakia upya takriban gigabaiti mbili za data ya modeli. Upakiaji huo ulizidi muda wa mwitikio wa sekunde thalathini, hivyo ombi lilipita muda wake na kurudisha jibu tupu.

Kwa sababu kikokotozi kilichukulia kukataliwa na lango na jibu tupu lililosababishwa na muda kuisha kama tukio moja, dashibodi ilionyesha "lango la usalama linalofanya kazi" wakati kipengele cha AI kilikuwa kimepata hitilafu kabisa.

Kwa nini ni muhimu

Katika bidhaa zinazoendeshwa na AI, lango za usalama huzuia matokeo yenye madhara au yasiyo na mantiki. Waendeshaji huangalia kiwango cha utendaji (fire rate) wa lango kama ishara ya hali ya mfumo. Wakati ishara hiyo inapounganishwa na aina nyingine za hitilafu zisizohusiana, kipimo hicho kinakuwa uongo wa kimyakimya: kinatoa uhakika wakati huduma haipatikani.

Suluhisho lililorudisha uwezo wa kuona hali ya mfumo

Nilifanya mabadiliko matatu ya vitendo:

  • Weka modeli ikiwa imewekwa kwenye kumbukumbu (Keep the model resident) – Nilirekebisha host ili kubaki na modeli kwenye kumbukumbu, hivyo kuondoa ucheleweshaji wa kupakia upya.
  • Panua muda wa mwitikio (Extend the timeout) – Niliongeza muda wa mwitikio ili kushughulikia upakiaji wa polepole unaoweza kutokea mara chache.
  • Gawanya kikokotozi – Nilibadilisha kipimo kimoja cha "kukataliwa na lango" kuwa vikokotozi vinne tofauti: iliyokubaliwa, iliyokataliwa, jibu tupu, na hakuna jibu.

Hatua ya tatu ilileta matokeo makubwa. Badala ya namba moja inayoweza kusomwa kwa