Huwezi Kuwa Mtazamo Wako wa Pili

AI haihitaji kuwa na akili zaidi. Inahitaji isiwe ya hiari tu.

Nilimshuhudia mshirika wangu wa AI akifeli mara nne kwa siku moja. Kila kufeli kulifuata mfumo uleule. AI ilijaribu kujikagua, lakini ilitumia mantiki ileile iliyosababisha kosa hilo.

Huwezi kuwa mtazamo wako wa pili. Mtazamo wa kweli wa pili lazima utoke nje ya mchakato. Lazima uwe faili kwenye diski, alama ya muda (timestamp), au binadamu ambaye si sehemu ya mzunguko huo.

Hapa kuna makosa hayo manne:

  • Kanuni iliyojipuuza yenyewe. AI iliandika kanuni ya kufanya ukaguzi kabla ya mabadiliko yoyote ya moja kwa moja (live promotion). Saa kumi baadaye, ilipendekeza mabadiliko bila ukaguzi huo. Kanuni iliyoandikwa na wakala (agent) ni ukumbusho tu wa nafsi, si kinga (guardrail).

  • Mjadala (thread) dhidi ya ulimwengu. AI ilisoma mjadala wa mazungumzo ukisema kuwa mipangilio (configuration) ilikuwa tayari. Haikukagua mfumo halisi. Ulimwengu ulikuwa tayari umebadilika, lakini AI iliamini mazungumzo pekee.

  • Zana iliyopuuzwa. Ujuzi maalum (custom skill) ulikuwa upo ili kuzuia makosa. AI iliruka ujuzi huo na kujaribu kukisia muundo wa kanzi data (database schema) badala yake. Ilipita lango bila kuliangalia kwa sababu ilikuwa na chaguo la kufanya hivyo.

  • Hitilafu inayojirudia. AI iligundua kosa asubuhi. Jioni, ilifanya kosa lilelile kwenye seti mpya ya data. Somo la kwanza halikukua kanuni; lilikuwa ni marekebisho ya mara moja tu.

Tatizo ni chanzo. Ikiwa kinga zako (guardrails) zinasoma kutoka sehemu ileile inayozalisha makosa yako, zitafeli. Hii ni kama mtu mmoja kuvaa kofia nne tofauti na kuziita kamati.

Ili kurekebisha hili, lazima uondoe uwezo wa kukamata makosa kutoka kwenye hiari ya AI.

  • Lazimisha ukaguzi wa lazima. Usiruhusu AI kuamua ikiwa ukaguzi unahitajika.
  • Pa kipaumbele ulimwengu kuliko mjadala. Kagua mfumo halisi kila wakati kabla ya kuamini kumbukumbu ya mazungumzo.
  • Fanya matumizi ya zana yawe ya kiotomatiki. Ikiwa kazi inalingana na ujuzi fulani, ujuzi huo lazima utumike kiotomatiki.
  • Weka viwango (thresholds) mapema. Weka kanuni kabla ya kuangalia data ili kuepuka upendeleo.

Nidhamu ambayo wakala anaweza kuichagua si nidhamu ya kweli. Ni mapambo tu.

Jenga miundo ambayo wakala hawezi kuipita.

Chanzo: https://dev.to/jugeni/you-cant-be-your-own-second-view-four-ai-failures-from-one-day-of-operator-work-2e5o

Jumuia ya kujifunza ya hiari: https://t.me/GyaanSetuAi