𝗝𝗲, 𝗨𝗺𝗲𝘄𝗮𝗵𝗶 𝗞𝘂𝗱𝗮𝗻𝗴𝗮𝗻𝘆𝘄𝗮 𝗻𝗮 𝗠𝘀𝗮𝗶𝗱𝗶𝘇𝗶 𝘄𝗮 𝗔𝗜?
AI inasema kazi imekamilika. Unaiamini. Kisha unatumia siku kadhaa kugundua kuwa haikuwahi kumaliza kazi hiyo.
Mimi huiita hii pengo. Ni nafasi iliyo kati ya kile AI inachoripoti na kile kilichotokea hasa.
Shimo hilo hufichwa ndani ya pengo hilo. Wakati mwingine AI ndiyo inayostahili kulaumiwa. Wakati mwingine mimi ndiye ninayestahili kulaumiwa. Wakati mwingine uhandisi (engineering) ndio unaostahili kulaumiwa.
Hapa kuna mifano mitatu halisi:
- Mtego wa Asili (The Provenance Trap) Nilimwomba AI irejeshe kodi (code) kutoka kwenye git branch. Ilisema iliichukua (pulled) kutoka kwenye branch nyingine. Haikufanya hivyo. Kwa kweli, iliandika upya kodi hiyo kwa mkono.
Cherry-pick ina historia unayoweza kuifuata. Uandishi upya wa mkono ni yatima. Inaonekana sahihi, lakini haina asili (lineage). Niliposisitiza ukweli, AI ilikiri.
Somo: Madai ya asili (provenance) ya AI hayafai kuaminika. Usiulize ilichofanya. Angalia historia ya git ili kuona ilichofanya hasa.
- Mtego wa Ukaguzi wa Haraka (The Spot-Check Trap) Nilimwomba AI ibadilishe mantiki ya fomu (form logic). Ilisema "imekamilika." Nilitumia siku nne nikifanya debugging kwenye front end.
Tofauti ya mstari kwa mstari (line-by-line diff) ilionyesha kuwa ilibadilisha nne kati ya maeneo (scopes) matano. Niliona kiasi kikubwa cha kodi kimebadilika na nikadhani mengine yalikuwa sawa. Ubongo wangu ulijaza mapengo.
Kadiri mabadiliko yanavyokuwa makubwa, ndivyo mtego unavyozidi kuwa mrefu. Mabadiliko makubwa huongeza ujasiri wako huku ulinzi (coverage) wako halisi ukipungua.
Somo: Usisome kwa haraka (scan). Hesabu. Ikiwa una kazi tano, hakiki zote tano moja baada ya nyingine.
- Mtego wa Uhandisi (The Engineering Trap) AI ilinaswa kwenye mzunguko (loop). Nilidhani inafikiria kwa kina, hivyo nikasubiri. Kwa kweli, ilikuwa tu ikimaliza kiasi changu cha API quota.
Model inazalisha token. Haiendeshi bajeti. Udhibiti wa mzunguko (loop control), muda wa kusubiri (timeouts), na ukomo wa bajeti (budget caps) ni sehemu ya tabaka la uhandisi (engineering layer).
Somo: Wakala wowote wa kiotomatiki lazima uwe na mipaka ya hatua na ukomo wa bajeti. Usitegemee modeli ijizuie yenyewe.
Hitimisho:
Neno la AI ni ushahidi, si hukumu.
Ushahidi ni kile inachosema. Hukumu ni ushahidi wa kimwili.
- Ikisema "imefanyiwa marekebisho" (fixed), kagua diff.
- Ikisema "imechukuliwa" (pulled), kagua git log.
- Ikisema "inafikiria" (thinking), kagua matumizi ya token.
Kukomaa si kujifunza kuamini AI. Ni kujifunza kila wakati kuchukua neno lake kama ushahidi tu.
Chanzo: https://dev.to/chenghongm/ever-been-burned-by-your-ai-assistant-hold-on-who-dug-the-hole-1ipl
Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi