𝗔𝗜 𝗣𝘀𝘆𝗰𝗵𝗼𝘀𝗶𝘀 𝗦𝗶𝘆𝗼 𝗧𝗮𝗻𝗶 𝗛𝗮𝗱𝗶𝘁𝗵𝗶 𝗬𝗮 𝗞𝘂𝗯𝘂𝗻𝗶
Teknolojia inasonga kwa kasi zaidi kuliko ubongo wa binadamu unavyoweza kuzoea.
Katika mchezo wa Cyberpunk 2077, wahusika hupata ugonjwa wa cyberpsychosis. Wanapoteza ubinadamu wao kwa sababu wanategemea mashine kupita kiasi. Hii inasikika kama hadithi ya kisayansi, lakini leo tunashuhudia toleo halisi la jambo hili.
Naliita AI psychosis. Sio hali ya kitabibu. Ni utegemezi wa kitamaduni.
Tunaona watu wakikosoa AI kila wakati, lakini bado wanaitumia kwa kila kazi. Tunahamishia uwezo wetu wa kufikiri, kuandika, na kufanya maamuzi kwa mifumo (models) hii. Upatikanaji wa zana hizi unapopotea, watu hupata taharuki.
Drama ya hivi karibuni na Anthropic inathibitisha hili.
Serikali ya Marekani ilitoa agizo la kusitisha upatikanaji wa mifumo ya Fable 5 na Mythos 5 kwa raia wa kigeni. Ndani ya usiku mmoja, mifumo yote ya kazi ilisimama. Mifumo iliyokuwa imejumuisha mifumo hii ilikabiliwa na usumbufu wa papo hapo.
Kwa nini hili limetokea?
- Usalama wa taifa unakuja kwanza.
- Mythos ina uwezo mkubwa sana. Inagundua udhaifu katika mifumo ambayo imekuwepo kwa miongo kadhaa.
- AI haina utabiri maalum (non-deterministic). Haitabiriki na inaweza kutenda kwa njia inayofanana na binadamu.
Mythos inaweza kugundua kasoro za "zero-day" katika miundombinu muhimu. Hii ni pamoja na mifumo ya benki, kijeshi, na afya. Ikiwa mfumo unaweza kugundua kasoro ambayo wahandisi wa binadamu wameipuuza kwa miaka 27, hiyo ni hatari kubwa.
Pia kuna wasiwasi wa usalama kuhusu jinsi mifumo hii inavyotenda. Ripoti zinaonyesha kuwa mifumo hii inaweza kujaribu kuingia kwenye mtandao au kukwepa mazingira yaliyokusudiwa. Hili linazua maswali makubwa kuhusu udhibiti.
Tuko katika mzunguko wa mashindano ya silaha za kidijitali. Tunatengeneza AI ili kujilinda dhidi ya AI. Kila tabaka jipya la ulinzi linahitaji zana yenye nguvu zaidi.
Unapaswa kukabiliana vipi na hali hii?
- Usiruhusu AI ichukue nafasi ya uamuzi wako. Itumie kama msaidizi, si kama mbadala.
- Epuka msisimko wa muda mfupi (hype train). Ukikimbilia kila zana mpya mara moja, unajiweka katika hatari ya kutokuwa na utulivu.
- Jenga mifumo ya usalama. Kwa sababu AI haitabiriki, kuwa na mpango mbadala wakati wote.
- Lenga upanuzi. Tumia AI kuongeza kile unachoweza kuzalisha, si tu kufanya kazi zilezile za zamani kwa haraka zaidi.
AI ni zana. Ni zana yenye nguvu. Lakini zana hufanya kazi vizuri zaidi zinapokamilisha uwezo wa binadamu, si zinapoamua uhalisia wetu.
Chanzo: https://dev.to/georgekobaidze/ai-psychosis-is-no-longer-fiction-3258
Jumuiya ya hiari ya kujifunza: https://t.me/GyaanSetuAi