Wizara ya Mambo ya Nje ya Marekani ilionyesha ramani iliyotengenezwa na AI kwenye mkutano wa kidiplomasia nchini Brazil ambayo ilikosea majina ya mataifa kadhaa ya Afrika. Kosa hilo, ambalo ni mfano halisi wa "hallucination" ya AI, lilibadilisha kosa la kiufundi kuwa swali la uaminifu wa kidiplomasia.

Tukio hilo lililoonekana wazi

Wakati wa mkusanyiko wa ngazi ya juu, afisa wa Wizara ya Mambo ya Nje alitumia slaidi iliyotegemea kikamilifu zana ya AI inayozalisha (generative AI) kwa ajili ya uchoraji wake wa ramani. Picha hiyo ilikosea majina ya mataifa kadhaa ya Afrika. Tukio hilo lilionyesha jinsi picha moja yenye makosa inavyoweza kudhoofisha mamlaka ya shirika ambalo kazi yake ni kuongoza katika mazingira nyeti zaidi ya kisiasa duniani.

Ramani ni zaidi ya picha

Katika utendaji wa kidiplomasia, ramani hufanya kazi kama mikataba ya kuonekana (visual contracts). Mipaka inayochorwa kwenye ukurasa huashiria utambuzi wa uhuru wa nchi, huainisha mamlaka, na mara nyingi hubeba uzito wa makubaliano ya kihistoria. Ramani inapowasilisha vibaya eneo la taifa, watazamaji huchukulia kosa hilo kama ukosefu wa heshima, na si kosa la kiuandishi lisilo na madhara.

Upendeleo uliojificha nyuma ya picha

Mifumo mingi mikubwa ya lugha (large language models) na zana za kutengeneza picha hufundishwa kwa kutumia data zilizokusanywa kutoka kwenye mtandao wa umma. Seti hizo za data huwakilisha zaidi vyanzo vinavyozingatia nchi za Magharibi na mara nyingi hupuuza au kurahisisha maeneo ambayo hupata habari kidogo. Matokeo yake ni upofu wa kimfumo kwa sehemu nyingi za Kusini mwa Dunia (Global South). Wakati zana ya AI ya Wizara ya Mambo ya Nje ilipotengeneza ramani hiyo yenye kasoro, ilionyesha pengo hilo la data badala ya uamuzi wa makusudi wa sera. Tukio hili linaangazia suala pana la uhuru wa kidijitali: kutegemea AI kutoka mataifa ya nje kunaweza kurudisha upendeleo wa watengenezaji wake.

Binadamu katika mchakato (Human-in-the-loop): kinga inayokosekana

Suluhisho la moja kwa moja zaidi ni ukaguzi wa lazima unaofanywa na wataalamu wa mada husika kabla ya picha yoyote iliyotengenezwa na AI kuwekwa hadharani. Kiwango cha uhakiki cha "human-in-the-loop" kinamlazimu mchoraji ramani, mchambuzi wa kikanda, au balozi mwandamizi kuhakikisha kuwa matokeo yanaendana na viwango vilivyokubaliwa. Itifaki hii haiondoi urahisi wa AI; inahakikisha tu kwamba imani katika teknolojia haichukui nafasi ya imani katika mchakato.

Tukio hili lina maana gani kwa India na mataifa mengine yanayochipukia

India, ambayo inapanua kwa kasi miundombinu yake ya kidijitali ya umma na kujipanga kama kiongozi katika uwanja wa AI duniani, inaweza kupata mafunzo kadhaa ya vitendo:

  • Weka kipaumbele katika uendelezaji wa AI yenye uhuru. Kujenga mifumo na seti za data za ndani kunapunguza utegemezi wa zana ambazo zinaweza kubeba upendeleo wa nje.
  • Weka mifumo ya uhakiki. Kila nyenzo ya kidiplomasia inayosaidiwa na AI inapaswa kupitia hatua maalum ya ukaguzi kabla ya kutolewa hadharani.
  • Simamia viwango vya maadili. Kwa kushinikiza kanuni za kimataifa zinazohitaji "ukaguzi wa usahihi" wa AI inayotumiwa katika utawala, India inaweza kuunda mwongozo unaolinda maslahi ya Kusini mwa Dunia.

Hatua hizi hulinda sifa ya kitaifa na kuchangia katika mustakabali wa kidijitali wenye usawa zaidi ambapo teknolojia inaakisi mapana zaidi ya mitazamo.

Mtazamo wa baadaye

Funzo kuu: AI inaweza kuharakisha kazi za kidiplomasia, lakini bila kiwango cha lazima cha uhakiki wa binadamu (human-in-the-loop), picha moja yenye makosa inaweza kuharibu uaminifu, kuchochea mivutano ya kijiopolitika, na kufichua upendeleo uliomo ndani ya teknolojia hiyo. Njia salama zaidi ya kusonga mbele ni kuitumia AI kama msaidizi mwenye nguvu—si mbadala wa uamuzi wa mtaalamu.