Data ya ndani ya Amazon inaonyesha kuwa utapeli unaochochewa na AI unazidi kuongezeka miongoni mwa watumiaji wapya wa mtandao nchini India, huku matukio ya udanganyifu yakipanda kwa kasi kadiri watu wengi wanavyojiunga na mtandao. Ongezeko hili linatishia walaji ambao ndio kwanza wanajifunza kutumia huduma za kidijitali na linaweza kudhoofisha imani katika majukwaa ya e-commerce.

Kwa nini wimbi hili ni muhimu sasa

India iliongeza mamilioni ya watumiaji wapya wa mtandao mwaka jana, kutokana na simu janja za bei rahisi na upanuzi wa huduma za broadband. Watumiaji hao hawana uzoefu wa kidijitali unaosaidia kutambua ujumbe wa phishing au udanganyifu, jambo linalowafanya kuwa walengwa wakuu wa matapeli ambao sasa wanatumia zana za generative-AI. Utapeli unapofanikiwa, wahanga hupoteza pesa, data binafsi, au vyote viwili, na athari hizo huathiri pia majukwaa yanayohifadhi miamala hiyo.

Jinsi AI inavyotumika kama silaha

  • Maudhui ya bandia (Synthetic content) – Mifumo ya kutengeneza maandishi inaruhusu matapeli kutengeneza barua pepe, ujumbe wa soga, au matangazo yenye ushawishi mkubwa kwa wingi.
  • Deepfakes – AI huunganisha nyuso na sauti kwenye vipande vya video au sauti, ikiruhusu matapeli kujifanya kama mawakala wa benki au wanafamilia.
  • Mtego wa kujiunga (Onboarding bait) – Matapeli huingiza viungo vya uongo vya uhakiki kwenye ujumbe wa karibu, wakitumaini watumiaji wapya vitabonyeza kabla hawajajifunza misingi ya usalama.

AI rahisi na inayotumiwa kwa urahisi inakutana na idadi ya watu ambao bado wanajifunza usalama wa msingi wa mtandaoni, hali inayozalisha mazingira magumu sana.

Nani anayestahili kupata hasara

  • Walaji – Wahanga wengi ni watu ambao ndio kwanza wamejisajili kwenye mifuko ya kidijitali (digital wallets), programu za ununuzi, au huduma za benki mtandaoni. Utapeli mmoja tu unaofanikiwa unaweza kufuta akiba ya wiki kadhaa.
  • Majukwaa – Amazon na tovuti nyingine za e-commerce zinakabiliwa na viwango vya juu vya kurudishiwa pesa (charge-back rates) na uharibifu wa imani ya chapa ikiwa utapeli hautadhibitiwa.
  • Wadhibiti – Utapeli wa mara kwa mara unaweza kulazimisha usimamizi mkali zaidi wa maudhui yanayotengenezwa na AI, jambo linaloongeza gharama za kufuata sheria kwa makampuni ya teknolojia.

Amazon inafanya nini

Timu za usalama za Amazon zinaongeza hatua za ziada za uhakiki wakati wa kutengeneza akaunti na kuashiria maudhui ya AI yanayofanana na mifumo inayojulikana ya utapeli. Kampuni hiyo pia inashirikiana na mashirika yasiyo ya kiserikali (NGOs) ya ndani kuendesha warsha za elimu ya kidijitali zinazolenga watumiaji wapya.

Upande wa pili

Baadhi ya wachambuzi wanahoji kuwa gumzo kuhusu utapeli wa AI linatilia chumvi hatari halisi, wakibainisha kuwa utapeli wa kiasili bado unahusika na sehemu kubwa ya hasara. Wanataja zana za utambuzi za hatua za awali ambazo tayari zinakamata mashambulizi mengi yaliyoundwa na AI kabla hayajawafikia walaji.

Cha kufuatilia

  • Hatua za udhibiti – Mwongozo mpya wa India kuhusu maudhui ya bandia (synthetic media) unaweza kubadilisha jinsi majukwaa yanavyothibitisha maudhui.
  • Uboreshaji wa teknolojia – Maendeleo katika utambuzi wa deepfake yanaweza kurudisha usawa kwa upande wa walaji.
  • Elimu ya watumiaji – Ufanisi wa kampeni za elimu ya kidijitali utakuwa kipimo muhimu katika kudhibiti hali hii.

Ikiwa utapeli unaochochewa na AI utaendelea kukithiri kuliko uelewa, watu wale ambao wanapaswa kufaidika na mapinduzi ya kidijitali nchini India wanaweza kuanza kuogopa mtandao kabisa. Miezi michache ijayo itaonyesha ikiwa ulinzi mkali au watumiaji wenye akili zaidi wataweza kurejesha imani.

Chanzo: Times of India