Kwa miaka michache iliyopita, sekta ya usalama imekuwa ikizungumzia akili mnemba (AI) kama kichocheo cha kuongeza uwezo wa walinzi. Hadithi ilikuwa hivi: mifumo ya kujifunza kwa mashine (machine learning models) ingechuja kumbukumbu (logs), kutambua mambo yasiyo ya kawaida (anomalies) ambayo wachambuzi wa binadamu walikosa, na kushughulikia kazi zinazochosha za utambuzi wa vitisho. Hadithi hiyo ni kweli kwa nusu tu. Nusu nyingine, kulingana na matokeo ya hivi karibuni kutoka Check Point Research, ni kwamba washambuliaji wamevuka hatua ya majaribio. Wanatumia AI kufanya mashambulizi ya moja kwa moja sasa hivi. Teknolojia hii si chombo cha watengenezaji tu wanaojenga mifumo mipya ya programu. Imekuwa silaha hai mikononi mwa wahalifu ambao wanajiongezea uwezo wa udanganyifu katika kiwango ambacho hatujawahi kukiona hapo awali.
Wakati Washambuliaji Wanapotumia AI kwa Operesheni za Moja kwa Moja
Ripoti hiyo inaangazia mabadiliko makubwa katika jinsi wahusika wa vitisho wanavyopanga kampeni zao. Badala ya kutegemea kodi tuli (static code) na amri na udhibiti wa kawaida (manual command-and-control), washambuliaji wanajenga mifumo tata ya programu haribifu (malware frameworks) kama VoidLink. Mifumo ya aina hii inaashiria mbinu ya kimoja-kimoja (modular approach) ambapo vipengele vinaweza kubadilika, kusasishwa, na kuwasiliana kwa njia ya moja kwa moja. AI inapodhibiti mifumo hii, kampeni za malware zinakuwa ngumu zaidi kutabiri. Payloads zinaweza kubadilisha tabia kulingana na mazingira yanayovamia, jambo ambalo hufanya utambuzi unaotegemea alama (signature-based detection) kuwa mgumu zaidi na kuhitaji ufuatiliaji wa tabia (behavioral monitoring) ambao mashirika machache tu yameuimarisha kikamilifu.
Kinachotia hofu zaidi ni unyonyaji wa moja kwa moja wa mifumo ya kibiashara ya AI. Washambuliaji hawajizuiliwi kwenye zana za chini za siri zinazojengwa kwenye majukwaa ya siri. Wanatumia vibaya mifumo ile ile ya lugha kubwa (large language models) na huduma za AI ambazo biashara halali hutumia kila siku. Kwa kuvunja mifumo (jailbreaking), kuboresha uhandisi wa maelekezo (prompt engineering), au kwa urahisi tu kuendesha API calls nyingi kwa njia ya kiotomatiki, wahalifu wanapita mipaka ya usalama na kutengeneza barua pepe za phishing, skripti haribifu, na mbinu za udanganyifu wa kijamii (social engineering lures) kwa kasi ya mashine. Kejeli ni kali: miundombinu iliyojengwa kusaidia watu kuandika kodi au kufupisha nyaraka sasa inatumiwa vibaya kuvunja mipaka ya mashirika yale yale yaliyolipia huduma hiyo.
Vitisho Vinne Vinavyoendeshwa na AI Unavyopaswa Kuvielewa
Uchambuzi wa Check Point unaashiria kesi nne mahususi za matumizi mabaya ambazo timu za usalama zinapaswa kuzitambua kwa undani. Kila moja inabadilisha uwezekano wa kile ambacho mshambuliaji anaweza kufanikisha bila mipaka ya uwezo wa binadamu.
Mashambulizi ya phishing ya kiotomatiki yamekuwepo katika mifumo ya awali kwa miongo mingi, lakini AI inaondoa vikwazo vilivyobaki. Washambuliaji wanaweza kuchukua taarifa kutoka mitandao ya kijamii na tovuti za makampuni ili kutengeneza barua pepe zenye ukaribu mkubwa na mpokeaji ndani ya sekunde chache, wakirekebisha sauti, lugha, na muktadha ili kampeni za jumla zionekane kama ujumbe wa mtu mmoja kwa mtu mmoja. Wakati kila barua pepe ya spear-phishing inaonekana kuandikwa kwa mkono, utambuzi wa kawaida unaotegemea sarufi mbovu au vichwa vya barua pepe za jumla unashindwa kabisa.
Vifaa vya vishing vya wakala wa sauti (Voice-agent vishing kits) vinawakilisha ongezeko linalozidi hata deepfakes zilizorekodiwa. Vifaa hivi huweka mawakala wa sauti wanaoweza kushiriki mazungumzo ya moja kwa moja na wahanga. Fikiria simu inayosikika kama vile ni huduma yako ya msaada wa IT, inajibu maswali yako kwa asili, na inakuomba kwa haraka nambari yako ya uthibitishaji wa hatua nyingi (multi-factor authentication code). Sauti ni ya bandia, skripti inatengenezwa papo hapo, na mwathiriwa anazungumza na programu ambayo haichoki, haijikwaa maneno, na haipotezi lengo lake.
Utambulisho wa kidijitali wa kughushi unaeneza ujanja huu kutoka kwenye simu moja hadi kwenye utu mzima. Wahusika wa vitisho wanaweza kutengeneza wasifu wa bandia (synthetic profiles) ukiwa na picha zilizotengenezwa, historia ya kazi ya uongo, na miunganisho ya mtandao ya bandia. Utambulisho huu hautumiki kutuma ujumbe mmoja tu; unaweza kujiunga na mitandao ya kitaaluma, kushiriki katika mijadala ya sekta, na kujenga imani kwa wiki au miezi kabla ya kupeleka payload haribifu au kuomba taarifa nyeti. Udanganyifu wa muda mrefu sasa umefikia kiwango cha viwanda.
Mashambulizi ya uingizaji maelekezo yasiyo ya moja kwa moja (Indirect prompt injection attacks) yanalenga usanifu wa programu za AI zenyewe badala ya kumlenga mtumiaji moja kwa moja. Mshambuliaji huficha maelekezo haribifu ndani ya ukurasa wa wavuti, hati, au barua pepe ambayo wakala wa AI baadaye huichakata. Wakati zana ya msaidizi wa kampuni inasoma data hiyo iliyochafuliwa, inatekeleza maelekezo ambayo mshambuliaji aliyaweka, jambo linaloweza kuvuja taarifa za siri au kuchukua hatua zisizoidhinishwa kwa niaba ya mtumiaji. Programu inaonekana kutofanya kazi vizuri, lakini inafuata tu maelekezo ambayo haikupaswa kuyaona kamwe.
Upande wa Ndani: AI Isiyoidhinishwa na Kuvuja kwa Data
Vitisho hivi vya nje vinaongezwa na mgogoro mwingine wa kimya unaotokea ndani ya ofisi. Mashirika sasa yanakabiliwa na hatari kubwa kutokana na matumizi yasiyoidhinishwa ya AI, ambayo mara nyingi huitwa "shadow AI", ambapo wafanyakazi huweka kanuni za siri za kampuni, kumbukumbu za wateja, au mipango ya kimkakati kwenye chatbot za umma ili kuharakisha kazi za kila siku. Matokeo yake ni