Umoja wa kihalifu umeanzisha tovuti 15,500 zinazorusha video za deep-fake za watu mashuhuri wakitangaza ushauri wa uongo wa hisa, na operesheni hiyo tayari inachota pesa kutoka kwa wawekezaji wasio na hatia. Ukubwa pekee unaufanya uondoaji wa tovuti hizo kwa mkono kuwa hauwezekani, hali inayozilazimisha timu za usalama kufikiria upya jinsi zinavyoweza kuzitambua na kuzizuia udanganyifu huo.

Jinsi genge hili linavyofanya kazi

Matapeli hawategemei kipande kimoja tu cha video ya bandia. Kila tovuti imepangwa kufanya kazi tofauti kulingana na nani anaiingia. Kijitambua cha kiotomatiki (automated crawler) huona ukurasa wa kawaida wa "inajengwa", wakati mtumiaji halisi anayefika kupitia kifaa cha mkononi huonyeshwa video iliyoboreshwa inayoonekana kumhusisha mtu mashuhuri akitangaza hisa. Tofauti hiyo inaruhusu operesheni hiyo kukwepa ufuatiliaji wa zana za kawaida za ukusanyaji wa data za wavuti (web-scraping tools).

Ili kuficha mabadiliko hayo, kikundi hicho kinatumia huduma za kuelekeza trafiki kama vile Keitaro, ambazo zinaweza kuficha URL na kutoa maudhui tofauti kulingana na sifa za IP, alama ya kifaa (device fingerprint), au kichwa cha rejea (referrer header). Matokeo yake ni mtandao mkubwa wa vikoa vinavyofanana (look-alike domains) vinavyochanganyika na mtandao wa kawaida, jambo linalofanya iwe vigumu kwa roboti za usalama kuzitaja kama hatari.

Kwa nini utambuzi wa kawaida hautoshi

Suluhisho nyingi za kuzuia deep-fake hujikita katika kutambua makosa ya kuonekana (visual artefacts) yanayofichua video ya bandia—kingo zisizoeleweka, mwanga usio thabiti, au miondoko ya midomo isiyoendana. Katika kampeni hii, ishara hizo ni adimu kwa sababu video hizo zinatengenezwa kwa kutumia mifumo ya hali ya juu. Udhaifu halisi upo katika muundo wa uso: miundombinu ya kutengeneza deep-fake mara nyingi huleta tofauti ndogo katika uhusiano wa nafasi kati ya alama za uso (facial landmarks).

Kwa hivyo, ukaguzi rahisi wa "je, video hii ni ya bandia?" unakosa maudhui mengi ya genge hili. Kinachohitajika ni hatua ya uhakiki inayolinganisha uso unaoonyeshwa kwenye video na picha inayojulikana na inayofahamika ya mtu mashuhuri huyo.

Kujenga mfumo wa uhakiki (verification pipeline)

Waendelezaji wanaweza kuingiza uwezo mkuu mitatu katika mifumo yao ya usalama:

  • Utafutaji unaobadilika (Adaptive crawling) – Tumia vivinjari visivyo na picha (headless browsers) vinavyoiga watumiaji halisi, badilisha IP, na uiga sifa za kifaa cha mkononi. Hii inasaidia kukwepa mbinu za udanganyifu za "inajengwa" na kupata video halisi.
  • Ulinganishaji wa kibayometriki (Biometric comparison) – Chomoa alama za uso (facial landmarks) kutoka kila fremu ya video na upige hesabu ya umbali wa Euclidean kulinganisha na picha halisi ya marejeleo. Makosa madogo na thabiti katika uwekaji wa alama ni ishara thabiti ya deep-fake. Kufanya ulinganishaji huo kwenye fremu nyingi hupunguza makosa ya kutoa taarifa za uongo yanayosababishwa na mabadiliko ya muda ya mwanga au kitu kuziba uso.
  • Kubadilika kutoka utambuzi kwenda uhakiki – Badala ya kuainisha video kama "inaweza kuwa ya bandia," ichukulie kama haijathibitishwa hadi ipite katika ukaguzi wa kibayometriki dhidi ya chanzo kilichoidhinishwa. Ikiwa hakuna mlinganisho utakaopatikana, maudhui yanaweza kuwekwa kwenye karantini au kutumwa kwa uhakiki wa binadamu.

Utekelezaji wa vitendo unaweza kuonekana hivi:

  1. Kijitambua (Crawler) hupata ukurasa, hufuata mwelekeo (redirects), na kurekodi URL ya mwisho ya video.
  2. Kipakua (Downloader) huvuta video na kuigawa katika fremu muhimu (kwa mfano, moja kwa kila sekunde).
  3. Kichujio cha uso (Face extractor) hutumia mfumo mwepesi ili kupata mahali uso ulipo katika kila fremu.
  4. Mlinganishaji wa alama (Landmark matcher) hupiga hesabu ya umbali wa Euclidean kati ya alama zilizochomolewa na zile kutoka kwenye picha rasmi ya mtu mashuhuri huyo.
  5. Mkusanyaji wa alama (Score aggregator) huainisha video ikiwa umbali wa wastani unazidi kiwango kilichowekwa.

Kwa sababu operesheni hii inahusisha maelfu ya vikoa, kufanya kila hatua kuwa ya kiotomatiki ni muhimu. Maktaba za chanzo huru (open-source libraries) kwa ajili ya utambuzi wa uso na uchimbaji wa alama za uso zinapatikana kwa urahisi, na ukokotoaji wa umbali wa Euclidean una gharama ndogo za kimitambo, jambo linaloruhusu mfumo huo kukua hadi tovuti mamia ya maelfu kwa siku.

Upinzani unaoweza kujitokeza

Baadhi ya timu za usalama wanahoji kuwa uhakiki wa kibayometriki huleta wasiwasi wa faragha, hasa wakati unahusisha kuhifadhi picha za marejeleo za watu mashuhuri. Hoja ya kinyume ni kwamba seti ya marejeleo inaweza kuishia kwenye picha zinazopatikana hadharani na zenye leseni na isihifadhiwe baada ya hatua ya ulinganishaji. Hatari ya mamilioni ya watumiaji kudanganywa na kupoteza fedha zao za uwekezaji ni kubwa zaidi kuliko usimamizi mdogo wa data unaohusika.

Pingamizi lingine ni gharama za matengenezo ya kuweka maktaba ya marejeleo ikiwa upya wakati watu mashuhuri wanapobadilisha muonekano wao. Sasisho za hatua kwa hatua—kama vile kuongeza picha mpya zinapoonekana kwenye vyombo vya habari vilivyoidhinishwa—hupunguza tatizo hili bila kuhitaji kujenga upya mfumo mzima.

Nini cha kufuatilia baadaye

Utegemezi wa mtandao huo kwa huduma za kuficha trafiki unamaanisha kuwa hitilafu yoyote katika huduma hizo inaweza kupunguza nguvu ya kampeni hiyo kwa muda, lakini mbinu ya msingi—utoaji wa maudhui yanayobadilika (dynamic content delivery) ikijumuishwa na deep-fakes za hali ya juu—huenda itatokea tena katika utapeli mwingine. Wauzaji wa huduma za usalama wanapaswa kuchunguza mifumo inayofanana: maudhui yanayotofautiana kulingana na alama za crawler, ongezeko la ghafla la vikoa (domains) vinavyoelekeza kwenye "video hosting bucket" ile ile, na matumizi ya mara kwa mara ya alama zilezile za makosa ya jiometri ya uso.

Kwa watengenezaji, hatua inayofuata ni kutengeneza mfano wa awali wa mchakato wa uhakiki (verification pipeline) kwenye kundi dogo la vikoa mashukiashuki na kupima viwango vya makosa ya "false-positive". Kushiriki alama za utambuzi kati ya mashirika kunaweza pia kupunguza kurudia juhudi zilezile.

Hitimisho: Utapeli wa deep-fake wa tovuti 15,500 unaonyesha kuwa ukubwa, si tu utaalamu, ndio mpaka mpya wa utapeli. Kwa kuchanganya adaptive crawling na uhakiki wa kibayometriki wa kila fremu (frame-by-frame), timu za usalama zinaweza kugeuza tatizo kubwa kuwa ulinzi wa kiotomatiki na unaopimika.