Mwalimu mmoja nchini India alisimishwa kazi baada ya video ya tukio darasani kusambaa kupitia kikundi cha soga, na watazamaji wakabishana ikiwa kipande hicho ni cha kweli au kimeundwa na AI. Msukosuko huo unaangazia “faida ya mwongo” (liar’s dividend) – jinsi uwepo tu wa vyombo vya habari vya bandia unavyomruhusu mtu yeyote kutilia shaka ushahidi halisi – na unafichua upungufu katika wimbi la sasa la mitambo ya kutambua deep-fake.
Kesi iliyoamsha tahadhari
Wakati video hiyo ilipopata umaarufu mkubwa, mjadala wa sambamba ulizuka: baadhi ya watumiaji walionyesha hitilafu zinazoonekana ambazo zinaweza kuashiria deep-fake, wakati wengine walisema uwezekano wa ujanja huo unaufanya ushahidi wowote wa picha kutokuaminika.
Kwa nini mitambo ya sasa ya kutambua deep-fake inafeli
Suluhisho nyingi dhidi ya deep-fake hutafuta alama (artifacts) zinazoachwa na mifumo ya uundaji (generative models) – mifumo ya piksel isiyo ya kawaida, mwanga usio thabiti, au sauti zisizoendana. Vidokezo hivyo vinaweza kuashiria asili ya bandia, lakini havifanyi lolote ili kuthibitisha ni nani hasa anayeonekana kwenye picha. Katika mahakama au kikao cha nidhamu, alama ya uwezekano kwamba video "huenda ni ya bandia" haitatua swali la utambulisho. Lengo la sasa la "je, video hii ni ya bandia?" linaacha pengo wakati suala halisi ni "je, video hii inaonyesha mtu anayedai kuonyesha?"
Uhitaji wa utambulisho wa kibayometriki unaoweza kuthibitishwa
Watafiti wanahitaji njia ya kuthibitisha, kwa usahihi wa hisabati, kwamba uso kwenye video ni wa mtu fulani mahususi. Mifumo ya kisasa ya computer-vision hutoa mwelekeo wa sifa za hali ya juu (high-dimensional feature vector) – "embedding" – kutoka kwa kila uso. Kwa kupima umbali wa Euclidean kati ya embeddings mbili, mfumo huamua jinsi nyuso zilivyo sawa. Umbali mdogo unaashiria mtu yuleyule; umbali mkubwa unaashiria mtu tofauti. Hii hufanya kazi hata wakati video ina ukungu au mwanga hafifu, kwa sababu embeddings hukamata sifa za uso za kidhahania badala ya thamani ghafi za piksel.
Vikwazo vya kivitendo kwa watafiti
Vikwazo viwili vinavizuia uthibitisho wa kibayometriki kufikiwa na wengi wanaouhitaji. Kwanza, zana za kiwango cha kibiashara zinazoahidi usahihi wa juu zina bei ambazo timu ndogo za utafiti au watafiti huru hawawezi kuzimudu. Pili, programu zinazolenga watumiaji wa kawaida hupunguza usahihi ili kuleta urahisi, zikitoa viwango vya juu vya makosa ya false-positive ambayo hayangekubalika chini ya ukaguzi wa kisheria. Mchanganyiko wa gharama na matokeo yasiyoaminika unawalazimu watafiti kutegemea ulinganishaji wa picha wa papo hapo ambao hauko karibu na kisayansi.
Kujenga zana zinazoweza kusimama mahakamani
Watengenezaji wanaolenga kuziba pengo hilo wanapaswa kufuata falsafa ya usanifu ya hatua tatu:
- Onyesha ujasiri, si jibu la binary pekee. Toa ripoti ya umbali kati ya embeddings na uruhusu watumiaji kuweka viwango vyao wenyewe. Alama ya wazi inamruhusu wakili kudai kiwango kikali zaidi ikihitajika.
- Thibitisha asili ya faili. Chunguza metadata, thamani za hash, na URL za chanzo ili kugundua ujanja au upotoshaji. Matapeli mara nyingi huweka video katika mazingira ya upotoshaji, hivyo mfumo lazima uashirie asili inayotiliwa shaka.
- Weka kipaumbele kasi na ufanisi wa rasilimali. Mifumo midogo iliyojengwa juu ya maktaba za open-source inaweza kufanya kazi kwenye vifaa vya kawaida, na kufanya teknolojia hiyo ipatikane kwa watafiti binafsi bila kupoteza usahihi wa hisabati.
Zaidi ya namba ghafi, matokeo yanapaswa kujumuisha msaada wa picha: alama za uso zilizowekwa juu ya picha (overlayed facial landmarks).
Muhtasari: Mapambano ya kweli si tu kuhusu kutambua video za bandia; ni kuhusu kuwapa watafiti njia ya kihisabati ya kuthibitisha ni nani aliye kwenye skrini. Watengenezaji watakaohamia kutoka utambuzi wa deep-fake kwenda kwenye utambulisho wa kibayometriki unaoweza kuthibitishwa wataisaidia kuzuia video moja tu ya kusambaa kuharibu maisha ya mtu.