Unamka na barua pepe inayokuambia kuwa akaunti yako ya Discord imepotea. Kwa kudumu. Sababu? Ulishiriki picha ya skrini ya jedwali, uliweka picha ya ubao wa chess, au ulipakia faili yenye mandhari ya uwazi. Kwa zaidi ya watu 8,000 tangu Mei, huu haukuwa upeo wa ndoto mbaya bali ulikuwa ukweli wa asubuhi yao. Tangu wakati huo, Discord imethibitisha kile ambacho watumiaji walioathirika walikuwa wakihisi: hitilafu kubwa katika mifumo ya usalama ya kiotomatiki ya jukwaa hilo ilikuwa ikitambua picha zisizo na hatari kabisa kama maudhui haramu, na kisha kuwafungia watu waliopakia picha hizo kwa kudumu.
Hitilafu hiyo na Ukosefu wa Udhibiti wa Binadamu
Udhibiti wa maudhui wa Discord kwa kiwango kikubwa unategemea ukaguzi wa kiotomatiki ili kulinganisha picha zilizopakiliwa na kanzidata za maudhui hatari yanayojulikana. Katika hali ya kawaida, mfumo unapogundua uwezekano wa ulinganishaji, unatoa ishara kwa msimamizi wa kibinadamu ili akague kabla ya hatua yoyote kubwa kuchukuliwa. Kituo hicho cha kibinadamu kipo kwa sababu hasa mifumo ya kiotomatiki hufanya makosa. Muktadha ni muhimu. Mashine haiwezi kutofautisha kati ya picha yenye nia mbaya na faili isiyo na hatari ambayo ina ufanano wa nje wa picha.
Hata hivyo, kasoro muhimu katika usanifu wa mfumo huo ilivunja mnyororo huo. Badala ya kuweka maudhui yaliyotiwa alama kwenye foleni kwa ajili ya ukaguzi wa kibinadamu, hitilafu hiyo iliruhusu mfumo wa kiotomatiki kupeleka hatua moja kwa moja hadi kwenye ufungiwa wa akaunti wa kudumu. Kwa zaidi ya miezi miwili, hitilafu hii iliendelea kuwepo, ikigonga zaidi ya akaunti 8,000. Tatizo liliongezeka hadi kufikia hatua ambayo ufungiwa mwingine 200 usio wa haki ulitokea katika wikendi moja kabla ya timu ya uhandisi ya Discord hatimaye kutambua tatizo na kuweka marekebisho (patch). Kampuni inasema sasa inafanya kazi ya kurejesha akaunti zote zilizoathirika, ingawa kwa watumiaji wengi, uharibifu wa imani tayari umeshatokea.
Kanuni za jambo hili zinastahili kueleweka. Hili halikuwa suala la AI tu kufanya makosa ya kukisia na binadamu kukubaliana nayo. Itifaki ya human-in-the-loop, ambayo hutumika kama ukaguzi wa mwisho wa uhakika, ilipitwa kabisa kutokana na hitilafu ya kiufundi. Tofauti hiyo ni muhimu. Majukwaa mara nyingi hutetea mifumo ya kiotomatiki yenye ukali kwa kuashiria wasimamizi wa kibinadamu ambao inasemekana wanakamata visa vya kipekee. Tukio hili linathibitisha kuwa kinga hizo ni za kuaminika kulingana na uimara wa kodi zinazozisimamia.
Kwa Nini Michoro ya Gridi Ilimchanganya Mashine
Miongoni mwa ufungiwa usio wa haki, muundo wa ajabu ulitokea. Watumiaji kwenye X na Reddit waliripoti mara kwa mara kuwa picha zenye michoro ya gridi ya mraba zilikuwa zinasababisha hatua za kisheria. Mbao za chess. Jedwali (spreadsheets). Miundo ya michezo (game textures). Vipengele vya kiolesura cha mtumiaji (user interface elements). Hizi hazikuwa makosa ya bahati mbaya bali ni dalili ya mfumo uliorekebishwa kuwa mwangalifu kupita kiasi dhidi ya mbinu fulani ya kukwepa ulinzi.
Watu wanaofanya biashara ya maudhui haramu wamejaribu kwa muda mrefu kudanganya mifumo ya utambuzi wa kiotomatiki. Njia moja ya kawaida inahusisha kuweka tabaka za picha (visual overlays), kelele (noise), au miundo kama ya gridi juu ya picha za matusi ili kuvuruga jinsi algoriti zinavyoziona. Katika kujibu, majukwaa kwa asili huimarisha mif
Tukio hili pia linaingia katika muktadha mpana wa uwajibikaji wa majukwaa. Meta imekabiliwa na uchunguzi endelevu kuhusu kusimamishwa kwa akaunti bila maelezo, huku Oversight Board yake ikihimiza uwazi zaidi kuhusu jinsi maamuzi ya kiotomatiki yanavyofanywa na jinsi ya kuyakata. Kushindwa kwa Discord kunaakisi mgogoro huo kwa njia muhimu: utendaji wa kiotomatiki unapokosea, watumiaji mara nyingi huachwa wakipiga kelele kwenye pengo, wakikata rufaa kupitia fomu zinazotoa majibu ya kiotomatiki, bila njia ya wazi ya kumfikia binadamu ambaye anaweza kurekebisha hitilafu hiyo.
Kwa watengenezaji na watafiti wa AI, somo hili ni la kimuundo. "'Human-in-the-loop' haiwezi kuwa ahadi ya sera inayotolewa kwenye chapisho la blogu. Lazima iwe kizuizi kigumu cha kiufundi. Mfumo unapaswa kutokuwa na uwezo wa kutoa marufuku ya kudumu bila uthibitisho wa binadamu. Ikiwa kodi inaruhusu utendaji wa kiotomatiki kuruka kizuizi hicho kwa sababu ya hitilafu, basi kinga hiyo haikuwepo kikweli. Wakati mifano ya utambuzi inavyozidi kuwa kali ili kuendana na vitisho vinavyobadilika, majukwaa yanahitaji kujenga mifumo ya udhibiti ambayo ni imara kama vile tabaka za utambuzi zenyewe.
Nini Kinapaswa Kubadilika
Kuna athari za kivitendo hapa kwa majukwaa na watu wanaoyatumia.
Kwa majukwaa, mifumo ya usimamizi inahitaji mifumo ya dharura inayochukulia marufuku za akaunti kwa uzito unaostahili. Kuondolewa kwa kudumu kunapaswa kuhitaji ishara nyingi huru au idhini ya lazima ya binadamu ambayo mfumo hauwezi kuipuuza. Ripoti za uwazi zinapaswa kujumuisha si tu kiasi cha maudhui yaliyofutwa, bali pia ni hatua ngapi za utekelezaji zilirejeshwa kutokana na hitilafu za kiufundi. Watumiaji wanastahili kujua wakati mashine inapofanya kosa la kimfumo, badala ya kupokea tu urejeshaji wa kimya kimya.
Kwa watumiaji, tukio hili ni ukumbusho kwamba jukwaa lolote lililowekwa kituo linaweza kukufunga nje bila kosa lolote kutoka kwako. Ikiwa unaendesha jumuiya au unategemea Discord kwa uratibu wa kitaalamu, weka nakala za akiba za mawasiliano na data muhimu nje ya jukwaa hilo. Elewa michakato ya kukata rufaa kabla hujaihitaji. Na majukwaa yanapotangaza zana mpya za usalama zinazotumia AI, mashaka ni ya lazima. Usiulize tu jinsi utambuzi unavyokuwa sahihi, bali ni vizuizi gani vya kimuundo vinavyozuia utendaji huo wa kiotomatiki usifanye maamuzi wenyewe.
Discord imerekebisha hitilafu hii mahususi na inarejesha akaunti, lakini mvutano wa msingi bado haujatatuliwa. Majukwaa yako chini ya shinikizo halali la kuzuia maudhui yenye madhara kwa kasi ya kupakia, na shinikizo hilo litasogeza tu utendaji wa kiotomatiki zaidi ndani ya mfumo wa usimamizi. Swali ni ikiwa sekta inaweza kujenga mifumo ambayo ni kali dhidi ya matumizi mabaya bila kuwa dhaifu dhidi ya maudhui ya kawaida ambayo watu wanashiriki kila siku. Mpaka muundo wa kiufundi utakapohakikisha kuwa binadamu kila wakati anashikilia ufunguo wa mwisho, hakuna kiasi cha marekebisho ya modeli kitakachozuia wimbi lijalo la marufuku.