Wakati mwingine upinzani mkali huwasili haraka kuliko mwongozo wa bidhaa. Meta ilijifunza jambo hili kwa njia ngumu wakati ilipozindua kwa siri uwezo mpya ndani ya modeli yake ya Muse Image AI, lakini ikalazimika kubadili mwelekeo siku chache baadaye katikati ya dhoruba ya ukosoaji. Zana hiyo iliwaruhusu watumiaji wowote wa Instagram kutengeneza picha za AI kwa urahisi tu kwa ku-tag akaunti ya umma katika maelezo yao (prompt). Kwa kutaja kwa @-mention, watumiaji waliweza kuongoza mfumo kutengeneza picha mpya zinazotokana na mwonekano, urembo, au maudhui yaliyowekwa ya akaunti husika. Meta sasa imezima kipengele hicho kabisa. Tukio hili linasimama kama moja ya kurudi nyuma kwa ghafla zaidi katika jitihada za hivi karibuni za kampuni hiyo kuunganisha generative AI katika majukwaa yake yote.
Kipengele Kilichozua Ghadhabu
Mfumo ulikuwa rahisi, na hilo ndilo lilikuwa tatizo kuu. Mtumiaji angeweza kufungua Meta AI, kuelezea picha aliyotaka, na kutaja jina la akaunti ya umma ya Instagram. Kisha modeli ingechambua picha zinazoonekana hadharani za akaunti hiyo na kutengeneza picha zinazofanana na uso, mwili, mtindo wa mavazi, au mbinu ya kisanii ya mhusika. Kwa waigizaji, wapiga picha, wanamitindo, na watumiaji wa kawaida ambao walikuwa na wasifu wao hadharani, hii ilimaanisha kuwa utambulisho wao wa kidijitali ungeweza kuchanganywa upya bila ombi lolote la moja kwa moja au onyo.
Meta ilitangaza kazi hiyo kama kichocheo cha ubunifu. Kampuni huenda ilifikiria mashabiki wakitengeneza picha za kisanii za wabunifu au wasanii wao wanaopenda. Lakini pengo kati ya nia na utekelezaji lilikuwa kubwa sana. Kwa sababu zana hiyo haikuhitaji ridhaa ya wazi kutoka kwa mmiliki wa akaunti, kila wasifu wa umma ukawa malighafi inayoweza kutumiwa na mtu yeyote mwenye kibodi. Akaunti za faragha hazikuathiriwa, lakini kwa mamilioni ya watumiaji ambao wasifu wao unabaki hadharani kwa sababu za kitaaluma au kijamii, jukwaa hilo lilitangaza kwa vitendo kuwa mwonekano wao uko wazi kwa matumizi ya kanuni (algorithms). Haikuwa ukusanyaji wa data kwa wingi katika maana ya kawaida. Ilikuwa ni utengenezaji wa picha wa walengwa unaohitajika papo hapo wa watu halisi.
Wakosoaji walibainisha haraka kwamba hii iligeuza mantiki ya msingi ya ridhaa ya kidijitali. Majukwaa mengi yanayoruhusu matumizi ya picha za kibinafsi na upande wa tatu, hata chini ya masharti mapana ya huduma, hayamkabidhi mtu yeyote mamlaka ya kunakili mwonekano wa mtu mwingine upendavyo. Tofauti hiyo ni muhimu. Ukusanyaji wa picha za umma kwa ajili ya seti ya data ya mafunzo ni vita moja la kimaadili; utengenezaji wa deepfake unaoelekezwa na mtumiaji na unaohusiana na watu mahususi ni vita lingine kabisa. Kwa kufanya akaunti za umma kuwa zinazoweza kutumiwa kwa urahisi katika utengenezaji wa AI, Meta ilipunguza mpaka kati ya kuonekana hadharani na kukabidhi haki za utambulisho hadharani.
Hatari za Faragha na Tatizo la "Kujiondoa" (Opt-Out)
Ukosoaji ulitoka pande nyingi, na ulikuwa mkali. Watetezi wa faragha, vyama vya wabunifu, na mashirika ya usalama vyote vilijipanga kueleza kuwa Meta imejenga mfumo huo kinyume.
Haley McNamara, Mkurugenzi Mtendaji wa Kituo cha Kitaifa cha Unyonyaji wa Kingono (National Center on Sexual Exploitation), alionya kuwa kipengele hicho kinaweza kuwa chombo cha wazi cha sext