Kadangkala kecaman tiba lebih cepat daripada manual produk. Meta mempelajari perkara ini dengan cara yang sukar apabila ia melancarkan keupayaan baharu secara senyap di dalam model Muse Image AI miliknya, hanya untuk mengubah haluan beberapa hari kemudian di tengah-tengah gelombang kritikan yang hebat. Alat tersebut membolehkan mana-mana pengguna Instagram menghasilkan imej AI hanya dengan menandakan akaun awam dalam arahan (prompt) mereka. Dengan menaip sebutan @, pengguna boleh mengarahkan sistem untuk mensintesis visual baharu yang diambil daripada kemiripan, estetika, atau kandungan yang dimuat naik oleh akaun sasaran tersebut. Meta kini telah menyahaktifkan ciri tersebut sepenuhnya. Episod ini merupakan salah satu penarikan diri yang paling mendadak dalam usaha terbaharu syarikat itu untuk menyepadukan AI generatif merentasi platformnya.
Ciri yang Mencetuskan Kemarahan
Mekanismenya adalah mudah, dan itulah sebenarnya masalahnya. Seorang pengguna boleh membuka Meta AI, menerangkan imej yang mereka inginkan, dan merujuk kepada nama pengguna Instagram awam. Model tersebut kemudiannya akan menganalisis foto yang boleh dilihat secara awam daripada akaun tersebut dan menghasilkan imej derivatif yang menyerupai wajah, badan, gaya pakaian, atau pendekatan artistik subjek tersebut. Bagi pelakon, jurugambar, model, dan pengguna biasa yang mengekalkan profil mereka sebagai awam, ini bermakna identiti digital mereka boleh diolah semula tanpa sebarang permintaan atau amaran secara langsung.
Meta mempromosikan fungsi tersebut sebagai pemacu kreativiti. Syarikat itu berkemungkinan membayangkan peminat menghasilkan potret bergaya pencipta atau artis kegemaran mereka atau melakukan eksperimen dengan tema visual. Namun, jurang antara niat dan pelaksanaan adalah sangat besar. Oleh kerana alat tersebut tidak memerlukan keizinan yang jelas daripada pemilik akaun, setiap profil awam menjadi bahan mentah berpotensi bagi sesiapa sahaja yang mempunyai papan kekunci. Akaun peribadi tidak terjejas, tetapi bagi berjuta-juta pengguna yang profil mereka kekal awam atas sebab profesional atau sosial, platform tersebut secara berkesan telah mengisytiharkan kemiripan mereka terbuka untuk penggunaan semula algoritma. Ia bukan pengikisan data secara besar-besaran dalam erti kata tradisional. Ia adalah sintesis orang sebenar yang disasarkan dan mengikut permintaan.
Pengkritik dengan cepat menunjukkan bahawa ini memutarbelitkan logik asas keizinan digital. Kebanyakan platform yang membenarkan penggunaan imej peribadi oleh pihak ketiga, walaupun di bawah terma perkhidmatan yang luas, tidak menyerahkan kawalan kepada pengguna rawak untuk mengklon rupa seseorang sesuka hati. Perbezaan itu penting. Pengikisan pasif foto awam untuk set data latihan adalah satu pertempuran etika; penjanaan deepfake yang aktif dan diarahkan oleh pengguna yang dikaitkan dengan individu tertentu adalah perkara yang sama sekali berbeza. Dengan menjadikan akaun awam sebagai sasaran mudah untuk sintesis AI, Meta telah mengaburkan garis pemisah antara keterlihatan awam dan penyerahan hak identiti secara terbuka.
Risiko Privasi dan Masalah "Opt-Out"
Kritikan datang dari pelbagai arah, dan ia sangat tajam. Aktivis privasi, kesatuan kreatif, dan organisasi keselamatan semuanya bersatu untuk menunjukkan bahawa Meta telah membina sistem tersebut secara terbalik.
Haley McNamara, Pengarah Eksekutif Pusat Kebangsaan Mengenai Eksploitasi Seksual, memberi amaran bahawa ciri tersebut boleh menjadi alat yang nyata untuk sextortion dan penipuan lain. Kebimbangan beliau bukan sekadar hipotesis. Penderaan berasaskan imej telah semakin berleluasa seiring dengan peningkatan alat generatif. Sistem yang membolehkan mana-mana pengguna meniru kemiripan orang lain secara serta-merta dan meletakkannya dalam senario rawak menghilangkan halangan daripada proses yang sebelum ini memerlukan sekurang-kurangnya sedikit kemahiran teknikal. Ciri Meta pada dasarnya telah mengindustrikan langkah pertama eksploitasi berasaskan imej.
Menambah kerumitan keadaan adalah