Terkadang reaksi keras datang lebih cepat daripada panduan produk. Meta mempelajari hal ini dengan cara yang sulit ketika mereka secara diam-diam meluncurkan kemampuan baru di dalam model Muse Image AI miliknya, hanya untuk menarik kembali keputusan tersebut beberapa hari kemudian di tengah badai kritik. Alat tersebut memungkinkan pengguna Instagram mana pun untuk menghasilkan gambar AI hanya dengan menandai akun publik dalam perintah (prompt) mereka. Dengan mengetik @-mention, pengguna dapat mengarahkan sistem untuk menyintesis visual baru yang diambil dari kemiripan, estetika, atau konten yang diunggah akun target. Meta kini telah menonaktifkan fitur tersebut sepenuhnya. Episode ini menjadi salah satu penarikan diri yang paling tiba-tiba dalam upaya terbaru perusahaan untuk mengintegrasikan AI generatif di seluruh platformnya.
Fitur yang Memicu Kemarahan
Mekanismenya sangat sederhana, dan itulah tepatnya masalahnya. Seorang pengguna dapat membuka Meta AI, mendeskripsikan gambar yang mereka inginkan, dan merujuk pada nama pengguna Instagram publik. Model tersebut kemudian akan menganalisis foto-foto yang terlihat secara publik dari akun tersebut dan menghasilkan gambar turunan yang menyerupai wajah, tubuh, gaya pakaian, atau pendekatan artistik subjek tersebut. Bagi aktor, fotografer, model, dan pengguna biasa yang menjaga profil mereka tetap publik, ini berarti identitas digital mereka dapat diolah kembali tanpa ada permintaan atau peringatan langsung.
Meta memasarkan fungsi tersebut sebagai akselerator kreatif. Perusahaan kemungkinan membayangkan para penggemar menghasilkan potret bergaya dari kreator atau artis favorit mereka yang mengolah tema visual. Namun, celah antara niat dan implementasi sangatlah besar. Karena alat tersebut tidak memerlukan persetujuan eksplisit dari pemilik akun, setiap profil publik menjadi bahan mentah potensial bagi siapa saja yang memiliki keyboard. Akun pribadi tidak terpengaruh, tetapi bagi jutaan pengguna yang profilnya tetap publik karena alasan profesional atau sosial, platform tersebut secara efektif menyatakan bahwa kemiripan mereka terbuka untuk penggunaan ulang algoritmik. Ini bukan pengambilan data massal (scraping) dalam pengertian tradisional. Ini adalah penyintesisan orang sungguhan yang ditargetkan dan sesuai permintaan.
Para kritikus dengan cepat menunjukkan bahwa hal ini membalikkan logika dasar persetujuan digital. Sebagian besar platform yang mengizinkan penggunaan citra pribadi oleh pihak ketiga, bahkan di bawah ketentuan layanan yang luas, tidak menyerahkan kendali kepada pengguna acak untuk mengkloning penampilan seseorang sesuka hati. Perbedaannya sangat penting. Pengambilan data (scraping) pasif dari foto publik untuk kumpulan data pelatihan adalah satu pertempuran etika; pembuatan deepfake aktif yang diarahkan pengguna dan terkait dengan individu tertentu adalah hal yang sama sekali berbeda. Dengan menjadikan akun publik sebagai sasaran empuk untuk penyintesisan AI, Meta mengaburkan batas antara visibilitas publik dan penyerahan hak identitas secara publik.
Risiko Privasi dan Masalah "Opt-Out"
Kritik datang dari berbagai arah, dan kritiknya sangat tajam. Advokat privasi, serikat kreatif, dan organisasi keselamatan semuanya berbaris untuk menunjukkan bahwa Meta telah membangun sistem secara terbalik.
Haley McNamara, Direktur Eksekutif National Center on Sexual Exploitation, memperingatkan bahwa fitur tersebut dapat menjadi alat yang nyata untuk sextortion dan penipuan lainnya. Kekhawatirannya bukan sekadar hipotesis. Pelecehan berbasis gambar telah marak seiring dengan meningkatnya kemampuan alat generatif. Sistem yang memungkinkan pengguna mana pun secara instan mendekati kemiripan orang lain dan menempatkannya dalam skenario sembarang menghilangkan hambatan dari proses yang sebelumnya memerlukan setidaknya beberapa keterampilan teknis. Fitur Meta pada dasarnya mengindustrialisasi langkah pertama dari eksploitasi berbasis gambar.
Memperumit masalah lebih lanjut adalah