TikTok telah mula menguji pengesan deepfake dipacu AI yang membolehkan pencipta kandungan di AS mengimbas platform tersebut untuk mencari versi wajah mereka yang dijana oleh AI tanpa kebenaran. Perkhidmatan pilihan ini menandakan video dan imej sintetik yang menyalahgunakan rupa pencipta tersebut.
Mengapa langkah ini penting
AI generatif kini menghasilkan video hiper-realistik yang boleh menampal wajah sesiapa sahaja pada mana-mana badan.
Cara alat ini berfungsi
Sekumpulan kecil pencipta kandungan di AS yang memilih untuk menyertai perkhidmatan ini akan menerima papan pemuka di mana sistem TikTok menyenaraikan sebarang kandungan yang ditandakan oleh AI sebagai sepadan dengan ciri wajah mereka yang telah disahkan. Pencipta kandungan akan menyemak hasil tersebut dan memfailkan laporan terhadap hantaran atau akaun yang menyalahgunakan imej mereka.
Bagi mengelakkan penyalahgunaan, TikTok mewajibkan setiap peserta untuk melepasi pemeriksaan identiti yang ketat melalui Jumio, sebuah perkhidmatan pengesahan pihak ketiga. Pemeriksaan tersebut memerlukan imbasan swafoto masa nyata dan ID yang dikeluarkan oleh kerajaan. TikTok menyatakan bahawa ia tidak menyimpan ID yang dimuat naik; ia hanya menggunakan data wajah untuk pemadanan rupa di dalam enjin pengesanan.
Perlumbaan senjata yang lebih luas
TikTok bukanlah platform pertama yang melancarkan perlindungan deepfake. YouTube baru-baru ini melancarkan ciri pengesanan yang serupa untuk semua pengguna dewasa, menunjukkan usaha industri untuk melindungi identiti digital. Memandangkan model bahasa besar dan model difusi semakin berkembang, "manusia digital" sintetik membanjiri suapan lebih pantas daripada kemampuan moderator manual untuk menanganinya.
Apa yang seterusnya
Program rintis ini kekal terhad kepada Amerika Syarikat dan kepada pencipta kandungan yang menawarkan diri secara sukarela.
Rumusan: Ujian pengesanan deepfake TikTok menandakan peralihan drastik ke arah perlindungan proaktif identiti pencipta kandungan; impaknya akan bergantung kepada sejauh mana ia dapat mengimbangi pengesahan yang ketat dengan kemudahan yang diharapkan oleh pencipta kandungan.