TikTok telah mulai menguji detektor deepfake berbasis AI yang memungkinkan kreator di AS memindai platform untuk mencari versi wajah mereka yang dihasilkan oleh AI tanpa izin. Layanan opsional ini menandai video dan gambar sintetis yang membajak kemiripan wajah seorang kreator.
Mengapa langkah ini penting
AI generatif kini menghasilkan video hiper-realistis yang dapat menempelkan wajah siapa pun ke tubuh mana pun.
Cara kerja alat ini
Sekelompok kecil kreator AS yang mendaftar akan menerima dasbor di mana sistem TikTok mencantumkan konten apa pun yang ditandai oleh AI karena cocok dengan fitur wajah terverifikasi mereka. Kreator meninjau temuan tersebut dan mengajukan laporan terhadap unggahan atau akun yang menyalahgunakan citra mereka.
Untuk mencegah penyalahgunaan, TikTok mewajibkan setiap peserta untuk melewati pemeriksaan identitas yang ketat melalui Jumio, sebuah layanan verifikasi pihak ketiga. Pemeriksaan ini memerlukan pemindaian selfie secara real-time dan kartu identitas resmi dari pemerintah. TikTok menyatakan bahwa mereka tidak menyimpan ID yang diunggah; mereka hanya menggunakan data wajah untuk pencocokan kemiripan di dalam mesin deteksi.
Perlombaan senjata yang lebih luas
TikTok bukanlah platform pertama yang meluncurkan pengaman deepfake. YouTube baru-baru ini meluncurkan fitur deteksi serupa untuk semua pengguna dewasa, menunjukkan dorongan industri untuk melindungi identitas digital. Seiring dengan meningkatnya kemampuan model bahasa besar dan model difusi, "manusia digital" sintetis membanjiri beranda lebih cepat daripada yang dapat ditangani oleh moderator manual.
Apa selanjutnya
Program percontohan ini masih terbatas di Amerika Serikat dan bagi kreator yang mendaftar secara sukarela.
Kesimpulan: Uji coba deteksi deepfake TikTok menandai pergeseran krusial menuju perlindungan proaktif terhadap identitas kreator; dampaknya akan bergantung pada seberapa baik fitur ini menyeimbangkan verifikasi yang ketat dengan kemudahan yang diharapkan oleh para kreator.