TikTok, ABD'li içerik üreticilerinin platformda kendi yüzlerinin izinsiz, yapay zeka tarafından üretilmiş versiyonlarını taramasına olanak tanıyan yapay zeka destekli bir deepfake dedektörünü test etmeye başladı. İsteğe bağlı sunulan bu hizmet, bir içerik üreticisinin benzerliğini ele geçiren sentetik video ve görselleri işaretliyor.
Bu hamle neden önemli
Üretken yapay zeka, artık herhangi birinin yüzünü herhangi bir vücuda yerleştirebilen hiper-gerçekçi videolar üretiyor.
Araç nasıl çalışıyor
Hizmete dahil olan küçük bir ABD'li içerik üreticisi grubu, TikTok sisteminin yapay zeka tarafından doğrulanmış yüz hatlarıyla eşleşen olarak işaretlenen tüm içerikleri listelediği bir kontrol paneli alıyor. İçerik üreticileri bu eşleşmeleri inceliyor ve görüntülerini kötüye kullanan gönderiler veya hesaplar hakkında rapor oluşturuyor.
Suistimali önlemek için TikTok, her katılımcının üçüncü taraf bir doğrulama hizmeti olan Jumio aracılığıyla zorlu bir kimlik kontrolünden geçmesini şart koşuyor. Bu kontrol, gerçek zamanlı bir selfie taraması ve devlet tarafından verilmiş bir kimlik belgesi gerektiriyor. TikTok, yüklenen kimlikleri saklamadığını; yüz verilerini yalnızca tespit motoru içindeki benzerlik eşleştirmesi için kullandığını belirtiyor.
Daha geniş kapsamlı silahlanma yarışı
TikTok, bir deepfake koruma önlemi sunan ilk platform değil. YouTube da yakın zamanda tüm yetişkin kullanıcılar için benzer bir tespit özelliği başlattı; bu da dijital kimlikleri korumaya yönelik sektör genelindeki çabayı gösteriyor. Büyük dil modelleri ve difüzyon modelleri geliştikçe, sentetik "dijital insanlar" akışa manuel moderatörlerin yetişemeyeceği kadar hızlı bir şekilde doluyor.
Sırada ne var
Pilot uygulama Amerika Birleşik Devletleri ile sınırlı kalıyor ve yalnızca gönüllü olan içerik üreticileri için geçerli.
Özet: TikTok'un deepfake tespit testi, içerik üreticisi kimliklerinin proaktif olarak korunmasına yönelik kararlı bir değişimi simgeliyor; bu testin etkisi, katı doğrulama ile içerik üreticilerinin beklediği kullanım kolaylığı arasında ne kadar iyi bir denge kuracağına bağlı olacak.