TikTok เริ่มทดสอบเครื่องมือตรวจจับ deepfake ที่ขับเคลื่อนด้วย AI ซึ่งช่วยให้ครีเอเตอร์ในสหรัฐฯ สามารถสแกนแพลตฟอร์มเพื่อค้นหาใบหน้าของตนเองที่ถูกสร้างขึ้นด้วย AI โดยไม่ได้รับอนุญาต บริการแบบสมัครใจ (opt-in) นี้จะทำเครื่องหมายวิดีโอและรูปภาพสังเคราะห์ที่นำรูปลักษณ์ของครีเอเตอร์ไปใช้โดยไม่ได้รับอนุญาต
ทำไมความเคลื่อนไหวนี้จึงสำคัญ
ปัจจุบัน Generative AI สามารถสร้างวิดีโอที่สมจริงอย่างยิ่ง ซึ่งสามารถนำใบหน้าของใครก็ได้ไปวางไว้บนร่างกายใดก็ได้
เครื่องมือนี้ทำงานอย่างไร
ครีเอเตอร์กลุ่มเล็กๆ ในสหรัฐฯ ที่เลือกเข้าร่วมจะได้รับแดชบอร์ด (dashboard) ซึ่งระบบของ TikTok จะแสดงรายการเนื้อหาใดๆ ที่ AI ตรวจพบว่ามีลักษณะใบหน้าตรงกับข้อมูลที่ได้รับการยืนยันแล้ว ครีเอเตอร์สามารถตรวจสอบรายการที่ตรวจพบและยื่นรายงานต่อโพสต์หรือบัญชีที่มีการนำรูปภาพของตนไปใช้ในทางที่ผิด
เพื่อป้องกันการใช้งานในทางที่ผิด TikTok กำหนดให้ผู้เข้าร่วมแต่ละคนต้องผ่านขั้นตอนการตรวจสอบตัวตนที่เข้มงวดผ่าน Jumio ซึ่งเป็นบริการยืนยันตัวตนจากภายนอก การตรวจสอบนี้ต้องใช้การสแกนเซลฟี่แบบเรียลไทม์และบัตรประจำตัวที่ออกโดยรัฐบาล TikTok ระบุว่าไม่ได้จัดเก็บข้อมูลบัตรประจำตัวที่อัปโหลด แต่จะใช้ข้อมูลใบหน้าเพื่อการจับคู่รูปลักษณ์ภายในระบบตรวจจับเท่านั้น
การแข่งขันทางเทคโนโลยีที่กว้างขึ้น
TikTok ไม่ใช่แพลตฟอร์มแรกที่เปิดตัวมาตรการป้องกัน deepfake เมื่อเร็วๆ นี้ YouTube ได้เปิดตัวฟีเจอร์การตรวจจับที่คล้ายกันสำหรับผู้ใช้ที่เป็นผู้ใหญ่ทุกคน ซึ่งแสดงให้เห็นถึงความพยายามของอุตสาหกรรมในการปกป้องตัวตนดิจิทัล ในขณะที่โมเดลภาษาขนาดใหญ่ (large language models) และโมเดลการแพร่กระจาย (diffusion models) พัฒนาขึ้น "มนุษย์ดิจิทัล" (digital humans) ที่สร้างขึ้นด้วยระบบสังเคราะห์ก็หลั่งไหลเข้ามาในฟีดเร็วเกินกว่าที่ผู้ดูแลระบบ (moderators) จะจัดการได้ด้วยตนเอง
สิ่งที่จะเกิดขึ้นต่อไป
โครงการนำร่องนี้ยังคงจำกัดอยู่เฉพาะในสหรัฐอเมริกาและเฉพาะครีเอเตอร์ที่สมัครใจเข้าร่วมเท่านั้น
บทสรุป: การทดสอบการตรวจจับ deepfake ของ TikTok ถือเป็นการเปลี่ยนแปลงครั้งสำคัญไปสู่การปกป้องตัวตนของครีเอเตอร์ในเชิงรุก ซึ่งผลกระทบของมันจะขึ้นอยู่กับว่าระบบสามารถสร้างสมดุลระหว่างการตรวจสอบที่เข้มงวดกับความสะดวกสบายที่ครีเอเตอร์คาดหวังได้ดีเพียงใด