TikTok đã bắt đầu thử nghiệm một công cụ phát hiện deepfake dựa trên AI, cho phép các nhà sáng tạo tại Hoa Kỳ quét nền tảng để tìm các phiên bản khuôn mặt của họ được tạo bởi AI mà không được phép. Dịch vụ tự nguyện tham gia này sẽ gắn cờ các video và hình ảnh tổng hợp đang mạo danh diện mạo của nhà sáng tạo.
Tại sao động thái này lại quan trọng
AI tạo sinh hiện nay có thể tạo ra các video siêu thực, có khả năng ghép khuôn mặt của bất kỳ ai lên bất kỳ cơ thể nào.
Cách thức hoạt động của công cụ
Một nhóm nhỏ các nhà sáng tạo tại Hoa Kỳ đã đăng ký tham gia sẽ nhận được một bảng điều khiển, nơi hệ thống của TikTok liệt kê bất kỳ nội dung nào mà AI gắn cờ là khớp với các đặc điểm khuôn mặt đã được xác minh của họ. Các nhà sáng tạo sẽ xem xét các kết quả này và gửi báo cáo chống lại các bài đăng hoặc tài khoản sử dụng sai hình ảnh của họ.
Để ngăn chặn sự lạm dụng, TikTok yêu cầu mỗi người tham gia phải vượt qua một bước kiểm tra danh tính nghiêm ngặt thông qua Jumio, một dịch vụ xác minh bên thứ ba. Bước kiểm tra này yêu cầu quét ảnh selfie theo thời gian thực và giấy tờ tùy thân do chính phủ cấp. TikTok cho biết họ không lưu trữ các giấy tờ đã tải lên; họ chỉ sử dụng dữ liệu khuôn mặt để đối chiếu diện mạo bên trong công cụ phát hiện.
Cuộc chạy đua vũ trang rộng lớn hơn
TikTok không phải là nền tảng đầu tiên triển khai biện pháp bảo vệ chống deepfake. YouTube gần đây đã ra mắt một tính năng phát hiện tương tự cho tất cả người dùng trưởng thành, cho thấy nỗ lực của toàn ngành trong việc bảo vệ danh tính kỹ thuật số. Khi các mô hình ngôn ngữ lớn và mô hình khuếch tán (diffusion models) ngày càng cải tiến, các "con người kỹ thuật số" tổng hợp đang tràn ngập bảng tin nhanh hơn mức mà các điều phối viên thủ công có thể xử lý.
Điều gì sẽ tiếp diễn
Chương trình thí điểm vẫn chỉ giới hạn tại Hoa Kỳ và dành cho các nhà sáng tạo tình nguyện tham gia.
Điểm mấu chốt: Thử nghiệm phát hiện deepfake của TikTok đánh dấu một bước chuyển mình quyết liệt hướng tới việc chủ động bảo vệ danh tính của nhà sáng tạo; tác động của nó sẽ phụ thuộc vào việc liệu nền tảng này có thể cân bằng tốt giữa việc xác minh nghiêm ngặt và sự tiện lợi mà các nhà sáng tạo mong đợi hay không.