Đôi khi làn sóng chỉ trích đến còn nhanh hơn cả hướng dẫn sử dụng sản phẩm. Meta đã học được bài học này một cách cay đắng khi âm thầm triển khai một tính năng mới bên trong mô hình Muse Image AI của mình, để rồi phải đảo ngược quyết định chỉ vài ngày sau đó giữa một làn sóng chỉ trích dữ dội. Công cụ này cho phép bất kỳ người dùng Instagram nào cũng có thể tạo ra các hình ảnh AI chỉ bằng cách gắn thẻ một tài khoản công khai trong câu lệnh (prompt) của họ. Bằng cách nhập một @-mention, người dùng có thể điều hướng hệ thống tổng hợp các hình ảnh mới dựa trên diện mạo, thẩm mỹ hoặc nội dung đã đăng của tài khoản mục tiêu. Meta hiện đã vô hiệu hóa hoàn toàn tính năng này. Sự việc này là một trong những lần rút lui đột ngột nhất trong nỗ lực gần đây của công ty nhằm tích hợp AI tạo sinh trên khắp các nền tảng của mình.

Tính năng gây phẫn nộ

Cơ chế hoạt động rất đơn giản, và đó chính xác là vấn đề. Một người dùng có thể mở Meta AI, mô tả hình ảnh họ muốn và tham chiếu đến một tài khoản Instagram công khai. Sau đó, mô hình sẽ phân tích các ảnh hiển thị công khai của tài khoản đó và tạo ra các hình ảnh phái sinh mô phỏng khuôn mặt, cơ thể, phong cách ăn mặc hoặc cách tiếp cận nghệ thuật của chủ thể. Đối với các diễn viên, nhiếp ảnh gia, người mẫu và những người dùng bình thường để hồ sơ ở chế độ công khai, điều này có nghĩa là danh tính kỹ thuật số của họ có thể bị biến tấu mà không cần bất kỳ yêu cầu hay cảnh báo trực tiếp nào.

Meta quảng bá chức năng này như một công cụ thúc đẩy sáng tạo. Công ty có lẽ đã hình dung ra cảnh người hâm mộ tạo ra các bức chân dung cách điệu của những nhà sáng tạo hoặc nghệ sĩ yêu thích, hoặc thử nghiệm các chủ đề hình ảnh mới. Nhưng khoảng cách giữa ý định và việc thực hiện là vô cùng lớn. Vì công cụ này không yêu cầu sự đồng ý xác nhận từ chủ sở hữu tài khoản, mọi hồ sơ công khai đều trở thành nguyên liệu thô tiềm năng cho bất kỳ ai có bàn phím. Các tài khoản riêng tư không bị ảnh hưởng, nhưng đối với hàng triệu người dùng có hồ sơ công khai vì lý do nghề nghiệp hoặc xã hội, nền tảng này về cơ bản đã tuyên bố rằng diện mạo của họ được phép tái sử dụng bằng thuật toán. Đây không phải là việc thu thập dữ liệu hàng loạt theo nghĩa truyền thống. Đó là sự tổng hợp có mục tiêu, theo yêu cầu về con người thật.

Các nhà phê bình nhanh chóng chỉ ra rằng điều này đã đảo ngược logic cơ bản của sự đồng ý kỹ thuật số. Hầu hết các nền tảng cho phép bên thứ ba sử dụng hình ảnh cá nhân, ngay cả theo các điều khoản dịch vụ rộng rãi, đều không giao quyền kiểm soát cho những người dùng ngẫu nhiên để sao chép ngoại hình của ai đó theo ý muốn. Sự khác biệt này rất quan trọng. Việc thu thập thụ động các ảnh công khai để làm tập dữ liệu huấn luyện là một cuộc chiến đạo đức; việc tạo deepfake chủ động, do người dùng điều khiển gắn liền với các cá nhân cụ thể lại là một vấn đề hoàn toàn khác. Bằng cách biến các tài khoản công khai thành mục tiêu cho việc tổng hợp AI, Meta đã làm mờ ranh giới giữa việc hiển thị công khai và việc từ bỏ quyền danh tính một cách công khai.

Rủi ro quyền riêng tư và vấn đề "từ chối tham gia" (opt-out)

Những lời chỉ trích đến từ nhiều phía và vô cùng gay gắt. Các nhà bảo vệ quyền riêng tư, các công đoàn sáng tạo và các tổ chức an toàn đều đồng loạt lên tiếng chỉ ra rằng Meta đã xây dựng hệ thống này sai hướng.

Haley McNamara, Giám đốc điều hành của Trung tâm Quốc gia về Khai thác Tình dục, cảnh báo rằng tính năng này có thể trở thành một công cụ rõ ràng cho việc tống tiền tình dục và các hình thức lừa đảo khác. Mối lo ngại của bà không phải là giả thuyết. Việc lạm dụng dựa trên hình ảnh đã gia tăng nhanh chóng khi các công cụ tạo sinh được cải tiến. Một hệ thống cho phép bất kỳ người dùng nào cũng có thể ngay lập tức mô phỏng diện mạo của người khác và đặt họ vào các kịch bản tùy ý sẽ loại bỏ rào cản đối với một quá trình mà trước đây đòi hỏi ít nhất phải có một số kỹ năng kỹ thuật nhất định. Tính năng của Meta về cơ bản đã "công nghiệp hóa" bước đầu tiên của việc khai thác hình ảnh.

Vấn đề càng trở nên phức tạp hơn khi