Tiêu đề: Spotify sẽ gắn nhãn các AI Persona và hạn chế các đề xuất thuật toán

Spotify sẽ bắt đầu gắn thẻ các hồ sơ nghệ sĩ do AI tạo ra bằng một huy hiệu AI Persona hiển thị rõ ràng và sẽ chặn các hồ sơ đó khỏi các nguồn cấp dữ liệu đề xuất biên tập và thuật toán bắt đầu từ giữa tháng 9. Công ty cho biết thay đổi này nhằm ngăn người nghe bị tràn ngập bởi các nội dung tổng hợp, chất lượng thấp có thể làm xói mòn giá trị của nền tảng.

Tại sao việc gắn nhãn lại quan trọng vào lúc này

Trong năm qua, các danh tính tổng hợp hoàn toàn, chân thực như ảnh chụp đã gia tăng đột biến trên các dịch vụ phát nhạc trực tuyến. Một số "persona" này phát hành các bản nhạc bằng các mô hình tạo sinh, thu về hàng triệu lượt phát mà không cần bất kỳ người sáng tạo thực thụ nào. Đối với một dịch vụ được xây dựng dựa trên việc khám phá cá nhân hóa, sự tràn ngập này đe dọa sẽ lấn át các nghệ sĩ thực thụ và đẩy người dùng đến với những danh sách phát mang lại cảm giác như là "tiếng ồn thuật toán".

Phản ứng của Spotify gồm hai phần. Thứ nhất, công ty sẽ thêm huy hiệu AI Persona vào bất kỳ hồ sơ nào được xác định là không phải con người. Huy hiệu này sẽ xuất hiện trên biểu ngữ nghệ sĩ, phần "Giới thiệu" (About), kết quả tìm kiếm và bên cạnh các bản nhạc trong danh sách phát. Thứ hai, nền tảng sẽ tự động loại trừ các hồ sơ đó khỏi các lớp khám phá—bao gồm cả các lựa chọn biên tập do con người tuyển chọn và công cụ đề xuất học máy—trừ khi người nghe chủ động theo dõi nghệ sĩ do AI tạo ra đó.

Hệ thống gắn nhãn sẽ hoạt động như thế nào

Spotify sẽ không dựa vào việc các nghệ sĩ tự khai báo. Thay vào đó, công ty sẽ quét các hồ sơ có tên hoặc hình ảnh trông giống như được tạo ra bởi AI. Vì số lượng tài khoản quá lớn khiến việc kiểm tra toàn bộ là không thể, công ty sẽ ưu tiên các hồ sơ đã vượt qua một ngưỡng khán giả xác định trước. Trên thực tế, các nghệ sĩ tổng hợp có lượt nghe cao nhất sẽ được kiểm tra trước; các hồ sơ có lưu lượng truy cập thấp hơn sẽ được xem xét sau.

Một công cụ báo cáo dành cho người dùng cuối cùng sẽ cho phép người nghe gắn thẻ bất kỳ persona AI nào lọt qua các bước kiểm tra tự động. Công cụ này tận dụng nguồn lực từ cộng đồng để hoàn tất phần việc còn lại và giúp hệ thống phản ứng kịp thời với các thủ đoạn mới mà những người sáng tạo có thể sử dụng để ngụy trang danh tính tổng hợp.

Bảo vệ công cụ đề xuất

Sự thay đổi kỹ thuật lớn nhất là việc loại trừ các AI Persona khỏi các nguồn cấp dữ liệu khám phá của Spotify. Khi người nghe mở Discover Weekly, Release Radar, hoặc bất kỳ danh sách phát biên tập nào, thuật toán sẽ bỏ qua các bản nhạc từ các hồ sơ AI đã bị gắn thẻ. Những bản nhạc đó chỉ có thể xuất hiện nếu người dùng chủ động theo dõi nghệ sĩ AI đó. Rào chắn này nhằm ngăn chặn tình trạng “AI slop”—một sự tràn ngập của các bài hát sản xuất hàng loạt, ít công sức, làm loãng trải nghiệm nghe nhạc và làm tăng tỷ lệ rời bỏ nền tảng.

Bằng cách bảo vệ quy trình đề xuất, Spotify hy vọng sẽ duy trì được danh tiếng trong việc giới thiệu âm nhạc mới mẻ, do con người tạo ra. Động thái này cũng gửi tín hiệu tới các hãng thu âm và các bên nắm giữ bản quyền rằng dịch vụ này đang nghiêm túc trong việc duy trì một sân chơi bình đẳng cho các nghệ sĩ đang xây dựng sự nghiệp thông qua sự tương tác thực sự với người hâm mộ.

Vạch

  • Đối với người nghe: Trải nghiệm khám phá âm nhạc sạch hơn, giảm thiểu rủi ro gặp phải các bản nhạc lặp đi lặp lại, chất lượng thấp, mang cảm giác được tạo ra bằng máy thay vì được tuyển chọn kỹ lưỡng.
  • Đối với các nghệ sĩ thực thụ: Một cơ chế bảo vệ để không bị lấn át bởi các bot có khả năng sản xuất nội dung hàng loạt, giúp bảo tồn giá trị của sự tương tác thực sự từ người hâm mộ.
  • Đối với những nhà sáng tạo tập trung vào AI: Một rào cản mới. Những người muốn xây dựng thương hiệu xoay quanh một nhân vật ảo (synthetic persona) sẽ phải đối mặt với khả năng tiếp cận hạn chế, trừ khi họ thuyết phục được người nghe theo dõi họ một cách trực tiếp.
  • Đối với Spotify: Chính sách này có thể thúc đẩy tỷ lệ giữ chân người dùng và tạo sự khác biệt cho dịch vụ so với các đối thủ cạnh tranh vốn nới lỏng hơn đối với nội dung tổng hợp. Nó cũng định vị nền tảng này như một bên điều tiết tính xác thực trong một hệ sinh thái truyền thông ngày càng bị chi phối bởi AI.

Các quan điểm phản biện và mối lo ngại

Các nhà phê bình cảnh báo rằng hệ thống gắn huy hiệu có thể đóng vai trò như một hình thức kiểm duyệt, đặc biệt nếu các tiêu chí dán nhãn không minh bạch. Những nhà sáng tạo nhỏ hơn, những người thử nghiệm với các hình đại diện (avatar) do AI tạo ra nhưng có lượng người theo dõi khiêm tốn, có thể bị ảnh hưởng tiêu cực khi ngưỡng khán giả được mở rộng. Ngoài ra còn có câu hỏi liệu người nghe có thực sự muốn một bộ lọc hay không; một số người dùng thích sự mới lạ của âm nhạc do AI tạo ra và có thể coi sự hạn chế này là một rào cản không cần thiết đối với việc khám phá âm nhạc.

Một mối lo ngại khác là các trường hợp nhận diện sai (false positives). Việc phát hiện tự động các hình ảnh chân thực như ảnh chụp vẫn chưa hoàn hảo, và một nghệ sĩ là con người nếu bị nhận diện nhầm có thể mất đi cơ hội tiếp cận khán giả quý giá. Lời hứa của Spotify về một công cụ báo cáo dành cho người dùng là một giải pháp khắc phục, nhưng việc sửa chữa các sai sót có thể diễn ra chậm chạp, gây ảnh hưởng đến đà phát triển của nghệ sĩ.

Cuối cùng, chính sách này có thể đẩy các nhà sáng tạo nội dung tổng hợp sang các nền tảng thay thế vốn thiếu các hạn chế như vậy, làm phân mảnh thị trường và đẩy nội dung do AI tạo ra vào "thế giới ngầm", nơi khó kiểm soát hơn các vi phạm bản quyền.

Những điều cần theo dõi tiếp theo

  • Lộ trình triển khai: Giữa tháng 9 là ngày ra mắt mục tiêu, nhưng việc triển khai có thể được thực hiện theo từng giai đoạn, bắt đầu với các hồ sơ có lưu lượng truy cập cao.
  • Hiệu quả của công cụ báo cáo: Tốc độ phản hồi của Spotify đối với các báo cáo từ người dùng sẽ định hình nhận thức của công chúng về tính công bằng của hệ thống.
  • Phản ứng của ngành: Các chủ sở hữu bản quyền và các hãng thu âm có khả năng sẽ đưa ra ý kiến về việc liệu chính sách này bảo vệ lợi ích của họ hay cản trở các ứng dụng sáng tạo của AI.
  • Hành vi người dùng: Nếu người nghe bắt đầu chủ động theo dõi các AI Personas bất chấp việc bị loại trừ theo mặc định, tác động của thuật toán có thể sẽ bị giảm bớt.
  • Động thái cạnh tranh: Các dịch vụ phát nhạc trực tuyến khác có thể áp dụng các sơ đồ dán nhãn tương tự hoặc ngược lại, tự quảng bá mình là những nền tảng cởi mở hơn với nội dung do AI tạo ra.

Điểm mấu chốt

Quyết định của Spotify trong việc dán nhãn các danh tính tổng hợp và loại bỏ chúng khỏi các luồng khám phá (discovery feeds) đã vạch ra một ranh giới cụ thể cho vai trò của AI trong phát nhạc trực tuyến: AI có thể là một công cụ, nhưng nó không thể giả danh một nhà sáng tạo là con người mà không bị mất đi sự chú ý từ thuật toán. Chính sách này sẽ thử thách cách ngành công nghiệp cân bằng giữa tính xác thực, sự đổi mới và lựa chọn của người dùng trong một kỷ nguyên mà máy móc có thể tạo ra âm nhạc dễ dàng như con người.