Chế độ AI của Meta: Những rủi ro khi dựa trên dữ liệu mạng xã hội để thực hiện tìm kiếm

Meta đang nỗ lực định nghĩa lại trải nghiệm tìm kiếm bằng cách tích hợp "AI Mode" mới trực tiếp vào ứng dụng Facebook. Mặc dù tính năng này hứa hẹn sẽ giải quyết các truy vấn hội thoại phức tạp, nhưng việc phụ thuộc vào nội dung do người dùng tạo ra đang đặt ra những câu hỏi lớn về độ chính xác và sự lan truyền thông tin sai lệch.

Một cách tiếp cận mới cho tìm kiếm hội thoại

AI Mode của Meta được thiết kế để hoạt động tương tự như tính năng tìm kiếm tích hợp AI của Google, vượt xa việc chỉ khớp từ khóa đơn thuần để trả lời các câu hỏi sắc thái. Thay vì chỉ cung cấp một danh sách các liên kết, chế độ này nhằm mục đích đưa ra các câu trả lời tổng hợp cho các truy vấn như "Tôi nên làm gì vào cuối tuần này?" hoặc "Lên kế hoạch cho một chuyến đi cuối tuần tới Tokyo."

Điểm khác biệt cốt lõi — và cũng là nguồn tranh luận chính — nằm ở nguồn dữ liệu. Không giống như các công cụ tìm kiếm truyền thống thường thu thập dữ liệu từ toàn bộ web, AI Mode của Meta khai thác mạnh mẽ từ các bài đăng công khai trong hệ sinh thái của mình, bao gồm Facebook Groups và Instagram Reels. Điều này cho phép mô hình tiếp cận các dữ liệu mang tính địa phương cực cao, chẳng hạn như các thông báo trong khu dân cư, cập nhật từ các tổ chức địa phương và các đề xuất sự kiện do cộng đồng thúc đẩy mà các trình thu thập dữ liệu truyền thống có thể không lập chỉ mục tốt.

Tiến thoái lưỡng nan về thông tin sai lệch: Căn cứ dữ liệu so với Ảo giác

Thách thức kỹ thuật trong việc thực hiện grounding (căn cứ dữ liệu) một LLM (Mô hình ngôn ngữ lớn) dựa trên dữ liệu mạng xã hội là vô cùng lớn. Vì mô hình sử dụng các bài đăng trên Facebook làm "sự thật nền tảng" (ground truth), nó sẽ thừa hưởng tính biến động của nội dung trên nền tảng này. Các nhà phê bình lập luận rằng việc dựa trên các bài đăng mạng xã hội để đưa ra phản hồi của AI có thể tạo ra một "cơn ác mộng giữa ban ngày", nơi AI khuếch đại các thuyết âm mưu bên lề hoặc thông tin lỗi thời được chia sẻ trong các nhóm nhỏ.

Tuy nhiên, các thử nghiệm ban đầu cho thấy Meta đã triển khai các rào chắn (guardrails) đáng kể. Trong các đánh giá thực tế, AI Mode gặp khó khăn trong việc tạo ra các thông tin sai lệch nghiêm trọng liên quan đến các chủ đề nhạy cảm như an toàn vắc-xin, tính liêm chính của bầu cử hoặc các thuyết âm mưu lịch sử. Điều này cho thấy mặc dù mô hình được căn cứ trên dữ liệu người dùng, nó có khả năng sử dụng một lớp xác minh thứ hai hoặc một "bộ lọc an toàn" để ngăn chặn việc lặp lại các tuyên bố độc hại hoặc đã bị bác bỏ được tìm thấy trong bảng tin mạng xã hội.

Tại sao điều này lại quan trọng đối với bối cảnh AI

Bước đi của Meta đại diện cho một sự chuyển hướng chiến lược trong cuộc chiến AI: chuyển từ AI "Kiến thức Tổng quát" sang AI "Ngữ cảnh/Xã hội". Trong khi OpenAI và Google cạnh tranh về độ rộng của dữ liệu đào tạo, Meta đang tận dụng lợi thế độc quyền của mình—đồ thị xã hội thời gian thực và siêu cục bộ của hàng tỷ người dùng.

Nếu Meta có thể cân bằng thành công giữa tính hữu dụng của các thông tin chuyên sâu mang tính địa phương và xã hội với độ chính xác khắt khe cần thiết cho việc tìm kiếm, họ có thể thống trị phân khúc AI về "lối sống và lập kế hoạch". Tuy nhiên, rào cản kỹ thuật vẫn còn đó: làm thế nào để ngăn chặn một mô hình coi một bài đăng đang thịnh hành nhưng sai sự thật trong một Nhóm Facebook là một thực tế khách quan.

Những điểm chính cần lưu ý