Margaret Atwood Cảnh báo: Tại sao AI vẫn đang mắc kẹt trong vòng lặp "Rác vào, Rác ra"

Tác giả nổi tiếng Margaret Atwood gần đây đã đưa ra những lời phê bình thẳng thắn về các mô hình ngôn ngữ lớn, nhấn mạnh sự đấu tranh dai dẳng với tính chính xác và tính toàn vẹn của dữ liệu. Trải nghiệm của bà nhấn mạnh một sự thật cơ bản trong kỷ nguyên AI hiện nay: ngay cả những mô hình tiên tiến nhất cũng bị giới hạn bởi chất lượng dữ liệu huấn luyện của chúng.

Thử nghiệm với Claude: Bài học về sự "ảo giác"

Phát biểu tại Lễ hội Văn học và Văn hóa Babell ở Porto, Bồ Đào Nha, tác giả của cuốn The Handmaid’s Tale đã tiết lộ trải nghiệm duy nhất của mình khi sử dụng Claude của Anthropic. Nỗ lực của Atwood trong việc sử dụng chatbot để truy xuất thông tin về loạt phim trinh thám Anh Father Brown đã dẫn đến một thất bại minh họa hoàn hảo cho khái niệm "ảo giác" (hallucination).

Theo Atwood, mô hình đã cung cấp thông tin sai lệch, thực chất là đang "nói dối" người dùng. Bà lưu ý rằng LLM có thể đã đọc lướt và lấy mẫu từ một lượng lớn các bài đánh giá truyền hình, nhưng vì các bài phê bình trực tuyến thường tránh tiết lộ nội dung (spoilers), mô hình đã bị đánh lừa bởi các khuôn mẫu trong tập dữ liệu huấn luyện của nó. Sắc thái kỹ thuật này làm nổi bật một thách thức cốt lõi đối với các nhà phát triển: LLM là các công cụ xác suất ưu tiên việc khớp khuôn mẫu hơn là xác minh thực tế, thường dẫn đến các kết quả đầu ra đầy tự tin nhưng sai lầm.

Tiến thoái lưỡng nan về dữ liệu: Rác vào, Rác ra

Lời phê bình của Atwood tập trung vào một nguyên tắc máy tính vượt thời gian: "garbage in, garbage out" (rác vào, rác ra). Bà chỉ ra rằng các LLM được huấn luyện trên các thông tin được thu thập, đã được xuất bản trước đó và có khả năng đã lỗi thời. Khi một mô hình được nạp dữ liệu không đầy đủ, thiên kiến hoặc không nhất quán về mặt logic, kết quả đầu ra chắc chắn sẽ phản ánh những khiếm khuyết đó.

Đối với bức tranh AI rộng lớn hơn, điều này đóng vai trò như một lời nhắc nhở rằng việc mở rộng các tham số mô hình không thể thay thế cho chất lượng dữ liệu. Khi các nhà phát triển thúc đẩy các tập dữ liệu lớn hơn để tăng cường khả năng suy luận, sự "nhiễu" trong các tập dữ liệu đó—chẳng hạn như việc thiếu các tình tiết tiết lộ nội dung trong các bài đánh giá mà Atwood đã đề cập—có thể tạo ra các lỗi hệ thống mà ngay cả các kiến trúc tinh vi như Claude cũng không dễ dàng vượt qua.

Mối lo ngại về đạo đức: Sự cơ hội đối đầu với Sự sáng tạo

Bên cạnh những hạn chế về mặt kỹ thuật, Atwood còn đề cập đến yếu tố con người trong việc áp dụng AI. Bà gọi những người phụ thuộc quá nhiều vào AI là "những kẻ cơ hội" đang tìm cách dễ dàng bỏ qua sự khắt khe của quá trình sáng tạo hoặc nghiên cứu thực thụ. Bà cảnh báo rằng sự cám dỗ của việc "gian lận" bằng cách sử dụng nội dung do AI tạo ra mà không thể phát hiện được đang là một mối lo ngại ngày càng tăng đối với các ngành công nghiệp dựa vào trí tuệ và sự tinh tế của con người.

Đối với các nhà sáng lập và chuyên gia công nghệ, sự phân biệt này là vô cùng quan trọng. Mặc dù AI có thể đóng vai trò là một công cụ năng suất mạnh mẽ, nhưng quan sát của Atwood rằng "ngay cả những người sử dụng nó vì lý do kinh doanh cũng phải kiểm tra lại" nhấn mạnh rằng sự giám sát của con người vẫn là một thành phần không thể thiếu trong quy trình làm việc với AI. Kỷ nguyên của một AI hoàn toàn tự chủ và không có lỗi vẫn còn là một triển vọng xa vời, và trách nhiệm đối với sự thật vẫn thuộc về người dùng.

Các điểm chính cần lưu ý

• Tính toàn vẹn của dữ liệu là tối quan trọng: Nguyên tắc "rác vào, rác ra" vẫn là rào cản lớn nhất đối với các LLM, vì các mô hình bị giới hạn bởi chất lượng và tính đầy đủ của dữ liệu huấn luyện.
• Bẫy ảo giác: Ngay cả các mô hình tiên tiến như Claude của Anthropic cũng có thể thất bại trong việc truy xuất các sự thật đơn giản nếu các khuôn mẫu cơ bản trong dữ liệu huấn luyện của chúng gây hiểu lầm.
• Sự cần thiết của việc giám sát bởi con người: AI nên được xem là một công cụ đòi hỏi sự xác minh liên tục thay vì là sự thay thế cho chuyên môn và tư duy phản biện của con người.