Cách chúng tôi sử dụng AI mà không làm sai lệch sự thật

Một AI có thể nói với bạn rằng một công cụ có gói miễn phí trong khi thực tế không phải vậy. Nó có thể đưa ra một mức giá cũ hoặc một tính năng không hề tồn tại. Đây không phải là lỗi đánh máy. Mô hình chỉ đang lấp đầy các khoảng trống bằng những từ ngữ trông có vẻ hợp lý.

Nếu bạn xuất bản các bài đánh giá, sai lầm này sẽ rất nguy hiểm. Nó khiến người đọc đăng ký nhầm các gói dịch vụ.

Chúng tôi sử dụng AI để viết các bài báo. Chúng tôi sẽ thông báo cho bạn mỗi khi có sự can thiệp của AI vào một bài viết. Mục tiêu của chúng tôi là ngăn chặn AI tự bịa đặt các sự thật. Dưới đây là quy trình của chúng tôi.

Chúng tôi tách biệt hai công việc. Chúng tôi không để AI làm cả hai.

  • Công việc 1: Viết văn bản.
  • Công việc 2: Tìm kiếm sự thật.

AI có thể làm công việc đầu tiên. Nó không bao giờ được phép làm công việc thứ hai.

Mọi sự thật trong các bài đánh giá của chúng tôi đều đến từ một nguồn mà chúng tôi tự mình kiểm chứng. Chúng tôi kiểm tra các trang báo giá, nhật ký thay đổi (changelogs) và tài liệu hướng dẫn (documentation). Chúng tôi đưa những sự thật này vào một tài liệu ghi chú kèm theo URL và ngày tháng. Chỉ sau đó, AI mới viết văn bản dựa trên những sự thật đó.

Các câu lệnh (prompts) của chúng tôi khác biệt. Hầu hết mọi người sẽ hỏi: "Hãy cho tôi biết về giá của công cụ này." Chúng tôi nói: "Đây là bốn sự thật về giá đã được xác minh hôm nay. Chỉ sử dụng những sự thật này để viết một đoạn văn. Hãy cho tôi biết nếu bạn muốn thêm bất cứ điều gì khác."

Điều này biến xu hướng "nói dối" của AI thành một danh sách để con người kiểm tra.

Chúng tôi tuân thủ các quy tắc sau:

  • Chúng tôi không tin tưởng các con số không có nguồn gốc. Bất kỳ mức giá, giới hạn hoặc ngày tháng nào cũng bị coi là không đáng tin cho đến khi chúng tôi chứng minh được bằng nguồn sơ cấp.
  • Chúng tôi không để AI trích dẫn nguồn. Nếu AI nói "theo một nghiên cứu," chúng tôi sẽ cắt bỏ câu đó trừ khi chúng tôi có liên kết thực tế.
  • Chúng tôi sử dụng AI để xây dựng cấu trúc. Nó giúp chúng tôi sắp xếp ghi chú, sửa lỗi ngữ pháp hoặc xây dựng khung bảng. Những tác vụ này không yêu cầu AI phải biết các sự thật thực tế.
  • Chúng tôi thực hiện hai lần đọc riêng biệt. Lần đọc thứ nhất là để kiểm tra chất lượng. Lần đọc thứ hai chỉ dành cho các khẳng định. Chúng tôi đặt câu hỏi: "Câu cụ thể này đến từ đâu?" Nếu nó không có trong ghi chú của chúng tôi, chúng tôi sẽ xóa nó.

Một bài đánh giá có thể đúng vào hôm nay nhưng lại sai sau ba tháng. Các công cụ thường thay đổi giá cả. Chúng tôi lưu giữ các liên kết nguồn có kèm ngày tháng để có thể kiểm tra lại các sự thật theo định kỳ.

Hệ thống rất đơn giản:

  • AI viết.
  • Con người nắm giữ sự thật.
  • Mọi khẳng định đều có nguồn kèm ngày tháng.
  • Chúng tôi kiểm tra hai lần trước khi xuất bản.

Đừng yêu cầu AI trở thành thứ mà nó không thể.

Nguồn: https://dev.to/pickuma/how-we-use-ai-without-letting-it-hallucinate-into-reviews-1of5