Tại sao Chatbot AI không phải là bạn của bạn, theo Meredith Whittaker của Signal

Khi các Mô hình Ngôn ngữ Lớn (LLM) ngày càng được tích hợp sâu rộng vào quy trình làm việc kỹ thuật số hàng ngày, ranh giới giữa tương tác của con người và phản hồi của máy móc đang dần mờ nhạt. Chủ tịch Signal, Meredith Whittaker, đang đưa ra một cảnh báo đanh thép cho người dùng: đừng nhầm lẫn mô hình thống kê tinh vi với sự đồng hành thực sự hay trí tuệ có tri giác.

Ảo tưởng về tri giác trong các LLM

Trong một cuộc phỏng vấn gần đây với Bloomberg, Meredith Whittaker đã đề cập đến xu hướng ngày càng tăng trong việc nhân cách hóa các mô hình AI như ChatGPT của OpenAI và Claude của Anthropic. Bà nhấn mạnh rằng bất chấp sự trôi chảy trong giao tiếp, các hệ thống này vẫn thiếu ý thức và khả năng tự quyết. "Đây không phải là bạn của bạn. Đây không phải là những thực thể có ý thức. Đây không phải là những người đối thoại có tri giác," Whittaker tuyên bố, đồng thời nhắc nhở người dùng rằng chatbot về bản chất là những bộ máy tinh vi được thiết kế để dự đoán token tiếp theo trong một chuỗi.

Mối quan ngại của Whittaker không chỉ dừng lại ở các định nghĩa triết học mà còn mở rộng sang tác động nhận thức của AI đối với sự sáng tạo của con người. Mặc dù bà thừa nhận có sử dụng các công cụ AI cho các tác vụ nhỏ, chẳng hạn như định dạng tài liệu, bà từ chối sử dụng chúng cho các lập luận cấp cao. Bà lập luận rằng việc dựa vào AI để hình thành ý tưởng có nguy cơ "triệt tiêu" quá trình tư duy của con người, vì các mô hình này hoạt động bằng cách "tính trung bình những gì đã có sẵn", từ đó có khả năng kìm hãm tư duy nguyên bản và không sao chép.

Cái giá về quyền riêng tư của "Agentic" AI

Cuộc trò chuyện chuyển sang hướng phê phán hơn khi thảo luận về sự trỗi dậy của "AI Agents" — các hệ thống được thiết kế để hoạt động tự chủ thay mặt cho người dùng. Whittaker đã phản bác cụ thể dự đoán của CEO Microsoft AI, Mustafa Suleyman, người cho rằng các công cụ như Microsoft Copilot cuối cùng có thể quản lý các tác vụ cá nhân phức tạp, chẳng hạn như mua sắm cho kỳ nghỉ.

Whittaker chỉ ra những đánh đổi khổng lồ về quyền riêng tư vốn có trong các khả năng "agentic" như vậy. Để một AI có thể quản lý việc mua sắm hoặc lịch trình của người dùng, nó đòi hỏi quyền truy cập sâu rộng vào các dữ liệu cực kỳ nhạy cảm, bao gồm:

  • Thông tin thẻ tín dụng cá nhân và lịch sử duyệt web.
  • Liên lạc trong thời gian thực thông qua các ứng dụng như Signal.
  • Lịch trình cá nhân và địa chỉ nhà riêng.

Dưới góc độ bảo mật, Whittaker coi mức độ tích hợp này là một lỗ hổng lớn. Bà lưu ý rằng việc cho phép AI theo dõi các nhóm chat gia đình hoặc nhắn tin cho anh chị em thay mặt người dùng về cơ bản sẽ tạo ra một "cửa sau" (backdoor) vào đời sống kỹ thuật số riêng tư nhất của họ.

Hệ lụy đối với Hệ sinh thái AI

Quan điểm của Whittaker làm nổi bật sự căng thẳng ngày càng tăng trong ngành công nghệ: cuộc đua giành lấy tiện ích "tự chủ" (agentic) đối đầu với quyền cơ bản về quyền riêng tư và quyền tự chủ nhận thức. Khi các nhà phát triển hướng tới các mô hình có thể hoạt động trên nhiều ứng dụng, ngành công nghiệp này phải đối mặt với một câu hỏi quan trọng: liệu chúng ta có thể đạt được sự hỗ trợ AI liền mạch mà không tạo ra một điểm giám sát tập trung toàn diện hay không? Đối với các nhà phát triển và nhà sáng lập, điều này nhấn mạnh sự cần thiết của việc xây dựng các kiến trúc AI "ưu tiên quyền riêng tư", ưu tiên xử lý cục bộ và các kho dữ liệu biệt lập nghiêm ngặt thay vì sự tích hợp toàn diện, cho phép truy cập mọi thứ.

Các điểm chính cần lưu ý

  • Tránh nhân cách hóa: Các mô hình AI là những công cụ thống kê, không phải là thực thể có tri giác, và việc coi chúng như những "người bạn" có thể dẫn đến sự hiểu lầm về khả năng cũng như rủi ro của chúng.
  • Bảo vệ quyền tự chủ nhận thức: Việc quá phụ thuộc vào AI để động não và giải quyết vấn đề có thể dẫn đến sự "hồi quy về giá trị trung bình", nơi sự sáng tạo của con người bị lu mờ bởi các tập dữ liệu trung bình.
  • Khoảng cách quyền riêng tư của AI tự chủ: Việc thúc đẩy các đại lý AI tự chủ đòi hỏi quyền truy cập chưa từng có vào dữ liệu cá nhân, tạo ra các cửa sau bảo mật và lỗ hổng quyền riêng tư đáng kể.