Bạn mở lại chính cửa sổ chat mà mình đã dùng vào thứ Ba tuần trước, và AI tiếp tục ngay tại nơi bạn vừa dừng lại. Nó nhắc lại các chỉ dẫn trước đó của bạn, mô phỏng lại giọng điệu mỉa mai của bạn, và hỏi xem bạn đã hoàn thành bản báo cáo đó chưa. Trong một giây, bạn cảm thấy như đang làm việc với một đồng nghiệp thực sự biết lắng nghe. Thế rồi bạn bắt đầu một cuộc trò chuyện mới, và mọi thứ biến mất. Giọng điệu trở nên vô hồn. Các chi tiết dự án biến mất. Nó gọi sai tên bạn. Chuyện gì đã xảy ra vậy?

Máy móc không hề quên bạn. Ngay từ đầu, nó vốn dĩ đã chẳng hề biết bạn là ai.

Ảo giác về trí nhớ

Chúng ta được lập trình để nhìn thấy trí nhớ ở khắp mọi nơi. Khi một chatbot nhớ rằng bạn thích các gạch đầu dòng ngắn gọn hoặc bạn đang làm việc trong ngành y tế, nó kích hoạt cùng một bản năng giống như việc một người pha chế nhớ món đồ uống quen thuộc của bạn. Nhưng đây là một thủ thuật thiết kế, không phải là nhận thức. Các mô hình ngôn ngữ lớn không lưu trữ các sự thật về bạn bên trong các trọng số (weights) của chúng. Chúng không có một cuốn nhật ký ghi chép lại các tương tác của bạn. Chúng không thể nhìn vào một thư mục có nhãn "Sở thích người dùng" vì không hề tồn tại thư mục nào như vậy.

Thứ trông giống như trí nhớ thực chất chỉ là văn bản nằm trong cửa sổ ngữ cảnh (context window). Mô hình đọc lịch sử trò chuyện gần đây, câu lệnh (prompt) hiện tại của bạn và bất kỳ chỉ dẫn hệ thống nào được nhà phát triển đính kèm. Nó xử lý tất cả những điều này trong một cái nhìn duy nhất, dự đoán từ tiếp theo và phản hồi. Khi đoạn văn bản đó biến mất, "trí nhớ" cũng biến mất theo. Mô hình sẽ quay trở lại hành vi cơ bản của nó, vốn thường là tự tin, chung chung và có phần hơi quá nhiệt tình. Ảo giác tan biến vì ngữ cảnh đã thay đổi, chứ không phải vì AI bị mất trí nhớ.

Những gì AI thực sự sử dụng

Nếu bạn muốn có kết quả đầu ra đáng tin cậy, bạn cần hiểu bốn nguồn thông tin thực sự cung cấp dữ liệu:

  • Lịch sử trò chuyện: Các lượt trao đổi gần đây trong luồng trò chuyện hiện tại của bạn. Đây là dữ liệu tạm thời. Chỉ cần bắt đầu một luồng mới là nó sẽ biến mất.
  • Chỉ dẫn cụ thể trong prompt: Bất cứ điều gì bạn gõ hoặc dán vào ô nhập liệu ngay lúc này. Đây là hình thức kiểm soát trực tiếp nhất.
  • Tài liệu từ cơ sở tri thức: Các tệp hoặc cơ sở dữ liệu mà hệ thống có thể tìm kiếm và đưa vào prompt. Điều này đòi hỏi một bước truy xuất (retrieval), và bước đó có thể thất bại một cách âm thầm.
  • Dữ liệu được lấy từ quy trình làm việc (workflow): Các lệnh gọi API, tra cứu cơ sở dữ liệu, hoặc các tính năng ghi nhớ được gắn thêm bởi các ứng dụng bên thứ ba. Chúng chỉ tốt khi mã nguồn kết nối chúng hoạt động tốt.

Không có cái nào trong số này là trí nhớ tự nhiên cả. Chúng chỉ là hệ thống đường ống dẫn dữ liệu. Nếu một đường ống bị ngắt kết nối hoặc sai tài liệu bị hút vào prompt, AI sẽ không cảnh báo bạn. Nó sẽ chỉ đơn giản sử dụng những gì nó thấy và đưa ra một câu trả lời trau chuốt, có vẻ thuyết phục nhưng hoàn toàn sai lệch.

Khi ngữ cảnh bị đứt gãy: Một ví dụ thực tế

Hãy tưởng tượng một đội ngũ marketing yêu cầu AI soạn thảo email gửi khách hàng. Vào thứ Hai, Sarah bắt đầu một cuộc trò chuyện và dán vào một bản hướng dẫn phong cách ngắn gọn: "Sử dụng ngôn ngữ điềm tĩnh, chừng mực. Tránh dùng dấu chấm than. Kết thúc bằng tên công ty." AI tuân thủ hướng dẫn một cách hoàn hảo. Cả đội rất thích các bản thảo đó.

Đến thứ Tư, Jake mở một cuộc trò chuyện hoàn toàn mới. Anh ấy gõ: "Soạn các email theo dõi khách hàng." Anh ấy không dán bản hướng dẫn phong cách vào. AI, khi không thấy chỉ dẫn nào ngược lại, sẽ mặc định sử dụng văn phong marketing đầy năng lượng. Các dấu chấm than xuất hiện dồn dập. Nó gợi ý: "Hãy cùng chinh phục mục tiêu này nào!" Cả đội thở dài. "Tại sao AI lại quên rồi?" họ hỏi.

Nó không hề quên. Chẳng có gì để quên cả. Jake đã không đưa bản hướng dẫn phong cách vào cửa sổ ngữ cảnh mới, và mô hình không có cách nào biết được đội ngũ đã thiết lập một quy tắc từ hai ngày trước trong một cuộc trò chuyện khác. Sự thất vọng là có thật, nhưng nguyên nhân là do con người, không phải do máy móc. Cả đội đã kỳ vọng vào một trí nhớ bền vững. Trong khi công cụ này chỉ cung cấp một tờ giấy nháp tạm thời.

Bài kiểm tra thực sự: Kiểm chứng những gì máy móc nhìn thấy

Cách nhanh nhất để cải thiện kết quả là ngừng hỏi: "AI có nhớ điều này không?" và bắt đầu hỏi: "Nó thực sự nhận được ngữ cảnh gì ngay lúc này?" Hãy kiểm tra thiết lập của bạn qua ba câu hỏi:

AI cần biết điều gì trong mọi lần sử dụng? Đây là ngữ cảnh không thể thương lượng. Giọng điệu thương hiệu, chính sách an toàn, định dạng đầu ra, các ràng buộc về tuân thủ. Nếu đó là điều quan trọng, nó nên nằm trong một tài liệu tham chiếu được đưa vào mọi prompt liên quan, chứ không phải nằm trong một luồng trò chuyện từ ba tuần trước.

Bạn có thể lưu trữ điều gì để truy xuất sau này? Các ghi chú dự án lịch sử, thông số kỹ thuật sản phẩm hoặc các nghiên cứu trước đây có thể nằm trong một tệp hoặc cơ sở dữ liệu có cấu trúc. Nhưng chỉ lưu trữ thôi là chưa đủ. Bạn cần biết chính xác cách hệ thống quyết định lấy phần dữ liệu nào từ kho lưu trữ đó vào cuộc trò chuyện. Nếu việc truy xuất phụ thuộc vào việc khớp từ khóa, một cách diễn đạt hơi khác trong prompt của bạn có thể dẫn đến việc lấy sai trang tài liệu.

Con người cần phải kiểm tra thủ công những gì? Khi cái giá của sai lầm là quá lớn—như các con số tài chính, tóm tắt y tế, ngôn ngữ pháp lý, hay các thông báo gửi tới khách hàng—đừng tin tưởng vào quy trình một cách mù quáng. Con người cần xác minh rằng AI đã sử dụng đúng phiên bản tài liệu và kết quả đầu ra có ý nghĩa trong thế giới thực. Mô hình không thể nói với bạn rằng nó vừa trích dẫn bảng giá của năm ngoái. Nó không biết hiện tại là năm nào trừ khi bạn đưa thông tin đó vào prompt.

Xây dựng quy trình ưu tiên ngữ cảnh (Context-First)

Công việc AI đáng tin cậy phần lớn nhờ vào kiến trúc thông tin tốt. Dưới đây là cách để xây dựng nó.

Đưa các quy tắc cố định của bạn vào một tài liệu tham khảo. Đây là nguồn sự thật duy nhất (single source of truth) của bạn. Khi các quy tắc thay đổi, hãy chỉnh sửa duy nhất tệp này. Đừng rải rác các hướng dẫn qua hàng chục luồng chat khác nhau.

Chỉ truyền những phần liên quan của tài liệu đó vào tác vụ đang thực hiện. Việc đổ cả một cuốn hướng dẫn dài hàng trăm trang vào prompt vừa tốn kém vừa gây nhiễu. Hãy truy xuất hai trang quan trọng nhất cho câu hỏi cụ thể này. Sự chính xác luôn thắng khối lượng.

Giữ các chi tiết ngắn hạn trong prompt đang hoạt động. Nếu bạn đang lên ý tưởng tiêu đề cho một bài viết blog về xe đạp điện, hãy đề cập đến "xe đạp điện" trong prompt. Đừng mặc định rằng mô hình biết bạn đang nghĩ gì chỉ vì bạn đã đề cập đến nó vào ngày hôm qua.

Sử dụng con người để xem xét kết quả đầu ra khi sai sót gây tốn kém. AI sẽ không bao giờ cảm thấy xấu hổ. Nó sẽ gửi một hóa đơn sai hoặc một lời xin lỗi thiếu tinh tế với cùng một sự tự tin như khi làm mọi việc khác. Cần có một người để kiểm chứng tính hợp lý (sanity check).

Tư duy theo các lớp

Sẽ rất hữu ích nếu bạn hình dung thông tin AI như bốn lớp xếp chồng lên nhau, mỗi lớp đều có độ tin cậy và rủi ro riêng.

Ngữ cảnh tức thời (Immediate context) là prompt hiện tại. Điều này nằm dưới sự kiểm soát 100% của bạn, nhưng chỉ khi bạn chịu khó viết nó. Những prompt mơ hồ sẽ mang lại kết quả mơ hồ.

Ngữ cảnh lưu trữ (Stored context) là thông tin bạn đã lưu ở đâu đó: một wiki Notion, một cơ sở dữ liệu vector, hoặc một thư mục PDF. Nó tồn tại, nhưng AI không thể nhìn thấy cho đến khi có thứ gì đó kết nối khoảng cách này.

Ngữ cảnh được truy xuất (Retrieved context) là dữ liệu được lấy từ kho lưu trữ vào prompt thông qua logic tìm kiếm, mã code hoặc plugin. Đây là nơi hầu hết các lỗi âm thầm xảy ra. Hệ thống có thể lấy một hợp đồng cũ thay vì bản đã sửa đổi, hoặc lấy một ảnh chụp màn hình thay vì một bảng tính.

Ngữ cảnh con người (Human context) là sự phán đoán của chính bạn về điều gì là đúng, điều gì quan trọng và điều gì có vẻ bất thường. Đây là lớp duy nhất biết liệu một câu trả lời có bị lỗi thời hay không, liệu một nguồn tin có đáng tin cậy hay không, hoặc liệu tông giọng có phù hợp với thời điểm đó hay không. Đừng giao phó lớp này cho bên thứ ba.

Những đội ngũ đạt được kết quả tốt nhất không phải là những người sử dụng các mô hình thông minh hơn. Họ đang xây dựng các hệ thống mà ở đó ngữ cảnh có thể hiển thị, có phiên bản và dễ dàng xác minh. Họ biết rằng một AI với ngữ cảnh hoàn hảo sẽ vượt xa một mô hình thiên tài nhưng phải làm việc với thông tin sai lệch trong mọi trường hợp.

Vì vậy, hãy ngừng đối xử với các công cụ này như những thực tập sinh hay quên cần được khiển trách. Hãy coi chúng như những thấu kính. Chúng chỉ cho bạn thấy những gì bạn đặt trước chúng. Hãy xây dựng thói quen kiểm tra thấu kính trước khi đổ lỗi cho tầm nhìn.

Tham gia cộng đồng học tập AI của GyaanSetu: https://t.me/GyaanSetuAi