Tôi đã ngừng coi bộ nhớ AI là những bản tóm tắt

Tôi đã ngừng coi bộ nhớ AI là một bản tóm tắt. Giờ đây, tôi coi nó là một sự bàn giao (handoff).

Hầu hết các hệ thống bộ nhớ đều tập trung vào việc tóm tắt. Chúng nén một cuộc hội thoại vào cuối phiên làm việc. Chúng lưu lại những phần quan trọng để dùng sau này.

Đây là một sai lầm. Một bản tóm tắt cố gắng nén mọi thứ cho một đối tượng không cụ thể nào cả. Nó thiếu một người đọc rõ ràng.

Một sự bàn giao thì khác. Sự bàn giao chuẩn bị cho tương tác tiếp theo. Nó viết cho một phiên làm việc trong tương lai cần tiếp nối công việc mà không cần phải giả vờ như nó đã ở đó suốt từ đầu.

Nếu bạn xây dựng bộ nhớ AI, bạn nên tập trung vào bốn điều cụ thể sau:

  • Sự thay đổi về khung nhận thức (Framing shifts): Cách mà quan điểm của người dùng thay đổi trong suốt phiên làm việc.
  • Các ranh giới (Boundaries): Những quy tắc như "Đừng đưa ra quyết định này thay tôi" hoặc "Hãy hỏi trước khi mở lại chủ đề này."
  • Những vấn đề chưa được giải quyết (Unresolved tensions): Những điều mà người dùng cố tình để ngỏ.
  • Sự điều chỉnh của người dùng (User corrections): Khi hệ thống thất bại và người dùng đưa ra cách khắc phục.

Một sự bàn giao đòi hỏi một lược đồ (schema). Nó phải tách biệt những gì cần chuyển tiếp và những gì cần để lại phía sau. Nó cũng phải theo dõi xem người dùng đã phê duyệt dữ liệu đó hay chưa.

Mục tiêu không phải là ghi nhớ mọi thứ. Mục tiêu là bảo tồn một vài điều giúp phiên làm việc tiếp theo chính xác hơn và ít lặp lại hơn.

Rủi ro lớn nhất là để mô hình tự quyết định mọi thứ. Nếu mô hình tự viết bản bàn giao, nó có thể lưu lại một phiên bản của người dùng dễ hiểu nhưng không đúng sự thật. Nó có thể biến một tâm trạng nhất thời thành một đặc điểm tính cách vĩnh viễn.

Giải pháp là một điểm trung gian: Mô hình soạn thảo, và người dùng phê chuẩn.

Người dùng phải có quyền hạn. Họ nên có thể nhanh chóng giữ lại, xóa hoặc chỉnh sửa những gì được chuyển tiếp. Nếu hệ thống chuyển tiếp sai thứ, người dùng sẽ lãng phí thời gian để hoàn tác nó.

Bộ nhớ không phải là vấn đề về lưu trữ. Đó là vấn đề về quản trị.

Bạn phải quyết định:

  • Ai quyết định điều gì sẽ được ghi nhớ?
  • Ai có thể sửa đổi nó?
  • Khi nào hệ thống nên chọn cách quên đi?

Bộ nhớ AI không nên là một đống các bản tóm tắt. Nó nên là một tập hợp các sự bàn giao được quản trị.

Source: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb

Optional learning community: https://t.me/GyaanSetuAi