Bộ nhớ phiên của Agent không phải là một tính năng. Đó là Control Plane của bạn.
Hầu hết các đội ngũ đều nghĩ rằng bộ nhớ của agent xoay quanh các cơ sở dữ liệu vector. Họ đã lầm.
Vấn đề thực sự nằm ở trạng thái hội thoại (conversation state). Khi agent của bạn khởi động lại, ai sẽ là người giữ ngữ cảnh?
Đây không phải là vấn đề về trải nghiệm người dùng. Đây là vấn đề về hạ tầng.
Đây là bài toán về thời gian bị lãng phí: Bạn khởi chạy một coding agent. Nó mất 45 giây để đọc repository của bạn và xây dựng một mô hình tư duy (mental model). Sau đó, một pod khởi động lại, một container bị lỗi, hoặc bạn chuyển đổi công cụ. Phiên làm việc tiếp theo của bạn lại tiêu tốn thêm 45 giây nữa để xây dựng lại chính mô hình đó.
Nếu 10 lập trình viên thực hiện việc này 3 lần mỗi ngày, bạn sẽ mất 225 giây mỗi ngày cho mỗi người. Ở quy mô lớn, bạn sẽ mất hàng trăm giờ kỹ thuật do tình trạng "mất trí nhớ" không trạng thái (stateless amnesia).
Sai lầm nằm ở việc coi bộ nhớ là một tính năng bên trong một framework duy nhất. Không phải vậy. Bộ nhớ phiên (session memory) thuộc về lớp hạ tầng nằm trên các runtime của bạn.
Các framework như LangGraph hay AutoGen cung cấp bộ nhớ trong phạm vi giới hạn của chúng. Nhưng chúng sẽ thất bại khi bạn cần:
- Chạy các agent trên các runtime khác nhau như Claude và Cursor.
- Chia sẻ trạng thái giữa các thành viên trong nhóm.
- Duy trì hoạt động sau khi khởi động lại mà không mất ngữ cảnh.
- Kiểm tra (audit) các hành động của agent trong suốt một dự án.
Bạn phải hiểu ba loại bộ nhớ:
- Session Memory (Bộ nhớ phiên): Lịch sử của một lần tương tác.
- Episodic Memory (Bộ nhớ tình tiết): Các sự kiện được lưu trữ qua nhiều tuần hoặc nhiều tháng.
- Semantic Memory (Bộ nhớ ngữ nghĩa): Các sự thật và khuôn mẫu được lưu trữ trong cơ sở dữ liệu.
Các đội ngũ triển khai thực tế (production teams) giải quyết vấn đề này bằng cách tách biệt "não bộ" của agent khỏi runtime. "Não bộ" xử lý việc suy luận trong một pod bền vững (persistent pod). "Sandbox" xử lý việc thực thi trong một môi trường tạm thời (ephemeral environment).
Vào năm 2026, các đội ngũ sẽ không chỉ sử dụng một nền tảng. Họ sử dụng rất nhiều. Điều này tạo ra sự phân mảnh. Một phiên làm việc nằm trong Claude. Một phiên khác nằm trong một tệp cục bộ. Một phiên khác nữa nằm trong cơ sở dữ liệu. Bạn sẽ mất khả năng tìm kiếm hoặc bàn giao công việc.
Đừng cố gắng khắc phục điều này bằng một mô hình lớn hơn. Hãy khắc phục nó bằng một hạ tầng tốt hơn.
Hãy tự hỏi bản thân ba câu hỏi sau:
- Agent của tôi có thể sống sót sau khi khởi động lại không?
- Nhóm của tôi có thể chia sẻ các phiên agent không?
- Các agent của tôi có chia sẻ ngữ cảnh trên các runtime khác nhau không?
Nếu bạn không thể trả lời "có", bạn đang lãng phí năng suất.
Hãy xây dựng một control plane giúp trạng thái phiên trở nên bền vững, có thể tìm kiếm và có thể chia sẻ.
Nguồn: https://dev.to/paultwist/agent-session-memory-isnt-a-feature-its-your-control-plane-1c2p
Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi