Các nhà nghiên cứu Yuxing Lu, Yicheng Chen và Shanchan Wu đã phát hành một khung làm việc (framework) mang tên “Procedural Graph” (Đồ thị Quy trình), cho phép các tác nhân mô hình ngôn ngữ lớn (LLM agent) tự viết lại kế hoạch thực hiện nhiệm vụ của chính chúng trong quá trình làm việc.
Vấn đề của các tác nhân hiện nay
Hầu hết các trợ lý vận hành bằng LLM hoạt động giống như một đầu bếp chỉ có thể đọc thuộc lòng công thức nấu ăn. Mô hình lưu trữ các bước trong bộ nhớ tạm thời, chọn công cụ tiếp theo và hy vọng rằng token tiếp theo sẽ xuất hiện chính xác. Trong thực tế, ba lỗi thường xuyên xảy ra:
- Lệch mục tiêu (Goal drift) – sau vài lượt tương tác, tác nhân quên mất mục tiêu ban đầu.
- Sử dụng sai công cụ – nó gọi API sai thứ tự hoặc lặp lại cùng một lệnh gọi.
- Lỗi không được ghi nhớ – cùng một lỗi lại xuất hiện trong các phiên làm việc không liên quan vì không có gì lưu lại thất bại đó một cách lâu dài.
Vì quá trình suy luận vẫn mang tính ngầm định, các nhà phát triển không thể thấy được tại sao một hành động lại xảy ra, và người dùng cũng không thể sửa chữa các lỗi hệ thống.
Chuyển đổi các câu lệnh (prompt) thành đồ thị
Procedural Graphs thay thế cách tiếp cận "chỉ dựa vào bộ nhớ" bằng một cấu trúc tường minh và có thể chỉnh sửa. Khung làm việc này định nghĩa ba thành phần cốt lõi:
| Thành phần | Vai trò |
|---|---|
| Nút (Node) | Một bước cụ thể như “Tìm kiếm chuyến bay” hoặc “Xác minh thanh toán.” |
| Cạnh (Edge) | Luồng di chuyển giữa các nút – các chuỗi đường thẳng, các nhánh điều kiện (nếu/thì) và các vòng lặp. |
| Thuộc tính (Attribute) | Siêu dữ liệu (metadata) gắn liền với một nút hoặc cạnh, ví dụ: tỷ lệ thành công, thời gian thực thi trung bình hoặc điểm tin cậy. |
Khi một LLM agent nhận được yêu cầu, trước tiên nó sẽ ánh xạ yêu cầu đó lên một đồ thị có sẵn hoặc xây dựng một đồ thị mới ngay lập tức. Việc thực thi sau đó sẽ tuân theo các cạnh, gọi các công cụ và lưu trữ kết quả vào các thuộc tính. Vì đồ thị tồn tại bên ngoài luồng token của mô hình, con người có thể kiểm tra, trực quan hóa và chỉnh sửa nó.
Tự tiến hóa qua năm bước
Điểm mới lạ nằm ở vòng lặp cho phép tác nhân tự cải thiện đồ thị của chính mình:
- Ghi lại (Record) mọi lộ trình mà tác nhân đi qua, ghi nhật ký các đầu vào, các lệnh gọi công cụ và kết quả.
- So sánh (Compare) các lộ trình thành công với các lộ trình thất bại, xác định chính xác điểm mà chúng khác nhau.
- Chẩn đoán (Diagnose) lỗi bằng cách kiểm tra các thuộc tính của nút (ví dụ: tỷ lệ thành công thấp) và các điều kiện của cạnh.
- Đề xuất (Propose) các chỉnh sửa – LLM nhận được phân tích thất bại và đề xuất các sửa đổi đồ thị (thêm một bước xác thực còn thiếu, loại bỏ một vòng lặp dư thừa, thắt chặt một điều kiện).
- Xác thực (Validate) đồ thị đã sửa đổi trên một thực thể thử nghiệm; nếu hiệu suất được cải thiện, thay đổi đó sẽ được giữ lại.
Vì đồ thị đóng vai trò là nguồn sự thật duy nhất (single source of truth), tác nhân có thể thêm các bước, loại bỏ các ngõ cụt hoặc kết nối lại logic mà không cần sự trợ giúp của con người. Ngay cả một quy trình làm việc do con người tạo ra một cách vụng về cũng có thể tự hoàn thiện theo thời gian.
Tại sao sự chuyển dịch này lại quan trọng
Khả năng tổng quát hóa vượt xa việc ghi nhớ
Một câu lệnh (prompt) tĩnh chỉ nắm bắt được một trường hợp nhiệm vụ duy nhất. Một đồ thị trừu tượng hóa cách thức thực hiện ("how-to") cho cả một nhóm nhiệm vụ—như tìm kiếm và đặt chỗ, quy trình nhập dữ liệu, hội thoại khắc phục sự cố—vì vậy cùng một cấu trúc có thể hoạt động với các tham số khác nhau. Các đội ngũ không còn cần phải viết lại prompt cho mô hình đối với mỗi biến thể khác nhau.
Ra quyết định minh bạch
Đồ thị trông giống như một lưu đồ (flowchart). Các bên liên quan có thể truy vết chính xác nút nào đã kích hoạt lệnh gọi công cụ và tại sao một nhánh lại được chọn.
Sự hiệp lực giữa thần kinh và biểu tượng (Neuro-symbolic synergy)
Procedural Graphs kết hợp khả năng nhận dạng mẫu của học sâu (sự hiểu ngôn ngữ của LLM) với suy luận biểu tượng (logic đồ thị tường minh). LLM cung cấp trực giác để tạo ra hoặc sửa đổi các bước; đồ thị thực thi tính nhất quán về logic. Các tác giả mô tả điều này giống như việc cung cấp cho LLM một bộ não “System 2” (Hệ thống 2)—một bộ điều khiển có tính toán và có thể kiểm chứng, bổ trợ cho “System 1” (Hệ thống 1) nhanh chóng và mang tính liên tưởng của việc dự đoán token thô.
Bài học rút ra
Procedural Graphs cung cấp cho các LLM agent một khung xương có thể thay đổi và có thể kiểm tra, cho phép chúng học hỏi từ mỗi lần thực thi. Bằng cách biến các câu lệnh thoáng qua thành các cấu trúc bền vững, phương pháp này hứa hẹn tạo ra các trợ lý AI khó bị lỗi hơn, dễ hiểu hơn và khả năng thích nghi tốt hơn với các thách thức mới.