Microsoft đã thông báo rằng Prompt Flow của Azure AI Foundry sẽ ngừng nhận các tính năng mới vào ngày 20 tháng 4 năm 2026 và sẽ chính thức ngừng hoạt động vào ngày 20 tháng 4 năm 2027. Microsoft khuyến khích các nhà phát triển chuyển khối lượng công việc của họ sang Microsoft Agent Framework. Thời hạn này rất quan trọng vì các runtime image cung cấp sức mạnh cho Prompt Flow sẽ sớm không còn nhận được các bản cập nhật bảo mật, gây ra những rắc rối về tuân thủ cho bất kỳ tổ chức nào tiếp tục duy trì dịch vụ này.

Prompt Flow là trình điều phối trực quan (visual orchestrator) của Azure AI Foundry dành cho các pipeline mô hình ngôn ngữ lớn (LLM). Một "flow" về cơ bản là một thư mục chứa tệp flow.dag.yaml mô tả các đầu vào (inputs), đầu ra (outputs) và trình tự của các nút (nodes). Trình chỉnh sửa trực quan cho phép người dùng kéo và thả các thành phần, nhưng tệp YAML bên dưới mới là thứ mà các hệ thống kiểm soát phiên bản (version-control systems) thực sự theo dõi.

Tại sao sự thay đổi này lại quan trọng

  • Rủi ro tuân thủ – Nếu không có các bản cập nhật bảo mật, bất kỳ lỗ hổng nào được phát hiện trong các runtime image sẽ không được vá. Các cơ quan quản lý thường coi mã nguồn không được bảo trì là không tuân thủ, đặc biệt là khi mã đó xử lý các thông tin xác thực (credentials).

Các khái niệm cốt lõi bạn vẫn cần biết

Ngay cả khi bạn đang lên kế hoạch ngừng sử dụng Prompt Flow, các mô hình (patterns) mà nó khuyến khích vẫn rất giá trị. Hiểu rõ chúng sẽ giúp quá trình chuyển đổi sang Agent Framework diễn ra suôn sẻ hơn.

  • Định nghĩa dựa trên thư mục – Tệp YAML của flow liệt kê mọi nút, loại nút và các hợp đồng dữ liệu (data contracts) của nó. Hãy lưu trữ tệp này trong hệ thống kiểm soát nguồn (source control); đây là nguồn sự thật duy nhất (single source of truth).
  • Các nút Python cho các tác vụ có tính xác định (deterministic) – Sử dụng các bước Python để phân tích (parsing), xác thực (validation) hoặc bất kỳ logic nào phải tạo ra cùng một kết quả với cùng một đầu vào. Điều này giúp cô lập các lệnh gọi LLM không xác định (nondeterministic) và giúp việc kiểm thử hạ nguồn (downstream testing) trở nên dễ dàng hơn.
  • Các đối tượng kết nối (Connection objects) cho các thông tin bí mật – Thông tin xác thực được lưu trữ trong một trường kết nối riêng biệt, không nằm trong mã nguồn. Thiết kế này cho phép bạn thay đổi các khóa phát triển (development keys) bằng các khóa sản xuất (production keys) mà không cần chạm vào định nghĩa của flow.
  • Các tập dữ liệu đánh giá (Evaluation datasets) – Tính năng mạnh mẽ nhất của Prompt Flow là vòng lặp đánh giá tích hợp sẵn. Một tệp JSONL kết hợp các đầu vào thực tế với các đầu ra mong đợi có thể được tái sử dụng trong bất kỳ framework nào; hãy coi nó như dữ liệu kiểm thử có tính di động (portable test data).
  • Các chỉ số cấp hệ thống (System-level metrics) – Việc chỉ đo lường đầu ra của một nút duy nhất có thể gây hiểu lầm. Hãy kết hợp các kiểm tra có tính xác định (ví dụ: khớp regex) với các chỉ số đầu cuối (end-to-end metrics) để phát hiện các lỗi hồi quy (regressions) chỉ xuất hiện sau khi toàn bộ pipeline chạy.

Lộ trình di chuyển

Việc chuyển từ Prompt Flow sang Agent Framework không phải là một thao tác "nhấp và chuyển đổi" (click-and-convert); nó đòi hỏi phải viết lại ngữ nghĩa (semantics) của từng nút.

  1. Ánh xạ các nút LLM – Thay thế các khối LLM trực quan bằng các lệnh gọi API rõ ràng được bao bọc trong một lớp agent (agent class). Agent nên chấp nhận cùng một lược đồ đầu vào (input schema) đã được định nghĩa trong tệp YAML gốc.
  2. Chuyển đổi các nút Python – Chuyển mã Python thành các hàm hoặc phương thức thông thường mà trình điều phối mới có thể gọi. Hãy bảo toàn bất kỳ hợp đồng xác định nào mà bạn đã xây dựng xung quanh chúng.
  3. Kết nối lại các kết nối – Xuất các định nghĩa kết nối từ Prompt Flow và nhập chúng vào kho lưu trữ bí mật (secret store) của Agent Framework. Xác minh rằng các giá trị đặc thù cho từng môi trường vẫn được phân giải chính xác.
  4. Chuyển dữ liệu đánh giá – Đưa tệp JSONL hiện có vào bộ khung kiểm thử (test harness) của framework mới. Điều chỉnh bất kỳ tính toán chỉ số nào để phù hợp với định dạng báo cáo của Agent Framework.
  5. Xác thực đầu cuối – Chạy toàn bộ pipeline trên một mẫu lưu lượng thực tế. So sánh các đầu ra cuối cùng với mốc cơ sở (baseline) của Prompt Flow ban đầu để phát hiện sự sai lệch (drift).
  6. Lặp lại quá trình điều phối – Nếu quy trình công việc của bạn cần khả năng phục hồi qua các lần khởi động lại tiến trình, hãy cân nhắc sử dụng Azure Durable Functions hoặc một trình điều phối bền vững (durable orchestrator) khác thay vì xây dựng lại một flow trực quan.

Những điều cần lưu ý tiếp theo

Lời khuyên: Hãy coi thời hạn tháng 4 năm 2027 là một điểm dừng bắt buộc. Hãy tạm dừng bất kỳ dự án Prompt Flow mới nào, trích xuất các phần có thể tái sử dụng—định nghĩa YAML, logic Python, cấu hình kết nối và dữ liệu đánh giá—và bắt đầu xây dựng lại chúng trong Agent Framework trong khi các bản cập nhật bảo mật vẫn còn được cung cấp. Nỗ lực ngay bây giờ sẽ giúp tránh một cuộc di chuyển vội vã và đầy rủi ro sau này.

Nguồn: https://dev.to/multigrid/building-a-prompt-flow-in-azure-ai-foundry-2bbn