Sự trỗi dậy của Kỹ thuật Agentic: Nợ Prompt

Viết prompt bằng tiếng Anh thông thường mang lại cảm giác như phép màu. Bạn gõ những gì mình muốn, và một bản mẫu xuất hiện. Nhưng đối với các hệ thống dài hạn, phép màu này trở thành một cái bẫy.

Có khả năng bạn đang tích lũy nợ prompt.

Nợ prompt xảy ra khi bạn sử dụng ngôn ngữ tự nhiên để điều khiển một mô hình thay vì sử dụng kỹ thuật chính xác. Điều này tạo ra ba vấn đề lớn:

  • Tốc độ lặp lại chậm lại. Bạn thêm nhiều văn bản hơn để sửa một lỗi, nhưng văn bản đó lại làm hỏng thứ khác. Chẳng mấy chốc, prompt của bạn trở thành một mớ hỗn độn các chỉ dẫn lặp đi lặp lại.
  • Đội ngũ của bạn mất quyền kiểm soát. Một prompt chứa đầy các cảnh báo viết hoa toàn bộ và các trường hợp biên (edge cases) là điều không thể để đồng nghiệp đọc hoặc quản lý.
  • Bạn bị khóa chặt vào một mô hình. Một prompt được tinh chỉnh cho một mô hình thường thất bại trên một phiên bản mới hơn, tốt hơn. Các đội ngũ bị kẹt lại với các mô hình cũ, đắt đỏ vì họ sợ làm hỏng hệ thống của mình.

Điều này xảy ra vì bạn đang chống lại các trọng số (weights). Khi một mô hình kháng cự lại chỉ dẫn của bạn, bạn lặp lại nó. Mỗi chỉ dẫn được lặp lại hoặc nhấn mạnh đều là một "mô sẹo". Nó cho thấy nơi mà quá trình huấn luyện của mô hình đang chống lại ý định của bạn.

Ngôn ngữ tự nhiên quá thiếu chính xác để làm kỹ thuật. Những thay đổi nhỏ trong cách dùng từ có thể đảo ngược hành vi của mô hình. Thậm chí cả những sự thật không liên quan trong một prompt cũng có thể thay đổi cách mô hình phản hồi.

Làm thế nào để khắc phục điều này?

Bạn phải ngừng viết prompt bằng tay và bắt đầu chỉ định hành vi bằng các phép đo lường.

  • Một prompt là một đoạn văn mà bạn hy vọng mô hình sẽ tuân theo.
  • Một metric là một bản hợp đồng mà mô hình phải đáp ứng.

Tương lai của kỹ thuật là chuyển dịch từ "prompting" sang "programming". Các công cụ như DSPy và GEPA cho phép bạn xác định một mục tiêu và một metric. Sau đó, hệ thống sẽ tìm kiếm prompt tốt nhất để đạt được mục tiêu đó.

Điều này biến việc viết prompt thành một sản phẩm đã được biên dịch (compiled artifact). Nếu một mô hình mới, rẻ hơn xuất hiện, bạn không cần phải hoảng loạn. Bạn chỉ cần chạy các metric của mình trên mô hình mới và tạo lại prompt.

Giống như các kỹ sư đã chuyển từ ngôn ngữ hợp ngữ (assembly language) sang trình biên dịch (compilers), các kỹ sư AI phải chuyển từ việc tinh chỉnh các chuỗi ký tự bằng tay sang tối ưu hóa các metric.

Đừng dỗ dành mô hình bằng những từ ngữ ma thuật nữa. Hãy bắt đầu xây dựng bằng các thông số kỹ thuật có thể đo lường được.

Source: https://dev.to/raminjafary/the-rise-of-agentic-engineering-part-6-prompt-debt-the-limits-of-natural-language-28oi

Optional learning community: https://t.me/GyaanSetuAi