Giải thích về Loop Engineering

Đừng chỉ dừng lại ở việc viết prompt cho các agent lập trình. Hãy bắt đầu thiết kế các vòng lặp (loops).

Các kỹ sư hàng đầu tại OpenAI và Anthropic đang chứng kiến một sự chuyển dịch. Việc viết prompt thủ công qua chat đang dần lỗi thời. Loop Engineering chính là tiêu chuẩn mới.

Hầu hết mọi người nghĩ rằng một vòng lặp chỉ đơn giản là một lệnh lặp lại. Trong AI, một vòng lặp là một hệ thống điều khiển vòng kín (closed-loop control system).

Hãy nghĩ về sự khác biệt giữa một chiếc máy nướng bánh mì và một bộ điều nhiệt. Máy nướng bánh mì là một vòng lặp hở (open loop). Nó chạy trong một khoảng thời gian cố định bất kể tình trạng của lát bánh. Bộ điều nhiệt là một vòng lặp kín. Nó đo nhiệt độ, tỏa nhiệt và điều chỉnh dựa trên phản hồi.

Các LLM có tính ngẫu nhiên (stochastic). Chúng mang tính xác suất (probabilistic). Nếu bạn hỏi cùng một câu hỏi năm lần, bạn sẽ nhận được năm câu trả lời khác nhau. Xây dựng phần mềm chỉ bằng các prompt giống như xây nhà trên nền đất sét ướt.

Loop Engineering giải quyết vấn đề này. Nó bao bọc một công cụ phi định hướng (non-deterministic engine) bên trong một máy trạng thái xác định (deterministic state machine). LLM cung cấp trí thông minh. Vòng lặp cung cấp sự xác thực về mặt toán học.

Năm giai đoạn của một vòng lặp trong môi trường production:

• Discover (Khám phá): Agent đọc môi trường và các tệp tin. • Plan (Lập kế hoạch): Hệ thống tạo ra một lộ trình từng bước. • Execute (Thực thi): Agent thực hiện công việc. • Verify (Xác thực): Một bài kiểm tra khách quan (như trình biên dịch hoặc linter) sẽ kiểm tra kết quả. • Iterate (Lặp lại): Nếu bài kiểm tra thất bại, lỗi sẽ được đưa quay trở lại bước một.

Trước đây, việc này quá tốn kém. Các vòng lặp tiêu tốn rất nhiều token. Một tác vụ gỡ lỗi duy nhất có thể tiêu tốn hàng trăm nghìn token.

Các mô hình chi phí thấp mới đã thay đổi bài toán này. Giờ đây, bạn có thể thoải mái để máy móc thất bại mười lần để tìm ra giải pháp đúng. Chi phí cho sự tự chủ (autonomy) đã giảm xuống gần như bằng không.

Quy tắc Vàng: Mô hình viết mã không bao giờ được là mô hình xác thực chính nó.

Hãy sử dụng một mô hình giàu tính sáng tạo để xây dựng, và một mô hình khắt khe để kiểm tra. Điều này ngăn chặn việc agent tự thuyết phục bản thân rằng một logic sai lầm là đúng.

Thị trường việc làm đang chia thành hai vai trò:

Kỹ sư Prompt (Prompt Engineer):

  • Sử dụng đầu vào dạng hội thoại.
  • Sao chép lỗi thủ công.
  • Tập trung vào các kết quả đơn lẻ.

Kỹ sư Loop (Loop Engineer):

  • Sử dụng máy trạng thái (state machines).
  • Xây dựng các cổng xác thực tự động.
  • Thiết kế toàn bộ quy trình làm việc.

Đừng chỉ là người cầm búa. Hãy trở thành kiến trúc sư thiết kế nên dây chuyền lắp ráp.

Source: https://dev.to/itsmeramc/loop-engineering-explained-simply-with-diy-python-snippets-4ah2

Optional learning community: https://t.me/GyaanSetuAi