Agent chính là bộ khung (Harness), không phải là mô hình (Model)

Mọi hệ thống AI đều có hai phần: mô hình (model) và bộ khung (harness).

Mô hình cung cấp khả năng suy luận thô. Bộ khung là mã nguồn bao bọc lấy nó.

Claude Code, GitHub Copilot và ChatGPT không phải là các mô hình. Chúng là các bộ khung. Chúng cung cấp các công cụ, bộ nhớ và các vòng lặp để biến một mô hình thành một sản phẩm hữu ích.

Sử dụng công thức này: Agent = Model × Harness

Mô hình là một nguyên liệu. Bộ khung là món ăn.

Hầu hết các công việc kỹ thuật diễn ra ở phần bộ khung. Bạn không huấn luyện mô hình. Bạn bao bọc mô hình đó. Bạn quyết định nó sử dụng công cụ nào, cách nó xử lý lỗi và cách nó ghi nhớ ngữ cảnh.

Hiện tại, các công ty như OpenAI và Anthropic đang xây dựng cả hai phần. Họ chế tạo cả động cơ lẫn chiếc xe. Điều này sẽ thay đổi.

Tương lai thuộc về các bộ khung không phụ thuộc vào mô hình (model-agnostic harnesses).

Một bộ khung lập trình cần quyền truy cập vào các kho lưu trữ (repositories) và các vòng lặp kiểm thử. Một bộ khung pháp lý cần sự chính xác trong trích dẫn. Một bộ khung tài chính cần các dấu vết kiểm toán (audit trails). Mô hình vẫn giữ nguyên, nhưng bộ khung sẽ thay đổi tùy theo công việc.

Kỹ thuật xây dựng bộ khung (harness engineering) sẽ hấp thụ hầu hết các công việc kỹ thuật phần mềm hiện nay.

Công việc chuyển dịch từ việc viết các logic tất định (deterministic logic) sang xây dựng các hệ thống tự động hóa quy trình làm việc của con người.

Điều này không có nghĩa là AI sẽ thay thế toàn bộ mã nguồn.

  • Các quy trình kinh doanh cốt lõi như thanh toán và sổ cái phải luôn mang tính tất định. Bạn sẽ không muốn một mô hình tự đoán các con số kế toán của mình.
  • Các tác vụ do con người điều khiển như phân loại (triage) và quản lý quy trình làm việc sẽ chuyển sang cho các agent.

Công việc của các nhà phát triển sẽ thay đổi.

Các chuyên gia ML sẽ tập trung vào phía mô hình. Các nhà phát triển sẽ tập trung vào phía bộ khung.

Bộ khung là nơi bạn quyết định về tính an toàn, chi phí và độ tin cậy. Một mô hình tốt hơn đi kèm với một bộ khung kém cỏi chỉ là một cách nhanh hơn để thất bại.

Mô hình sẽ tự cải thiện. Thành công của bạn phụ thuộc vào cách bạn xây dựng bộ khung.

Source: https://dev.to/saurav_bhattacharya/the-agent-is-the-harness-not-the-model-and-why-that-reorganizes-software-engineering-5f2i

Optional learning community: https://t.me/GyaanSetuAi