Tác nhân AI của bạn nên có bao nhiêu mức độ tự chủ?

Mọi người đang nói về Agentic AI như một cuộc đua để đạt được nhiều sự tự chủ hơn.

Họ muốn nhiều công cụ hơn. Khả năng lập luận tốt hơn. Sự độc lập cao hơn.

Các kỹ sư phần mềm không làm việc theo cách đó. Chúng tôi không xây dựng microservices chỉ vì chúng đang phổ biến. Chúng tôi xây dựng các hệ thống cân bằng giữa khả năng và sự phức tạp.

Các tác nhân AI cũng cần cách tiếp cận tương tự.

Câu hỏi không phải là một tác nhân có thể tự chủ đến mức nào. Câu hỏi là một tác nhân nên tự chủ đến mức nào.

Tự chủ là một quyết định thiết kế. Mỗi khi một tác nhân đưa ra một quyết định, bạn đang tăng thêm trách nhiệm cho nó.

Sự tự chủ cao giúp tác nhân thích nghi với các tình huống mới. Nó giúp tác nhân đạt được mục tiêu mà không cần sự hướng dẫn liên tục.

Nhưng sự tự chủ cao khiến tác nhân khó dự đoán và gỡ lỗi hơn. Nó khiến việc tin tưởng trở nên khó khăn hơn.

Tự chủ là một dải quang phổ.

  • Tự chủ thấp: Các hệ thống chỉ tạo văn bản.
  • Tự chủ trung bình: Các hệ thống đề xuất hành động và sử dụng công cụ.
  • Tự chủ cao: Các hệ thống tự quyết định cách đạt được mục tiêu với rất ít sự trợ giúp từ con người.

Mỗi bước tiến đều làm tăng khả năng và độ phức tạp. Bạn nên dừng lại ở mức độ mà vấn đề của bạn yêu cầu.

Hãy xem xét một trợ lý nhân sự. Nó trả lời các câu hỏi về chính sách. Việc cấp quyền cho nó sửa đổi hồ sơ nhân viên sẽ làm tăng rủi ro mà không mang lại nhiều giá trị.

Bây giờ hãy xem xét một tác nhân vận hành. Nó điều tra các sự cố vận hành. Nó phải kiểm tra logs và tìm kiếm tài liệu. Nó cần điều chỉnh việc tìm kiếm dựa trên những gì nó tìm thấy. Một quy trình làm việc cố định sẽ thất bại ở đây. Sự tự chủ lớn hơn sẽ cải thiện giải pháp này.

Vấn đề sẽ quyết định mức độ tự chủ.

Các hệ thống vận hành thành công thường được giới hạn một cách có chủ đích. Điều này được gọi là bounded autonomy. Bạn thiết lập các giới hạn để giữ cho hệ thống hoạt động đáng tin cậy.

Ví dụ về các giới hạn:

  • Hạn chế quyền truy cập công cụ
  • Giới hạn phạm vi nhiệm vụ
  • Yêu cầu sự phê duyệt của con người cho các hành động lớn
  • Thiết lập hạn mức chi tiêu
  • Xác định khi nào cần chuyển giao cho con người

Những ràng buộc này giúp tác nhân của bạn dễ dự đoán hơn.

Trước khi cấp thêm quyền tự chủ, hãy đặt những câu hỏi này:

  • Một quy trình làm việc cố định có thể giải quyết việc này không?
  • Bước tiếp theo có phụ thuộc vào thông tin chưa biết không?
  • Điều gì xảy ra nếu tác nhân thất bại?
  • Bạn có thể tách biệt các hành động rủi ro khỏi quá trình lập luận ít rủi ro không?

Những kỹ sư giỏi nhất không tối đa hóa sự tự chủ. Họ quyết định chính xác nơi nó bắt đầu và nơi nó kết thúc.

Kiến trúc tốt là làm những gì cần thiết và không làm gì thêm.

Nguồn: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n