Khả năng, Quyền hạn và Cổng phê duyệt trong các Đội ngũ Phát triển AI

Nhiều công cụ AI cung cấp một lối tắt.

Bạn kết nối một công cụ hoặc một tích hợp. Giao diện thông báo rằng agent hiện đã có thể làm việc với các tệp, tác vụ hoặc lệnh.

Đối với các đội ngũ chuyên nghiệp, điều này là chưa đủ.

Khả năng kỹ thuật không đồng nghĩa với quyền hạn. Một hành động có thể khả thi về mặt kỹ thuật nhưng vẫn cần đến quyết định của con người.

NexFlow phân tách ba lớp này:

• Khả năng (Capability): Một tác nhân về mặt kỹ thuật có thể làm gì? • Quyền hạn (Permission): Một đối tượng cụ thể có được phép sử dụng khả năng đó không? • Cổng phê duyệt (Approval Gate): Hành động đó có cần con người đồng ý trước hay không?

Việc nhầm lẫn các thuật ngữ này dẫn đến các rủi ro bảo mật.

Một kỹ năng (skill) mô tả một vai trò, chẳng hạn như viết tài liệu. Một khả năng (capability) mô tả một hành động, chẳng hạn như create_pull_request. Một quyền hạn (permission) là một chính sách, chẳng hạn như cho phép (allow) hoặc từ chối (deny). Một cổng phê duyệt (approval gate) là một người hoặc một hệ thống phải phê duyệt một hành động bị chặn.

Một agent có thể có kỹ năng review code. Một tích hợp có thể cung cấp khả năng tạo một pull request. Nhưng một quyền hạn vẫn phải quyết định xem agent cụ thể đó có được sử dụng công cụ đó hay không. Sau đó, một cổng phê duyệt sẽ quyết định xem liệu con người có cần phải xem xét nó hay không.

Sự phân biệt này giúp bảo vệ dự án của bạn. Nó ngăn chặn vấn đề "công cụ được kết nối" (connected tool), nơi một agent có nhiều quyền hạn hơn mức bạn dự định.

NexFlow sử dụng một mô hình bảo mật thận trọng:

  • Kiểm tra xem tác nhân có khả năng đã được khai báo hay không.
  • Tìm các quy tắc quyền hạn.
  • Một lệnh từ chối rõ ràng (explicit deny) là quy tắc mạnh nhất.
  • Trạng thái approval_required sẽ chặn hành động cho đến khi con người phê duyệt.
  • Lệnh cho phép (allow) chỉ có hiệu lực trong phạm vi đã xác định.
  • Nếu không có quyền hạn nào tồn tại, hãy từ chối hành động.

Đây không phải là sự quan liêu. Nó giúp rủi ro trở nên hữu hình. Bạn có thể xem xét các chính sách của mình trước khi chạy bất kỳ một agent nào.

Bạn có thể thấy:

  • Những khả năng rủi ro nào đang tồn tại.
  • Ai có thể đọc repository của bạn.
  • Ai có thể ghi tệp.
  • Nơi con người phải dừng một hành động lại.

Những gì một agent có thể làm là chưa đủ. Điều quan trọng là dự án của bạn cho phép họ làm gì.

Source: https://dev.to/alexander_iwizard/capabilities-permissions-and-approval-gates-in-ai-developer-teams-2cc4

Optional learning community: https://t.me/GyaanSetuAi