Capabilities, Permissions en Approval Gates in AI-ontwikkelaarsteams

Veel AI-tools bieden een kortere weg.

Je koppelt een tool of een integratie. De interface geeft aan dat de agent nu kan werken met bestanden, taken of commando's.

Voor serieuze teams is dit niet voldoende.

Technische bekwaamheid is niet hetzelfde als een permissie. Een actie kan mogelijk zijn, maar vereist nog steeds een menselijke beslissing.

NexFlow scheidt deze drie lagen:

• Capability: Wat kan een actor technisch gezien doen? • Permission: Is een specifiek onderwerp toegestaan om die capability te gebruiken? • Approval Gate: Moet een mens eerst "ja" zeggen tegen de actie?

Het verwarren van deze termen leidt tot beveiligingsrisico's.

Een skill beschrijft een rol, zoals het schrijven van documentatie. Een capability beschrijft een actie, zoals create_pull_request. Een permission is een beleid, zoals allow of deny. Een approval gate is een persoon of systeem dat een afgeschermde actie moet goedkeuren.

Een agent kan de skill hebben om code te reviewen. Een integratie kan de capability bieden om een pull request aan te maken. Maar een permission moet nog steeds bepalen of die specifieke agent die tool mag gebruiken. Een approval gate beslist vervolgens of een mens het moet beoordelen.

Dit onderscheid beschermt je project. Het voorkomt het "connected tool"-probleem waarbij een agent meer autoriteit krijgt dan je bedoelde.

NexFlow gebruikt een conservatief beveiligingsmodel:

  • Controleer of de actor over de verklaarde capability beschikt.
  • Zoek de permission-regels op.
  • Een expliciete deny is de sterkste regel.
  • Een approval_required-status blokkeert de actie totdat een mens deze goedkeurt.
  • Een allow werkt alleen binnen de gedefinieerde scope.
  • Als er geen permission bestaat, wordt de actie geweigerd.

Dit is geen bureaucratie. Het maakt risico's zichtbaar. Je kunt je beleid controleren voordat je ook maar één agent uitvoert.

Je kunt zien:

  • Welke risicovolle capabilities bestaan.
  • Wie je repository kan lezen.
  • Wie bestanden kan schrijven.
  • Waar een mens een actie moet stoppen.

Wat een agent kan doen is niet genoeg. Wat telt is wat je project hen toestaat te doen.

Bron: https://dev.to/alexander_iwizard/capabilities-permissions-and-approval-gates-in-ai-developer-teams-2cc4

Optionele leercommunity: https://t.me/GyaanSetuAi