Capabilities, Permissions, and Approval Gates in AI Developer Teams

Viele KI-Tools bieten eine Abkürzung an.

Sie verbinden ein Tool oder eine Integration. Die Benutzeroberfläche besagt, dass der Agent nun mit Dateien, Aufgaben oder Befehlen arbeiten kann.

Für professionelle Teams reicht das nicht aus.

Technische Fähigkeit ist nicht dasselbe wie eine Berechtigung. Eine Aktion mag zwar möglich sein, erfordert aber dennoch eine menschliche Entscheidung.

NexFlow trennt diese drei Ebenen:

• Capability: Was kann ein Akteur technisch tun? • Permission: Ist ein bestimmtes Subjekt berechtigt, diese Fähigkeit zu nutzen? • Approval Gate: Muss eine Aktion erst von einem Menschen bestätigt werden?

Die Verwechslung dieser Begriffe führt zu Sicherheitsrisiken.

Ein Skill beschreibt eine Rolle, wie das Schreiben von Dokumentationen. Eine Capability beschreibt eine Aktion, wie create_pull_request. Eine Permission ist eine Richtlinie, wie allow oder deny. Ein Approval Gate ist eine Person oder ein System, das eine kontrollierte Aktion genehmigen muss.

Ein Agent mag den Skill haben, Code zu reviewen. Eine Integration mag die Capability bieten, einen Pull Request zu erstellen. Aber eine Permission muss dennoch entscheiden, ob dieser spezifische Agent dieses Tool nutzen darf. Ein Approval Gate entscheidet dann, ob ein Mensch dies überprüfen muss.

Diese Unterscheidung schützt Ihr Projekt. Sie verhindert das Problem der „verbundenen Tools“, bei dem ein Agent mehr Befugnisse erhält, als Sie beabsichtigt haben.

NexFlow verwendet ein konservatives Sicherheitsmodell:

  • Prüfen, ob der Akteur über die deklarierte Capability verfügt.
  • Die Permission-Regeln finden.
  • Ein explizites deny ist die stärkste Regel.
  • Ein approval_required-Status blockiert die Aktion, bis ein Mensch sie genehmigt.
  • Ein allow funktioniert nur innerhalb des definierten Scopes.
  • Wenn keine Permission existiert, wird die Aktion abgelehnt.

Das ist keine Bürokratie. Es macht Risiken sichtbar. Sie können Ihre Richtlinien überprüfen, noch bevor Sie auch nur einen einzigen Agenten ausführen.

Sie können sehen:

  • Welche riskanten Capabilities existieren.
  • Wer Ihr Repository lesen kann.
  • Wer Dateien schreiben kann.
  • Wo ein Mensch eine Aktion stoppen muss.

Was ein Agent tun kann, reicht nicht aus. Entscheidend ist, was Ihr Projekt ihm erlaubt zu tun.

Quelle: https://dev.to/alexander_iwizard/capabilities-permissions-and-approval-gates-in-ai-developer-teams-2cc4

Optionale Lern-Community: https://t.me/GyaanSetuAi