Gli strumenti degli agenti necessitano subito di controlli sulla supply chain

Prompt migliori non salveranno un repository con strumenti degli agenti non governati.

Gli agenti di coding si sono evoluti. Non rimangono più confinati nelle chat box. Leggono istruzioni. Chiamano strumenti. Si connettono ai marketplace. Operano all'interno di workflow che toccano file, pull request e API interne.

La domanda non è più "il modello è abbastanza intelligente?".

Le vere domande sono:

  • Chi ha permesso l'inserimento di questo strumento nel workflow?
  • A cosa può accedere questo strumento?
  • Come farai a notare se i suoi permessi cambiano?

Questo non è prompt engineering. Questo è controllo della supply chain.

Un suggerimento errato è una cosa. Un suggerimento errato con accesso a una shell, a un token del repository o a un installer di pacchetti è un problema di una categoria diversa. Il modello non sta più solo producendo testo. Si trova di fronte a delle capacità operative.

Tratta gli strumenti degli agenti come dipendenze.

Non si installano pacchetti basandosi sulle sensazioni. Ci si preoccupa del registro, del manutentore e della versione. Gli strumenti degli agenti meritano lo stesso sospetto.

Se uno strumento dell'agente può influenzare il tuo repository, il file system o la rete, segui queste regole:

• Mantieni un inventario degli strumenti degli agenti. Documenta la loro origine e il proprietario. • Versiona le istruzioni dell'agente. Tratta le modifiche alle istruzioni come modifiche alla configurazione della CI. • Crea una allowlist per le sorgenti degli strumenti. Usa marketplace noti. • Separa gli strumenti di lettura da quelli di scrittura. Uno strumento di ricerca necessita di permessi diversi rispetto a uno strumento di modifica. • Registra chiaramente le chiamate agli strumenti. Hai bisogno di una traccia di audit che gli umani possano effettivamente leggere. • Rendi evidenti le capacità rischiose. L'accesso alla shell e le scritture sul file system devono risaltare durante la revisione. • Crea un percorso di disattivazione. Devi essere in grado di rimuovere rapidamente uno strumento in caso di errore.

L'obiettivo è passare dalla fiducia accidentale alla fiducia intenzionale.

Il prossimo grande vantaggio non andrà al team con i prompt più appariscenti. Andrà al team con inventari noiosi, allowlist noiose e log noiosi.

Questa è la versione che sopravvive ai progetti reali.

Fonte: https://dev.to/hefty_69a4c2d631c9dd70724/agent-tools-need-supply-chain-controls-now-1co2

Comunità di apprendimento opzionale: https://t.me/GyaanSetuAi