De context van je repo is nu een aanvalsoppervlak
AI-codebeveiliging is meer dan alleen een model ervan weerhouden om slechte code te schrijven.
Het echte risico ligt in wat de agent leest voordat hij schrijft. Je repository is niet langer alleen een plek voor code. Het is nu een inputstroom voor AI-agents.
Alles in je repo kan sturingsmateriaal worden voor een agent:
- Oude README-bestanden
- Verouderde migratie-notities
- Verouderde documentatie
- Verborgen projectconventies
- Lokale instructiebestanden
- Dependency-scripts en shell-hooks
Ontwikkelaars beschouwen deze bestanden vaak als onschuldige rommel. Een AI-agent ziet geen sociale context. Hij ziet tekst, tools en patronen. Als je documentatie oud of slordig is, zal de agent die rommel als de standaard beschouwen.
Slechte context komt in twee vormen voor:
- Eentonige fouten:
- Verouderde installatie-instructies
- Voorbeelden die gebruikmaken van verouderde API's
- Oude architectuur-notities
- Adversariële aanvallen:
- Prompt injection binnen bestanden
- Kwaadaardige dependency-scripts
- "Vergiftigde" voorbeelden die code richting onveilige patronen duwen
Wanneer je een agent de macht geeft om tests uit te voeren, bestanden te doorzoeken of pull requests te openen, vergroot je de blast radius. Een hook-systeem is niet langer alleen een productiviteitstool. Het is automatisering. Je moet het behandelen als automatisering.
Stel deze vragen over je workflow:
- Wie kan een hook bewerken?
- Welke omgevingsvariabelen kan de agent zien?
- Erft de agent de credentials van de ontwikkelaar?
- Schrijft de tool buiten de repo?
Behandel agents niet als magische tekstvakken. Behandel ze als infrastructuur voor ontwikkelaars.
Zo beveilig je je agentic workflow:
- Beperk de scope: Wijs een agent niet toe aan je hele project als hij slechts drie bestanden nodig heeft.
- Maak de context schoon: Verwijder of verbeter verouderde documentatie en oude instructies.
- Verhard de uitvoering: Voer risicovolle taken uit in een sandbox. Houd credentials beperkt tot de noodzakelijke scope.
- Eis zichtbaarheid: Weet precies wat de agent heeft gelezen, welke tools hij heeft aangeroepen en welke commando's hij heeft uitgevoerd.
Een AI-agent is als een junior developer met shell-toegang en een hoge typsnelheid. Je zou een nieuwe junior developer op de eerste dag niet de volledige productie-credentials geven. Je zou ze kleine taken geven, een schone context en beperkte rechten.
Behandel je agents op dezelfde manier.
Source: https://dev.to/hefty_69a4c2d631c9dd70724/your-repo-context-is-an-attack-surface-now-5dhj
Optional learning community: https://t.me/GyaanSetuAi