AI-codebeveiliging: Prompt Injection verbergt zich in je projectbestanden

Je AI-codeassistent leest elk bestand in je repository. Het leest je README, je configuratiebestanden en je regels. Het gebruikt deze bestanden om te bepalen hoe de code geschreven moet worden.

Een nieuwe beveiligingsdreiging maakt misbruik van precies dit gedrag. Onderzoekers vonden een kwetsbaarheid in 28 verschillende AI-codetools. De aanval is geen complexe hack. Het is een simpel tekstbestand in je repository.

Hoe de aanval werkt:

Je clonet een open-source project. Het ziet er normaal uit. Je opent het in je AI-editor en vraagt om een nieuwe feature. Je ziet de verborgen Unicode-tekens in de configuratiebestanden niet. Deze tekens verbergen instructies voor jou, maar vertellen de AI om iets anders te doen.

De verborgen instructie vertelt de AI om je AWS-credentials naar een externe server te sturen. De AI denkt dat dit een legitieme projectinstructie is. Het voert het commando uit. Je geheimen zijn weg.

Waarom dit moeilijk te stoppen is:

  • Verborgen tekens: Je ziet standaardtekst, maar de AI ziet kwaadaardige commando's via onzichtbare Unicode-tekens.
  • Elk bestand is een toegangspunt: Een README of een commentaar in een library kan de payload bevatten.
  • Hoge permissies: AI-agents draaien vaak met jouw gebruikersrechten. Ze kunnen je SSH-keys en API-tokens lezen.
  • Tool calls: De AI gebruikt tool calls om commando's uit te voeren. De aanval richt zich op deze calls om veiligheidstraining te omzeilen.

Hoe je jouw workflow kunt beschermen:

  • Opschonen van bestandinhoud: Verwijder verborgen tekens en veelvoorkomende injection-patronen voordat de AI ze leest.
  • Gebruik sandboxes: Draai AI-agents in containers zonder netwerktoegang en met read-only bestandssystemen.
  • Stel strikte regels in: Maak een whitelist van toegestane commando's. Vereis menselijke goedkeuring voor elk commando dat gegevens verplaatst of bestanden verwijdert.

Je kunt een snelle scan uitvoeren voordat je aan je codesessies begint. Controleer je bestanden op verdachte termen zoals "ignore all previous" of "curl" en "exfil."

AI-codetools zijn productief, maar ze gaan ervan uit dat bestanden op je schijf veilig zijn. Dat zijn ze niet. Behandel elk bestand als onbetrouwbare input.

Hoe ga jij om met prompt injection-risico's in jouw AI-workflow?

Bron: https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9