I tuoi documenti non stanno consumando i tuoi token — lo stanno facendo i tuoi strumenti

Le persone mi chiedono se scrivere documenti come PRD e design review consumi troppi token.

Pensano che il processo sia troppo pesante. Pensano che lasciare che l'IA scriva direttamente il codice sia più economico.

Si sbagliano.

Avere molti documenti e consumare molti token sono due cose diverse. I documenti risiedono nelle tue cartelle. Non consumano token di per sé. Sono le tue cattive abitudini a consumare token.

I veri killer dei token sono:

  • Eccesso di contesto (context bloat): mantieni una singola conversazione attiva tutto il giorno. Paghi per migliaia di token di cronologia precedente ogni volta che poni una nuova domanda.
  • Prompt vaghi: non dici ciò che vuoi. L'IA va a tentativi. Consumi tre round per fare ciò che un singolo prompt chiaro avrebbe potuto fare.
  • Uso inefficiente degli strumenti: costringi l'IA a leggere l'intero repository quando modifichi un solo file.

Il costo maggiore è il rifacimento (rework).

Se non scrivi un PRD, l'IA potrebbe interpretare male i tuoi requisiti. Di conseguenza, consumerai più token per riscrivere, smantellare e correggere le parti danneggiate.

Un PRD è un costo una tantum. Il rifacimento è un debito composto.

Usa questi metodi per risparmiare token invece di tagliare i documenti:

  • Riduci il contesto: pulisci spesso la cronologia della chat.
  • Gerarchizza i modelli: usa modelli piccoli ed economici per la ricerca e la lettura. Usa modelli potenti solo per il ragionamento complesso e la programmazione.
  • Leggi i file con precisione: fornisci all'IA solo ciò che è pertinente alla modifica corrente.
  • Usa il prompt caching: questo riduce i costi in modo significativo.
  • Usa un proxy per i token: ottimizza l'output dei comandi di routine.
  • Parallelizza: esegui task indipendenti contemporaneamente per ridurre le interazioni.

I documenti sono asset. Ti aiutano a revisionare le decisioni. Quando l'IA legge un buon documento, ne comprende immediatamente il "perché". Questo fa risparmiare token.

Se vuoi risparmiare, risparmia su come usi i tuoi strumenti. Non risparmiare saltando la documentazione.

Fonte: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck

Community di apprendimento opzionale: https://t.me/GyaanSetuAi