Vos documents ne brûlent pas vos tokens — c'est votre outillage qui le fait

On me demande si la rédaction de documents comme les PRD et les revues de conception consomme trop de tokens.

Ils pensent que le processus est trop lourd. Ils pensent que laisser l'IA écrire le code directement est moins coûteux.

Ils se trompent.

Avoir beaucoup de documents et consommer beaucoup de tokens sont deux choses différentes. Les documents restent dans vos dossiers. Ils ne consomment pas de tokens par eux-mêmes. Ce sont vos mauvaises habitudes qui consomment des tokens.

Les véritables tueurs de tokens sont :

  • L'inflation du contexte : vous maintenez une seule conversation active toute la journée. Vous payez pour des milliers de tokens d'historique obsolète à chaque nouvelle question.
  • Les prompts vagues : vous ne dites pas ce que vous voulez. L'IA devine. Vous passez trois itérations à faire ce qu'un seul prompt clair aurait pu accomplir.
  • Une mauvaise utilisation des outils : vous demandez à l'IA de lire tout votre dépôt alors que vous ne modifiez qu'un seul fichier.

Le coût le plus important est la reprise (rework).

Si vous ne rédigez pas de PRD, l'IA risque de mal interpréter vos exigences. Vous dépensez alors plus de tokens à réécrire, à tout défaire et à réparer ce qui a été cassé.

Un PRD est un coût ponctuel. La reprise est une dette cumulative.

Utilisez ces méthodes pour économiser des tokens plutôt que de réduire la documentation :

  • Réduisez le contexte : effacez souvent votre historique de chat.
  • Hiérarchisez vos modèles : utilisez des modèles petits et peu coûteux pour la recherche et la lecture. Réservez les modèles puissants au raisonnement complexe et au codage.
  • Lisez les fichiers avec précision : ne fournissez à l'IA que ce qui est pertinent pour la modification en cours.
  • Utilisez le prompt caching : cela réduit considérablement vos coûts.
  • Utilisez un proxy de tokens : optimisez la sortie des commandes de routine.
  • Parallélisez : exécutez des tâches indépendantes simultanément pour réduire le nombre d'allers-retours.

Les documents sont des actifs. Ils vous aident à auditer vos décisions. Lorsqu'une IA lit un bon document, elle comprend immédiatement le « pourquoi ». Cela permet d'économiser des tokens.

Si vous voulez faire des économies, faites-les sur la manière dont vous utilisez vos outils. Ne faites pas d'économies en sautant l'étape de la documentation.

Source: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck

Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi