Ваши документы не сжигают ваши токены — это делают ваши инструменты

Меня спрашивают, не сжигают ли написание документации, такой как PRD и дизайн-ревью, слишком много токенов.

Они думают, что этот процесс слишком тяжеловесный. Они считают, что позволить ИИ писать код напрямую — дешевле.

Они ошибаются.

Наличие большого количества документов и сжигание большого количества токенов — это две разные вещи. Документы лежат в ваших папках. Сами по себе они токены не сжигают. Их сжигают ваши вредные привычки.

Настоящие пожиратели токенов:

  • Раздутый контекст: вы ведете один диалог весь день. Вы платите за тысячи токенов старой истории каждый раз, когда задаете новый вопрос.
  • Расплывчатые промпты: вы не говорите, чего хотите. ИИ гадает. Вы тратите три итерации на то, что мог бы сделать один четкий промпт.
  • Неэффективное использование инструментов: вы заставляете ИИ читать весь репозиторий, когда меняете всего один файл.

Самые большие затраты — это переделки.

Если вы не напишете PRD, ИИ может неверно истолковать ваши требования. В итоге вы тратите больше токенов на переписывание, разрушение старого и исправление сломанных частей.

PRD — это разовые затраты. Переделки — это растущий долг.

Используйте эти методы, чтобы экономить токены, а не сокращать документацию:

  • Сокращайте контекст: чаще очищайте историю чата.
  • Используйте разные уровни моделей: используйте дешевые маленькие модели для поиска и чтения. Используйте мощные модели только для сложных размышлений и написания кода.
  • Читайте файлы точно: подавайте ИИ только то, что относится к текущему изменению.
  • Используйте кэширование промптов: это значительно снижает ваши расходы.
  • Используйте прокси для токенов: оптимизируйте вывод рутинных команд.
  • Параллельте задачи: запускайте независимые задачи одновременно, чтобы сократить количество циклов взаимодействия.

Документация — это актив. Она помогает проводить аудит решений. Когда ИИ читает хорошую документацию, он сразу понимает «почему». Это экономит токены.

Если хотите экономить, экономьте на том, как вы используете свои инструменты. Не экономьте на пропуске документации.

Источник: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck

Опциональное обучающее сообщество: https://t.me/GyaanSetuAi