ドキュメントがトークンを浪費しているのではない — 浪費しているのはツールだ

PRDやデザインレビューのようなドキュメントを作成することが、トークンを使いすぎていないかと聞かれることがあります。

彼らは、そのプロセスが重すぎると考えています。AIに直接コードを書かせた方が安上がりだと考えているのです。

それは間違いです。

ドキュメントが多いことと、トークンを大量に消費することは別問題です。ドキュメントはフォルダの中に置いてあるだけです。それ自体がトークンを消費することはありません。トークンを浪費しているのは、あなたの悪い習慣です。

真の「トークン・キラー」は以下の通りです:

  • コンテキストの肥大化:1つの会話を一日中続け続けてしまうこと。新しい質問をするたびに、過去の履歴である数千トークン分の料金を支払うことになります。
  • 曖昧なプロンプト:何をしたいのかを明確に伝えないこと。AIが推測することになります。1つの明確なプロンプトで済むはずのことを、3往復も繰り返して行うことになります。
  • ツールの使い方の悪さ:たった1つのファイルしか変更していないのに、AIにリポジトリ全体を読み込ませてしまうこと。

最大のコストは「手戻り」です。

PRDを書かなければ、AIが要件を誤解する可能性があります。その結果、書き直しや、作り直し、壊れた部分の修正のために、さらに多くのトークンを費やすことになります。

PRDは一度限りのコストですが、手戻りは複利で増えていく負債です。

ドキュメントを削るのではなく、以下の方法を使ってトークンを節約しましょう:

  • コンテキストを削る:チャット履歴を頻繁にクリアする。
  • モデルを使い分ける:検索や読み取りには安価で軽量なモデルを使い、高度な思考やコーディングにのみ強力なモデルを使用する。
  • ファイルを正確に読み込ませる:現在の変更に関連するものだけをAIに提供する。
  • プロンプト・キャッシュを利用する:これにより、コストを大幅に削減できます。
  • トークン・プロキシを利用する:定型的なコマンドの出力を圧縮する。
  • 並列化する:独立したタスクを同時に実行し、やり取りの回数を減らす。

ドキュメントは資産です。意思決定の監査に役立ちます。AIが良いドキュメントを読み込めば、即座に「なぜ(why)」を理解できます。これがトークンの節約につながります。

節約したいのであれば、ツールの使い方で節約してください。ドキュメントを省略することで節約しようとしてはいけません。

出典: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck

オプションの学習コミュニティ: https://t.me/GyaanSetuAi