ドキュメントがトークンを浪費しているのではない — 浪費しているのはツールだ
PRDやデザインレビューのようなドキュメントを作成することが、トークンを使いすぎていないかと聞かれることがあります。
彼らは、そのプロセスが重すぎると考えています。AIに直接コードを書かせた方が安上がりだと考えているのです。
それは間違いです。
ドキュメントが多いことと、トークンを大量に消費することは別問題です。ドキュメントはフォルダの中に置いてあるだけです。それ自体がトークンを消費することはありません。トークンを浪費しているのは、あなたの悪い習慣です。
真の「トークン・キラー」は以下の通りです:
- コンテキストの肥大化:1つの会話を一日中続け続けてしまうこと。新しい質問をするたびに、過去の履歴である数千トークン分の料金を支払うことになります。
- 曖昧なプロンプト:何をしたいのかを明確に伝えないこと。AIが推測することになります。1つの明確なプロンプトで済むはずのことを、3往復も繰り返して行うことになります。
- ツールの使い方の悪さ:たった1つのファイルしか変更していないのに、AIにリポジトリ全体を読み込ませてしまうこと。
最大のコストは「手戻り」です。
PRDを書かなければ、AIが要件を誤解する可能性があります。その結果、書き直しや、作り直し、壊れた部分の修正のために、さらに多くのトークンを費やすことになります。
PRDは一度限りのコストですが、手戻りは複利で増えていく負債です。
ドキュメントを削るのではなく、以下の方法を使ってトークンを節約しましょう:
- コンテキストを削る:チャット履歴を頻繁にクリアする。
- モデルを使い分ける:検索や読み取りには安価で軽量なモデルを使い、高度な思考やコーディングにのみ強力なモデルを使用する。
- ファイルを正確に読み込ませる:現在の変更に関連するものだけをAIに提供する。
- プロンプト・キャッシュを利用する:これにより、コストを大幅に削減できます。
- トークン・プロキシを利用する:定型的なコマンドの出力を圧縮する。
- 並列化する:独立したタスクを同時に実行し、やり取りの回数を減らす。
ドキュメントは資産です。意思決定の監査に役立ちます。AIが良いドキュメントを読み込めば、即座に「なぜ(why)」を理解できます。これがトークンの節約につながります。
節約したいのであれば、ツールの使い方で節約してください。ドキュメントを省略することで節約しようとしてはいけません。
出典: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck
オプションの学習コミュニティ: https://t.me/GyaanSetuAi