𝗬𝗼𝘂𝗿 𝗱𝗼𝗰𝘀 𝗮𝗿𝗲𝗻'𝘁 𝗯𝘂𝗿𝗻𝗶𝗻𝗴 𝘆𝗼𝘂𝗿 𝘁𝗼𝗸𝗲𝗻𝘀 — 𝘆𝗼𝘂𝗿 𝘁𝗼𝗼𝗹𝗶𝗻𝗴 𝗶𝘀 Dokumen anda tidak membakar token anda — peralatan anda yang melakukannya

Orang bertanya kepada saya jika menulis dokumen seperti PRD dan semakan reka bentuk membakar terlalu banyak token.

Mereka fikir proses itu terlalu berat. Mereka fikir membiarkan AI menulis kod secara terus adalah lebih murah.

Mereka silap.

Mempunyai banyak dokumen dan membakar banyak token adalah dua perkara yang berbeza. Dokumen tersimpan di dalam folder anda. Ia tidak membakar token dengan sendirinya. Tabiat buruk anda yang membakar token.

Pembunuh token yang sebenar adalah:

  • Konteks yang melimpah (Context bloat): Anda membiarkan satu perbualan berjalan sepanjang hari. Anda membayar untuk beribu-ribu token sejarah lama setiap kali anda bertanya soalan baharu.
  • Prompt yang samar: Anda tidak menyatakan apa yang anda mahukan. AI hanya meneka. Anda menghabiskan tiga pusingan untuk melakukan apa yang sepatutnya boleh diselesaikan dengan satu prompt yang jelas.
  • Penggunaan peralatan yang lemah: Anda meminta AI membaca keseluruhan repo anda sedangkan anda hanya mengubah satu fail.

Kos terbesar adalah kerja semula (rework).

Jika anda tidak menulis PRD, AI mungkin tersalah baca keperluan anda. Anda kemudiannya menghabiskan lebih banyak token untuk menulis semula, meruntuhkan semula, dan membaiki bahagian yang rosak.

PRD adalah kos sekali sahaja. Kerja semula adalah hutang yang terkumpul.

Gunakan kaedah ini untuk menjimatkan token dan bukannya mengurangkan dokumen:

  • Kecilkan konteks: Bersihkan sejarah sembang anda dengan kerap.
  • Gunakan model mengikut tahap: Gunakan model kecil yang murah untuk mencari dan membaca. Gunakan model yang kuat hanya untuk pemikiran dan pengekodan yang sukar.
  • Baca fail dengan tepat: Hanya berikan AI apa yang relevan dengan perubahan semasa.
  • Gunakan prompt caching: Ini mengurangkan kos anda secara signifikan.
  • Gunakan proksi token: Kecilkan output bagi arahan rutin.
  • Lakukan secara selari (Parallelize): Jalankan tugasan bebas secara serentak untuk mengurangkan perjalanan ulang-alik (round-trips).

Dokumen adalah aset. Ia membantu anda mengaudit keputusan. Apabila AI membaca dokumen yang baik, ia memahami "mengapa" dengan serta-merta. Ini menjimatkan token.

Jika anda ingin menjimatkan, jimatkan pada cara anda menggunakan peralatan anda. Jangan jimat dengan melangkau dokumentasi.

Sumber: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi