เอกสารของคุณไม่ได้เผาผลาญโทเคนของคุณ — เครื่องมือของคุณต่างหากที่ทำ
มีคนถามผมว่าการเขียนเอกสารอย่าง PRD และการรีวิวการออกแบบ (design reviews) นั้นเผาผลาญโทเคนมากเกินไปหรือไม่
พวกเขาคิดว่ากระบวนการนี้มันหนักเกินไป และคิดว่าการปล่อยให้ AI เขียนโค้ดโดยตรงนั้นประหยัดกว่า
พวกเขาคิดผิด
การมีเอกสารจำนวนมากกับการเผาผลาญโทเคนจำนวนมากเป็นคนละเรื่องกัน เอกสารจะถูกเก็บไว้ในโฟลเดอร์ของคุณ มันไม่ได้เผาผลาญโทเคนด้วยตัวมันเอง แต่พฤติกรรมที่ไม่ดีของคุณต่างหากที่เผาผลาญโทเคน
ตัวการที่ทำให้เสียโทเคนจริงๆ คือ:
- Context bloat: คุณเปิดบทสนทนาเดียวค้างไว้ทั้งวัน คุณต้องจ่ายค่าโทเคนหลายพันจากประวัติเก่าๆ ทุกครั้งที่คุณถามคำถามใหม่
- Vague prompts: คุณไม่ได้บอกสิ่งที่ต้องการ AI จึงต้องเดา คุณต้องเสียเวลาทำถึงสามรอบในสิ่งที่พรอมต์ที่ชัดเจนเพียงอันเดียวก็ทำได้
- Poor tool usage: คุณให้ AI อ่านทั้ง repo ทั้งที่คุณเปลี่ยนแค่ไฟล์เดียว
ต้นทุนที่สูงที่สุดคือการทำงานซ้ำ (rework)
หากคุณไม่เขียน PRD ตัว AI อาจตีความความต้องการของคุณผิด คุณจึงต้องเสียโทเคนมากขึ้นในการเขียนใหม่ รื้อสิ่งที่ทำไปแล้ว และแก้ไขส่วนที่พัง
PRD คือต้นทุนที่จ่ายครั้งเดียว แต่การทำงานซ้ำคือหนี้สินที่พอกพูน
ใช้เทคนิคเหล่านี้เพื่อประหยัดโทเคน แทนที่จะตัดการทำเอกสาร:
- Trim context: ล้างประวัติการแชทบ่อยๆ
- Tier your models: ใช้โมเดลขนาดเล็กราคาถูกสำหรับการค้นหาและอ่านข้อมูล ใช้โมเดลที่ทรงพลังเฉพาะสำหรับการคิดวิเคราะห์ที่ซับซ้อนและการเขียนโค้ดเท่านั้น
- Read files precisely: ป้อนข้อมูลให้ AI เฉพาะสิ่งที่เกี่ยวข้องกับการเปลี่ยนแปลงในปัจจุบันเท่านั้น
- Use prompt caching: วิธีนี้จะช่วยลดต้นทุนของคุณได้อย่างมาก
- Use a token proxy: บีบอัดเอาต์พุตของคำสั่งที่ทำเป็นประจำ
- Parallelize: รันงานที่เป็นอิสระต่อกันพร้อมกันเพื่อลดจำนวนรอบในการโต้ตอบ (round-trips)
เอกสารคือสินทรัพย์ สิ่งเหล่านี้ช่วยให้คุณตรวจสอบการตัดสินใจได้ เมื่อ AI อ่านเอกสารที่ดี มันจะเข้าใจ "เหตุผล" (why) ได้ทันที ซึ่งช่วยประหยัดโทเคน
หากคุณต้องการประหยัด ให้ประหยัดที่วิธีการใช้เครื่องมือของคุณ อย่าประหยัดด้วยการข้ามการทำเอกสาร
ที่มา: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck
ชุมชนการเรียนรู้เพิ่มเติม: https://t.me/GyaanSetuAi