مستندات شما توکن‌هایتان را هدر نمی‌دهند — ابزارهای شما این کار را می‌کنند

مردم از من می‌پرسند که آیا نوشتن مستنداتی مانند PRDها و بازبینی‌های طراحی (design reviews)، توکن‌های زیادی مصرف می‌کند یا خیر.

آن‌ها فکر می‌کنند این فرآیند خیلی سنگین است. فکر می‌کنند اجازه دادن به هوش مصنوعی برای نوشتن مستقیم کد، ارزان‌تر است.

آن‌ها اشتباه می‌کنند.

داشتن مستندات زیاد و مصرف توکن‌های زیاد، دو موضوع کاملاً متفاوت هستند. مستندات در پوشه‌های شما قرار دارند. آن‌ها به خودی خود توکن مصرف نمی‌کنند. این عادت‌های بد شماست که توکن‌ها را هدر می‌دهد.

قاتلان واقعی توکن عبارتند از:

  • تورم بافتار (Context bloat): شما یک گفتگو را در تمام طول روز باز نگه می‌دارید. هر بار که سوال جدیدی می‌پرسید، هزینه هزاران توکن مربوط به تاریخچه قدیمی را پرداخت می‌کنید.
  • پرامپت‌های مبهم: شما دقیقاً نمی‌گویید چه می‌خواهید. هوش مصنوعی حدس می‌زند. شما سه مرحله را صرف کاری می‌کنید که یک پرامپت شفاف می‌توانست انجام دهد.
  • استفاده نادرست از ابزار: شما از هوش مصنوعی می‌خواهید کل مخزن (repo) شما را بخواند، در حالی که فقط یک فایل را تغییر داده‌اید.

بزرگترین هزینه، دوباره‌کاری است.

اگر یک PRD ننویسید، ممکن است هوش مصنوعی الزامات شما را اشتباه متوجه شود. آن وقت توکن‌های بیشتری را صرف بازنویسی، تخریب ساختارها و اصلاح بخش‌های خراب می‌کنید.

نوشتن یک PRD یک هزینه یک‌باره است، اما دوباره‌کاری یک بدهی مرکب است.

به جای کاهش مستندات، از این روش‌ها برای صرفه‌جویی در توکن‌ها استفاده کنید:

  • کاهش بافتار (Trim context): تاریخچه چت خود را مرتباً پاک کنید.
  • لایه‌بندی مدل‌ها (Tier your models): از مدل‌های ارزان و کوچک برای جستجو و خواندن استفاده کنید. مدل‌های قدرتمند را فقط برای تفکر عمیق و کدنویسی به کار ببرید.
  • خواندن دقیق فایل‌ها: فقط اطلاعاتی را به هوش مصنوعی بدهید که با تغییر فعلی مرتبط است.
  • استفاده از حافظه پنهان پرامپت (Prompt caching): این کار هزینه‌های شما را به میزان قابل توجهی کاهش می‌دهد.
  • استفاده از پروکسی توکن (Token proxy): خروجی دستورات روتین را فشرده کنید.
  • موازی‌سازی (Parallelize): وظایف مستقل را به طور همزمان اجرا کنید تا تعداد رفت و برگشت‌ها (round-trips) کاهش یابد.

مستندات دارایی هستند. آن‌ها به شما در بازبینی تصمیمات کمک می‌کنند. وقتی هوش مصنوعی یک مستند خوب را می‌خواند، بلافاصله «چرایی» کار را درک می‌کند. این کار باعث صرفه‌جویی در توکن‌ها می‌شود.

اگر می‌خواهید صرفه‌جویی کنید، در نحوه استفاده از ابزارهایتان صرفه‌جویی کنید، نه با حذف مستندات.

Source: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck

Optional learning community: https://t.me/GyaanSetuAi