તમારા ડોક્યુમેન્ટ્સ તમારા ટોકન્સ ખર્ચતા નથી — તમારું ટૂલિંગ ખર્ચતું છે

લોકો મને પૂછે છે કે PRD અને ડિઝાઇન રિવ્યુ જેવા ડોક્યુમેન્ટ્સ લખવાથી ઘણા બધા ટોકન્સ ખર્ચાય છે?

તેઓ વિચારે છે કે આ પ્રક્રિયા ખૂબ જ ભારે છે. તેઓ વિચારે છે કે AI ને સીધો કોડ લખવા દેવો સસ્તો પડે છે.

તેઓ ખોટા છે.

ઘણા બધા ડોક્યુમેન્ટ્સ હોવા અને ઘણા બધા ટોકન્સ ખર્ચવા એ બે અલગ બાબતો છે. ડોક્યુમેન્ટ્સ તમારા ફોલ્ડરમાં રહે છે. તે પોતાની મેળે ટોકન્સ ખર્ચતા નથી. તમારી ખરાબ આદતો ટોકન્સ ખર્ચાવે છે.

અસલી ટોકન ખર્ચાવનારા પરિબળો આ છે:

  • Context bloat: તમે આખો દિવસ એક જ વાતચીત ચાલુ રાખો છો. જ્યારે પણ તમે નવો પ્રશ્ન પૂછો છો, ત્યારે તમારે જૂના ઇતિહાસના હજારો ટોકન્સ માટે ચૂકવણી કરવી પડે છે.
  • Vague prompts: તમે શું ઈચ્છો છો તે તમે સ્પષ્ટ રીતે કહેતા નથી. AI અંદાજ લગાવે છે. જે કામ એક સ્પષ્ટ પ્રોમ્પ્ટ કરી શકતો હતો, તેના માટે તમારે ત્રણ રાઉન્ડ ખર્ચવા પડે છે.
  • Poor tool usage: જ્યારે તમે માત્ર એક જ ફાઇલ બદલી રહ્યા હોવ, ત્યારે તમે AI ને આખું રિપોઝિટરી (repo) વાંચવા માટે મજબૂર કરો છો.

સૌથી મોટો ખર્ચ 'રીવર્ક' (ફરીથી કામ કરવું) છે.

જો તમે PRD લખતા નથી, તો AI તમારી જરૂરિયાતોને ખોટી રીતે સમજી શકે છે. ત્યારબાદ તમારે ફરીથી લખવા, વસ્તુઓને તોડી પાડવા અને બગડેલા ભાગોને સુધારવા માટે વધુ ટોકન્સ ખર્ચવા પડે છે.

PRD એ એક વખતનો ખર્ચ છે. રીવર્ક એ ચક્રવૃદ્ધિ દેવું (compounding debt) છે.

ડોક્યુમેન્ટ્સ ઘટાડવાને બદલે ટોકન્સ બચાવવા માટે આ પદ્ધતિઓનો ઉપયોગ કરો:

  • Trim context: તમારી ચેટ હિસ્ટ્રી વારંવાર ક્લિયર કરો.
  • Tier your models: સર્ચિંગ અને વાંચવા માટે સસ્તા, નાના મોડલ્સનો ઉપયોગ કરો. માત્ર અઘત વિચાર પ્રક્રિયા અને કોડિંગ માટે જ શક્તિશાળી મોડલ્સનો ઉપયોગ કરો.
  • Read files precisely: AI ને માત્ર એટલી જ માહિતી આપો જે વર્તમાન ફેરફાર માટે સુસંગત હોય.
  • Use prompt caching: આ તમારા ખર્ચમાં નોંધપાત્ર ઘટાડો કરે છે.
  • Use a token proxy: રૂટિન કમાન્ડ્સના આઉટપુટને ટૂંકાવો.
  • Parallelize: રાઉન્ડ-ટ્રિપ્સ ઘટાડવા માટે સ્વતંત્ર કાર્યો એકસાથે ચલાવો.

ડોક્યુમેન્ટ્સ એ સંપત્તિ (assets) છે. તેઓ તમને નિર્ણયોનું ઓડિટ કરવામાં મદદ કરે છે. જ્યારે AI સારું ડોક્યુમેન્ટ વાંચે છે, ત્યારે તે તરત જ "કેમ" (why) સમજી જાય છે. આનાથી ટોકન્સ બચે છે.

જો તમે બચત કરવા માંગતા હોવ, તો તમારા ટૂલ્સનો ઉપયોગ કેવી રીતે કરવો તેના પર બચત કરો. ડોક્યુમેન્ટેશન છોડીને બચત કરવાનો પ્રયાસ ન કરો.

Source: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck

Optional learning community: https://t.me/GyaanSetuAi