સોફ્ટવેર એન્જિનિયરિંગ હંમેશા ખોટા ઉત્પાદકતા માપદંડો (productivity metrics) પાછળ દોડતું આવ્યું છે. મેનેજરો કોડની લાઈનો ગણતા હતા. Agile ટીમો સ્ટોરી પોઈન્ટ્સ ટ્રેક કરતી હતી. આમાંથી એક પણ એ વાતનું વિશ્વસનીય રીતે માપન કરી શકતું નહોતું કે ડેવલપર સ્પષ્ટ રીતે વિચારી રહ્યો છે કે માત્ર વધુ પડતું ટાઈપિંગ કરી રહ્યો છે. Nvidia ના CEO Jensen Huang માને છે કે તેમની પાસે વધુ સારો માપદંડ છે, અને તેનો કીબોર્ડ સાથે કોઈ સંબંધ નથી. GTC 2026 પછી All-In Podcast પર તાજેતરના દેખાવ દરમિયાન, Huang એ દલીલ કરી હતી કે આધુનિક એન્જિનિયરના મૂલ્યનું સાચું માપ એ છે કે તેઓ તેમના પગારના પ્રમાણમાં કેટલા AI tokens વાપરે છે. સંદેશ સીધો હતો: જો તમે વર્ષે પાંચ લાખ ડોલર કમાતા હોવ પરંતુ LLM સેવાઓ પર તેનાથી અડધાથી પણ ઓછા ખર્ચ કરો છો, તો તમે કદાચ એવા સાધનોનો ઉપયોગ કરવામાં નિષ્ફળ જઈ રહ્યા છો જે તમારા પગારને યોગ્ય ઠેરવે છે.

એક કડક ગુણોત્તર

Huang દ્વારા વર્ણવવામાં આવેલ માપદંડ આશ્ચર્યજનક રીતે સરળ છે. એન્જિનિયરના વાર્ષિક વળતર (compensation) ને લો. તેની સરખામણી LLM API કોલ્સ, fine-tuning રન અને agentic inference માટેના તેમના વાર્ષિક ખર્ચ સાથે કરો. જો વર્ષે $500,000 કમાવતો ઉચ્ચ કુશળ એન્જિનિયર AI token ખર્ચમાં $250,000 થી ઓછો ખર્ચ કરે છે, તો Huang તેમાં સમસ્યા જુએ છે. તે સૂચવે છે કે ડેવલપર કાં તો આધુનિક સહાયથી અલગ રહીને કામ કરી રહ્યો છે અથવા AI ને સાચા સહયોગીને બદલે માત્ર એક એડવાન્સ્ડ સર્ચ એન્જિન તરીકે ગણી રહ્યો છે.

આ બેદરકાર ખર્ચ કરવાની પરવાનગી નથી. તે માનસિક ક્ષમતા (load-bearing cognition) ની કસોટી છે. Huang નો પાયો એ છે કે શ્રેષ્ઠ એન્જિનિયરોએ શક્ય તેટલું માનસિક કામ ઉપલબ્ધ સૌથી સક્ષમ મોડલ્સ પર સોંપી દેવું જોઈએ. જે ડિબગિંગ સેશન્સ એક સમયે ત્રણ દિવસ સુધી ચાલતા હતા, તે મોડલ આખા કોડબેઝને context માં રાખી શકે ત્યારે કલાકોમાં પૂરા થઈ શકે છે. સિસ્ટમ ડિઝાઇન ચર્ચાઓ જેમાં પહેલા લાંબી મીટિંગોની જરૂર પડતી હતી, તે reasoning model સાથે ઝડપી પ્રોટોટાઇપિંગ દ્વારા ઉકેલી શકાય છે. Huang માટે, $250,000 ની મર્યાદા બજેટની છત કરતાં વધુ એક ફ્લોર (floor) છે. તે લઘુત્તમ બુદ્ધિ સબસિડી (intelligence subsidy) દર્શાવે છે જે એક ટોપ-ટિયર એન્જિનિયરે સંપૂર્ણ ક્ષમતા સાથે કામ કરવા માટે જરૂરી હોવી જોઈએ.

જે ડેવલપર્સ આ મર્યાદાથી નીચે જાય છે તેઓ પોતે ઘણું બધું કામ કરી રહ્યા છે. તેઓ મેન્યુઅલી બગ્સ ટ્રેસ કરે છે, હાથેથી boilerplate લખે છે, અને એવા ડોક્યુમેન્ટેશનને ફરીથી વાંચે છે જેને એક યોગ્ય રીતે પ્રોમ્પ્ટ કરેલું મોડલ સેકન્ડોમાં સંશ્લેષિત (synthesize) કરી શકે છે. એ યુગમાં જ્યાં inference costs ઘટી રહ્યા છે અને context windows વધી રહ્યા છે, ત્યાં ટોકન્સમાં કરકસર એ શિસ્ત નહીં પણ ઓછી ક્ષમતાનો ઉપયોગ (underutilization) સૂચવે છે. જે એન્જિનિયર તેમના આઉટપુટને વધારવા માટે AI નો આક્રમક રીતે ઉપયોગ કરવામાં નિષ્ફળ જાય છે, તે આ તર્ક મુજબ, ઓછી કામગીરી (underperforming) કરી રહ્યો છે.

લીવરેજ માટે પ્રોક્સી તરીકે ટોકન્સ

પરંપરાગત એન્જિનિયરિંગ મેનેજમેન્ટને સ્પષ્ટ આઉટપુટ ગમે છે. બંધ થયેલા Jira tickets. પુશ કરેલા Commits. શિપ કરેલા Features. આ આંકડા સુરક્ષિત લાગે છે કારણ કે તેઓ ગણી શકાય તેવા છે. Huang નું માળખું મોટાભાગે તેમને નકારી કાઢે છે. તેમના તર્ક મુજબ, એક સિનિયર સ્ટાફ એન્જિનિયર મિડ-લેવલ કર્મચારી કરતા ઓછા raw commits કરી શકે છે પરંતુ વધુ મૂલ્ય પેદા કરી શકે છે, કારણ કે તેમનું સાચું ઉત્પાદન 'નિર્ણયો' છે. ટોકન્સ તે નિર્ણયો માટેનું લેજર (ledger) બની જાય છે.

જ્યારે એન્જિનિયર LLM inference પર વધુ ખર્ચ કરે છે, ત્યારે તેઓ માત્ર ટેક્સ્ટ જનરેશન નથી ખરીદી રહ્યા. તેઓ સમાંતર વિચારસરણી (parallelized thought) ખરીદી રહ્યા છે. $500,000 કમાવતો એન્જિનિયર જ્યારે refactoring સમસ્યા માટે વિશાળ context windows નો ઉપયોગ કરે છે, ત્યારે તે અનિવાર્યપણે એકસાથે ડઝનબંધ જ્ઞાનાત્મક પ્રક્રિયાઓ (cognitive threads) ચલાવી રહ્યો છે, microservices માં edge cases તપાસી રહ્યો છે, અને પ્રોડક્શન કોડની એક પણ લાઇન લખ્યા વગર આર્કિટેક્ચરલ ધારણાઓનું સ્ટ્રેસ-ટેસ્ટિંગ કરી રહ્યો છે. ટોકન્સ પગારના કલાકોને સંક્ષિપ્ત પરિણામોમાં રૂપાંતરિત કરે છે. તેઓ ઝડપ, આર્કિટેક્ચરલ દૂરંદેશી અને ડિબગિંગ ક્ષમતાઓ ખરીદે છે જે અન્યથા સેંકડો મેન્યુઅલ કલાકો ખાઈ જાય.

આ જૂની પ્રોત્સાહન પદ્ધતિને ઉલટાવી દે છે. એન્જિનિયરિંગ લીડર્સ ઐતિહાસિક રીતે ક્લાઉડ કમ્પ્યુટ ડિસ્કાઉન્ટ માટે સખત વાટાઘાટો કરે છે અને SaaS પ્રોક્યોરમેન્ટને ઘટાડવા માટેના ખર્ચ કેન્દ્ર (cost center) તરીકે જુએ છે. Huang સૂચવે છે કે AI માટે આ માનસિકતા ઉલટી છે. ટોકન બજેટ પ્રતિભા (talent) સાથે વધવું જોઈએ. જો તમે મોંઘા મગજને હાયર કરો છો અને પછી તેમને સૌથી મોંઘા મોડલ્સથી વંચિત રાખો છો, તો તમે તેમને મેન્યુઅલ વર્કફ્લોમાં ફસાવી દો છો. તેઓ ઉચ્ચ કિંમતવાળા ટાઈપિસ્ટ બની જાય છે. ધ્યેય એ છે જે Huang સૂચવે છે તે 'ઇન્ટેલિજન્સ ડેન્સિટી' (intelligence density) છે: પ્રતિ માનવ કલાક મહત્તમ લાગુ પડેલી જ્ઞાનાત્મક ક્ષમતા, ભલે ક્લાઉડ બિલ પ્રથમ નજરે આઘાતજનક લાગે. જો કોઈ એન્જિનિયર તેમના ઉચ્ચ વળતરને યોગ્ય ઠેરવવા માટે પૂરતા ટોકન્સનો ઉપયોગ નથી કરી રહ્યો, તો તે કદાચ AI ને જ્ઞાનાત્મક ભારે કામ સોંપવામાં નિષ્ફળ જઈ રહ્યો છે, જેનાથી સંસ્થા પર તેમનો સંભવિત પ્રભાવ મર્યાદિત થાય છે.

ટીમ રાખો, કમ્પ્યુટ વધારો

વધતા જતા ઓપરેશનલ ખર્ચ સામાન્ય રીતે હેડકાઉન્ટ રિવ્યુને ઉત્તેજિત કરે છે. CFOs વધતા જતા API બિલ જુએ છે અને તરત જ પૂછે છે કે કોને કાઢી શકાય છે. Huang તેનાથી વિરુદ્ધ ઉપાય આપે છે. બજેટમાં સમાવવા માટે ટીમને ઘટાડવાને બદલે, કંપનીઓએ ટીમને સશક્ત બનાવવા માટે બજેટને ઓપ્ટિમાઇઝ કરવું જોઈએ.

આ દલીલ રિપ્લેસમેન્ટ કોસ્ટ અને કોઓર્ડિનેશન ઓવરહેડ પર આધારિત છે. એક લેગસી સોફ્ટવેર સંસ્થા મોનોલિથને જાળવવા, એકબીજાના પુલ રિક્વેસ્ટ્સ (pull requests) રિવ્યુ કરવા અને ધીમે ધીમે સેવાઓનું માઈગ્રેશન કરવા માટે ત્રીસ એન્જિનિયરોની નિમણૂક કરી શકે છે. પાંચ એન્જિનિયરોની એક નાની ટીમ, જેઓ ઉચ્ચ સ્તરીય (enterprise-grade) ટોકન ક્વોટાનો ઉપયોગ કરતા હોય, તે તે થ્રુપુટને મેચ કરી શકે છે અથવા તેનાથી વધી શકે છે. બચત માત્ર API ના ખર્ચમાં નથી મળતી. તે કોમ્યુનિકેશન લેટન્સી, હાયરિંગ સાયકલ અને અમલદારશાહીના અવરોધોના અભાવમાં જોવા મળે છે.

આ વ્યૂહરચના ત્યારે જ કામ કરે છે જો તમે એવા એન્જિનિયરોને હાયર કરો જેઓ હેતુપૂર્વક મોટા પ્રમાણમાં ટોકન ફ્લોને નિર્દેશિત કરી શકે. એવા ડેવલપર વચ્ચે મોટો તફાવત છે જે ચેટબોટમાં સ્ટેક ટ્રેસ (stack trace) પેસ્ટ કરે છે અને એવા ડેવલપર વચ્ચે જે મલ્ટી-એજન્ટ પાઇપલાઇન્સનું સંચાલન કરે છે, સમૃદ્ધ કોન્ટેક્સ્ટ લાઇબ્રેરીઓ જાળવે છે અને હેલ્યુસિનેટેડ (hallucinated) આઉટપુટને સખત રીતે ચકાસે છે. બીજો પ્રકારનો પ્રોફાઇલ શોધવો વધુ મુશ્કેલ છે. આ જ કારણ છે કે હુઆંગ આ મેટ્રિકને પગાર સાથે જોડે છે. ઉચ્ચ વળતર એ ઉચ્ચ ઓર્કેસ્ટ્રેશન કૌશલ્ય સાથે જોડાયેલું હોવું જોઈએ. તમે કોઈને અઠવાડિયામાં એકવાર મોડેલને પ્રોમ્પ્ટ કરવા માટે પાંચ લાખ ડોલર નથી ચૂકવતા. તમે તેમને ઓટોમેટેડ રીઝનિંગના એવા ઇકોસિસ્ટમનું સંચાલન કરવા માટે ચૂકવો છો જે અભૂતપૂર્વ ગતિએ જટિલ સિસ્ટમ્સ બનાવે છે.

વ્યવહારમાં આનો અર્થ શું છે

એન્જિનિયરિંગ સંસ્થાઓ માટે, ટોકન-ટુ-સેલેરી રેશિયો એ કોઈ કડક એકાઉન્ટિંગ નિયમ કરતાં વધુ એક સાંસ્કૃતિક ચેકપોઈન્ટ છે. નેતાઓએ પૂછવું જોઈએ કે શું તેમના સૌથી વધુ પગાર મેળવતા ડેવલપર્સ પાસે AI નો આક્રમક રીતે ઉપયોગ કરવા માટે એક્સેસ, તાલીમ અને અધિકાર છે. શું તેઓ લેગસી કોડ પર લોંગ-કોન્ટેક્સ્ટ એનાલિસિસ કરી રહ્યા છે, કે હજુ પણ લાઇન બાય લાઇન લોગ્સ તપાસી રહ્યા છે? શું તેઓ ઇન્ટિગ્રેશન ટેસ્ટિંગ માટે એજન્ટિક કોડિંગ ટૂલ્સનો ઉપયોગ કરી રહ્યા છે, કે હજુ પણ હાથથી મોક્સ (mocks) લખી રહ્યા છે? શું તેમના પ્રોજેક્ટ્સ માનવીય ધ્યાન અથવા API રેટ લિમિટ્સ દ્વારા અવરોધાયેલા છે?

જો જવાબ માનવીય અવરોધો તરફ નિર્દેશ કરતો હોય, તો તેનો ઉકેલ કલાકો વધારવાનો હોતો નથી. તે સામાન્ય રીતે ટોકન સીલિંગ વધારવાનો હોય છે. એન્જિનિયરને વધુ એજન્ટ્સ ચલાવવા દો. તેમને સમગ્ર સર્વિસ મેશ (service mesh) માટે પર્સિસ્ટન્ટ કોન્ટેક્સ્ટ વિન્ડો ખુલ્લી રાખવા દો. તેમને અઠવાડિયામાં બે વારને બદલે એક બપોરે આર્કિટેક્ચર પર પચાસ વાર કામ કરવા દો. જ્યારે ટોકન વપરાશને બિનજરૂરી ખર્ચને બદલે હાઈ-લેવરેજ એન્જિનિયરિંગના સંકેત તરીકે જોવામાં આવે છે, ત્યારે કંપનીઓની પરવાનગી આપવાની પ્રક્રિયાઓ બદલાઈ જાય છે.

અલબત્ત, માત્ર ખર્ચ કરવાથી કંઈ જ ખાતરી મળતી નથી. તુચ્છ પ્રશ્નો અથવા નબળા સ્કોપ ધરાવતા પ્રોમ્પ્ટ્સમાં વપરાતા ટોકન્સ માત્ર બગાડ છે. શિસ્ત એ છે કે હેવી કમ્પ્યુટિંગનો ઉપયોગ ઉચ્ચ-મૂલ્ય ધરાવતી સમસ્યાઓ માટે કરવામાં આવે: ક્રોસ-સર્વિસ ડિઝાઇન, સિક્યુરિટી ઓડિટિંગ, લેગસી માઈગ્રેશન માટે બિહેવિયર-ક્લોનિંગ અને સિન્થેટિક ટ્રેનિંગ ડેટા જનરેટ કરવો. જે એન્જિનિયરો આમાં નિપુણતા મેળવે છે તેઓ મલ્ટિપ્લાયર્સ બને છે. જેઓ નથી બનતા, તેમના વળતર ગમે તે હોય, તેઓ બિલકુલ ખોટી રીતે મોંઘા લાગે છે.

મુખ્ય નિષ્કર્ષ

હુઆંગનો સિદ્ધાંત અંતે AI ખર્ચને ફરીથી વ્યાખ્યાયિત કરવા વિશે છે. LLM ટોકન્સને ઓપરેશનલ ટેક્સ તરીકે જોવાનું બંધ કરો. તેમને કાચા માલ તરીકે ગણો જે એન્જિનિયરિંગ વેલોસિટીમાં રૂપાંતરિત થાય છે. તે ફ્રેમિંગમાં, એ એન્જિનિયર જે