కొన్ని కంపెనీలలో AI టోకెన్ల వార్షిక బిల్లు ఇంజనీరింగ్ జీతాల ఖర్చుతో పోటీ పడుతోంది, దీనిపై నాయకత్వానికి సంతోషం కలగాలా లేక ఆందోళన చెందాలా అన్నది అర్థం కావడం లేదు. తక్కువ ఖర్చుతో కూడిన ఇన్ఫరెన్స్ (inference) వల్ల ఆటోమేటిక్గా సిబ్బంది సంఖ్య తగ్గると మరియు డెలివరీ సైకిల్స్ వేగవంతమవుతాయని ఆశించి, గత కొన్ని సంవత్సరాలుగా సంస్థలు లార్జ్ లాంగ్వేజ్ మోడల్స్లో భారీగా పెట్టుబడులు పెట్టాయి. కానీ, దానికి విరుద్ధంగా, చాలా ఇంజనీరింగ్ సంస్థలు రెండుసార్లు ఖర్చు చేస్తున్నట్లు గుర్తించాయి: ఒకటి వారు పెంచాలనుకున్న ప్రతిభ కోసం, మరియు మరొకటి వారి స్థానాన్ని భర్తీ చేయాల్సిన కంప్యూట్ (compute) కోసం. AI కోడ్ రాయగలదా లేదా అన్నది ఇప్పుడు ప్రశ్న కాదు. అది రాసే కోడ్, దాని ఉత్పత్తి కోసం ఖర్చు చేస్తున్న భారీ మొత్తాన్ని సమర్థించుతుందా అన్నదే అసలు ప్రశ్న.
సగం జీతం బెంచ్మార్క్
GTC 2026 ముగింపులో, All-In Podcast లో మాట్లాడుతూ జెన్సన్ హువాంగ్ ఈ గణాంకాలను స్పష్టంగా వివరించారు. ఒక ఇంజనీర్ యొక్క సామర్థ్యాన్ని వారి జీతంతో నేరుగా వారి AI టోకెన్ వినియోగాన్ని పోల్చి చూడాలని Nvidia CEO ప్రతిపాదించారు. ఆయన చెప్పిన పరిమితి చాలా కఠినంగా ఉంది. ఏడాదికి $500,000 సంపాదిస్తున్న ఒక సాఫ్ట్వేర్ ఇంజనీర్ను తీసుకోండి. ఆ ఇంజనీర్ ఏటా వారి జీతంలో దాదాపు సగం అంటే $250,000 కంటే తక్కువ విలువైన టోకెన్లను ఉపయోగిస్తే, అది ఒక హెచ్చరిక సంకేతంగా హువాంగ్ భావిస్తారు. కంపెనీ మనుషుల కోసం ఎక్కువ ఖర్చు చేస్తోందని కాదు, బహుశా వారిని తక్కువగా వాడుకుంటుందని (underutilizing) నాయకత్వం "తీవ్రంగా ఆందోళన చెందాలి" అని ఆయన అన్నారు.
ఈ తర్కం సాంప్రదాయ ఖర్చు-నియంత్రణ ఆలోచనా విధానానికి భిన్నంగా ఉంటుంది. సంవత్సరాలుగా, ఫైనాన్స్ బృందాలు కంప్యూట్ను తగ్గించాల్సిన ఒక వేరియబుల్ ఖర్చుగా పరిగణించాయి. కానీ హువాంగ్ దీనికి విరుద్ధంగా వాదిస్తున్నారు. మోడల్ను తక్కువగా ఉపయోగించే ఖరీదైన ఇంజనీర్, ఒక ఫోర్స్ మల్టిప్లైయర్ (force multiplier) లేకుండా పనిచేస్తున్న ఖరీదైన ఇంజనీర్ మాత్రమే. అధిక ఖరీదైన ప్రతిభావంతులు ఒక ఫన్నెల్లా పనిచేయాలని, అంటే AI వ్యవస్థల ద్వారా భారీ మొత్తంలో పనిని పంపిస్తూ, అవుట్పుట్ను సమీక్షించి, ఫలితాలను సమన్వయం చేయాలని ఆశించబడుతోంది. తక్కువ టోకెన్ వినియోగం అనేది పొదుపును సూచించదు. అది మనిషి ఇంకా మోడల్ చేయగలిగే యాంత్రిక పనులనే చేస్తున్నాడని సూచిస్తుంది.
ఆ ఖర్చు ఆచరణలో ఎలా ఉంటుంది
ఈ బెంచ్మార్క్ ఎందుకు ముఖ్యమో అర్థం చేసుకోవడానికి, $250,000 టోకెన్ల విలువ నిజంగా ఎంత ఉంటుందో చూడండి. ప్రస్తుతం ఉన్న ఫ్రాంటియర్ మోడల్స్ (frontier models) ధరల ప్రకారం, అది కేవలం కొన్ని ఆటోకంప్లీట్ సూచనలు మాత్రమే కాదు. అది ప్రతి పని దినం వివిధ రకాల పనుల కోసం ప్రాసెస్ చేయబడే లక్షలాది టోకెన్లు. ఒక ఇంజనీర్ కేవలం ఎడిటర్ సలహాలను మాత్రమే స్వీకరించడం కాకుండా, విస్తృతమైన ఆర్కిటెక్చరల్ రీజనింగ్ (architectural reasoning), ఇంటెలిజెంట్ ఏజెంట్ల ద్వారా బల్క్ రీఫ్యాక్టరింగ్ (bulk refactoring), ఆటోమేటెడ్ టెస్టింగ్ పైప్లైన్లు, సింథటిక్ డేటా జనరేషన్ మరియు ఇటరేటివ్ డిజైన్ ఎక్స్ప్లోరేషన్ వంటి పనులను నిర్వహిస్తున్నారని ఇది సూచిస్తుంది.
ఈ విధంగా పనిచేసే ఒక సీనియర్ ఇంజనీర్ ఒకే ఫీచర్ కోసం బహుళ మోడల్ కాల్స్ను అనుసంధానించవచ్చు: స్కఫోల్డింగ్ (scaffolding) రూపొందించడం, బ్రేకింగ్ చేంజ్ల కోసం డిపెండెన్సీలను విశ్లేషించడం, ఎడ్జ్-కేస్ ప్రవర్తనను అనుకరించడం మరియు సమాంతరంగా డాక్యుమెంటేషన్ను రూపొందించడం వంటివి. ఇక్కడ అవుట్పుట్ చాలా ఎక్కువగా ఉంటుంది ఎందుకంటే మనిషి ప్రతి లైన్ను టైప్ చేయడం లేదు. వారు కేవలం నడిపిస్తున్నారు (steering). హువాంగ్ దృష్టిలో, మనిషి నిరంతర మోడల్ ఇంటరాక్షన్ ద్వారా తమ అవుట్పుట్ను పెంచుకున్నప్పుడు మాత్రమే ఆ జీతం సమర్థించబడుతుంది.
రాబడి ఎక్కడ మరుగున పడుతోంది
ఈ విజన్ ఉన్నప్పటికీ, ఇండస్ట్రీ మౌలిక సదుపాయాల ఖర్చుకు మరియు లభించే ఫలితాలకు మధ్య పెరుగుతున్న వ్యత్యాసాన్ని చూస్తోంది. కంపెనీలు టోకెన్-భారీ వ్యూహాల వైపు వేగంగా దూసుకువెళ్లాయి, AI వెండర్లతో ఎంటర్ప్రైజ్ కాంట్రాక్టులను కుదుర్చుకున్నాయి మరియు తమ డెవలప్మెంట్ పైప్లైన్లను జనరేటివ్ టూల్స్ చుట్టూ మలచుకున్నాయి. మూలధన వ్యయం (capital expenditure) అసాధారణంగా ఉంది. కానీ చాలా మందికి ఉత్పాదకత రాబడి (productivity returns) ఆశించిన స్థాయిలో లేదు.
డెవలపర్లు నిజంగానే బోరింగ్ పనులను వేగంగా చేస్తున్నారు. మోడల్ మొదటి డ్రాఫ్ట్ను రూపొందించినప్పుడు బాయిలర్ప్లేట్ కోడ్, యూనిట్ టెస్ట్ స్కెలెటన్లు మరియు పునరావృత CRUD ఆపరేషన్లు చాలా వేగంగా పూర్తవుతాయి. కానీ సాఫ్ట్వేర్ ఇంజనీరింగ్ అనేది ఎప్పుడూ టైపింగ్ వేగం గురించి మాత్రమే కాదు. విస్తృతమైన వ్యవస్థలను నిర్వహించడం, డిస్ట్రిబ్యూటెడ్ ఫెయిల్యూర్ మోడ్స్ ద్వారా రీజనింగ్ చేయడం, లేయర్డ్ డిపెండెన్సీల ద్వారా భద్రతను నిర్ధారించడం మరియు ప్రతి షార్ట్కట్ వల్ల ఏర్పడే టెక్నికల్ డెట్ (technical debt) ను నిర్వహించడం వంటివి కష్టమైన మరియు ఖరీదైన పనులు.