ఓపెన్-వెయిట్ (Open-weight) AI మోడల్స్ ఇప్పుడు OpenRouterలో 63% టోకెన్ ట్రాఫిక్‌ను నిర్వహిస్తున్నాయి, ఇది కేవలం రెండు సంవత్సరాల క్రితం 5% కంటే తక్కువగా ఉండేది. టోకెన్ ధర 50 రెట్లు తగ్గడం మరియు పనితీరులో (performance) వ్యత్యాసం తగ్గుతూ రావడం వల్ల డెవలపర్లు క్లోజ్డ్-సోర్స్ (closed-source) APIలపై తమకున్న ఆధారితాన్ని పునరాలోచించుకోవాల్సిన పరిస్థితి ఏర్పడింది.

ఈ మార్పు వెనుక ఉన్న గణాంకాలు

Mozilla యొక్క ట్రాఫిక్ విశ్లేషణ ప్రకారం, OpenRouter ప్లాట్‌ఫామ్‌లో కంప్యూట్ (compute) కోసం ఓపెన్-వెయిట్ మోడల్స్ ప్రధాన వనరుగా మారాయి. టోకెన్ ట్రాఫిక్ అనేది ఒక మోడల్ ప్రాసెస్ చేసే ప్రతి వచనాన్ని (text) లెక్కిస్తుంది, ఇది వాస్తవ ప్రపంచ వినియోగానికి నమ్మదగిన కొలమానం. ఇంత తక్కువ కాలంలో 5% కంటే తక్కువ నుండి 63%కి పెరగడం అనేది కేవలం తాత్కాలిక ధోరణి మాత్రమే కాదు, ఇది ఒక నిర్మాణాత్మక మార్పును సూచిస్తుంది.

ఆర్థిక అంశాలు ఎందుకు మారాయి

2023లో, ప్రతి మిలియన్ టోకెన్ల ప్రాసెసింగ్‌కు హై-పెర్ఫార్మెన్స్ మోడల్‌ను నడపడానికి సుమారు $20 ఖర్చయ్యేది. నేడు ఆ ధర $0.40 మాత్రమే—గత 36 నెలల్లో ఇది 50 రెట్ల తగ్గింపు.

పనితీరు వ్యత్యాసం తగ్గుతోంది

ప్రామాణిక బెంచ్‌మార్క్‌లలో ఓపెన్ మోడల్స్, ప్రొప్రైటరీ (proprietary) మోడల్స్ కంటే సుమారు 8% వెనుకబడి ఉండేవి. ఇటీవలి కొలతల ప్రకారం ఆ వ్యత్యాసం 3.3%కి తగ్గింది; మెరుగైన డేటా క్యూరేషన్ మరియు ఆర్కిటెక్చరల్ మార్పుల ద్వారా కేవలం కొన్ని నెలల్లోనే ఈ తగ్గుదల సాధ్యమైంది. ఈ వ్యత్యాసం ఇప్పుడు ఎంత తక్కువగా ఉందంటే, ముఖ్యంగా ఖర్చు కీలకంగా ఉన్నప్పుడు, క్లోజ్డ్ మోడల్‌కు బదులుగా ఓపెన్ మోడల్‌ను ఉపయోగించడంలో పెద్ద నష్టం లేదని చాలా మంది డెవలపర్లు భావిస్తున్నారు.

డెవలపర్లు భారీగా మారుతున్నారు

Mozilla డేటా ప్రకారం, AI ఫీచర్లను జోడిస్తున్న డెవలపర్లలో 79% మంది ఇప్పుడు ఓపెన్-వెయిట్ మోడల్‌తోనే ప్రారంభిస్తున్నారు. ఈ ఎంపిక కేవలం ధర గురించి మాత్రమే కాదు; ఓపెన్ మోడల్స్ వెయిట్స్ (weights), లైసెన్సింగ్ మరియు డిప్లాయ్‌మెంట్ ఆప్షన్లపై టీమ్‌లకు పూర్తి స్పష్టతను ఇస్తాయి, దీనివల్ల పని వేగంగా (faster iteration cycles) పూర్తవుతుంది.

సార్వభౌమాధికారం అత్యవసరతను పెంచుతోంది

ఇటీవల 47 దేశాలు విదేశీ AI సేవలతో కీలకమైన వర్క్‌లోడ్‌లను (workloads) ప్రాసెస్ చేయడాన్ని పరిమితం చేశాయి. ఓపెన్ మోడల్స్‌ను స్వదేశీ మౌలిక సదుపాయాలపై (domestic infrastructure) హోస్ట్ చేయవచ్చు, దీనివల్ల ఆ దేశాలు డేటా నియంత్రణను కలిగి ఉండటమే కాకుండా, కొత్త నిబంధనలకు అనుగుణంగా పనిచేయవచ్చు. ఫైనాన్స్, హెల్త్‌కేర్ మరియు పబ్లిక్ అడ్మినిస్ట్రేషన్ రంగాలలో ఈ విధానపరమైన ఒత్తిడి వల్ల ఓపెన్ మోడల్స్ వినియోగం వేగవంతమవుతోంది.

అసలైన బలం "హార్నెస్" (harness)

మోడల్‌ను స్వల్పంగా మెరుగైన దానితో మార్చడం కంటే, దాని చుట్టూ ఉండే టూలింగ్—అంటే ప్రాంప్ట్-ఇంజనీరింగ్ ఫ్రేమ్‌వర్క్‌లు, సేఫ్టీ ఫిల్టర్లు, ఆర్కెస్ట్రేషన్ పైప్‌లైన్‌లు—మరింత మెరుగైన పనితీరును అందిస్తాయని Mozilla విశ్లేషణ కూడా నొక్కి చెబుతోంది.

క్లోజ్డ్ APIలపైనే ఆధారపడటం వల్ల కలిగే ప్రమాదాలు

  • వెండర్ రిస్క్ (Vendor risk) – పాలసీ మార్పులు, ధరల సవరణలు లేదా ప్రభుత్వ ఆదేశాల వల్ల యాక్సెస్ వెంటనే నిలిచిపోవచ్చు, దీనివల్ల కొత్త ఒప్పందం కుదుర్చుకునే వరకు సేవలు ఆగిపోయే అవకాశం ఉంది.

నేటి డెవలపర్ల కోసం ఒక ఆచరణాత్మక స్టాక్ (pragmatic stack)

  • మెజారిటీ ప్రొడక్షన్ వర్క్‌లోడ్‌ల కోసం ఓపెన్-వెయిట్ మోడల్స్‌ను ప్రాధాన్యతగా (Default) ఎంచుకోండి.
  • హార్నెస్ (harness) పై పెట్టుబడి పెట్టండి: ఎవాల్యుయేషన్ సూట్‌లను నిర్మించండి, తిరిగి ఉపయోగించదగిన ప్రాంప్ట్ లైబ్రరీలను అభివృద్ధి చేయండి మరియు సేఫ్టీ లేయర్లను అనుసంధానించండి.
  • పోర్టబిలిటీ కోసం డిజైన్ చేయండి: కోడ్ మార్పులు లేకుండానే బహుళ ప్రొవైడర్లకు రూట్ చేయగల ఇంటర్‌ఫేస్ వెనుక మోడల్ కాల్స్‌ను అబ్‌స్ట్రాక్ట్ (abstract) చేయండి.
  • అత్యాధునిక రీజనింగ్ (reasoning) లేదా ఓపెన్ మోడల్స్ ఇంకా అందుకోలేని ప్రొప్రైటరీ డేటా అవసరమయ్యే సుమారు 10% పనుల కోసం మాత్రమే క్లోజ్డ్ మోడల్స్‌ను కేటాయించండి.

తదుపరి ఏం గమనించాలి

ఓపెన్-వెయిట్ మోడల్స్ ఇప్పుడు AI టోకెన్ మార్కెట్‌లో ఆధిపత్యం చెలాయిస్తున్నాయి, ఎందుకంటే అవి చాలా తక్కువ ధరలో లభిస్తాయి మరియు క్లోజ్డ్ ప్రత్యామ్నాయాల అంతటి సామర్థ్యాన్ని కలిగి ఉంటాయి. బలమైన హార్నెస్ (harness)ను నిర్మించి, తమ స్టాక్‌లను పోర్టబుల్‌గా ఉంచుకునే టీమ్‌లు ఖర్చులను తగ్గించుకోవడమే కాకుండా, వెండర్ మరియు పాలసీ మార్పుల నుండి తమను తాము రక్షించుకోగలవు. క్లోజ్డ్ మోడల్స్ ప్రత్యేక అవసరాల కోసం (specialty tools) మాత్రమే మిగిలిపోతాయి, కానీ AI పనులలో ఎక్కువ భాగం ఇప్పటికే ఓపెన్ మోడల్స్ వైపు మళ్లుతోంది.