మీరా మురాటి యొక్క Thinking Machines Lab, Inklingతో అధికారికంగా రంగంలోకి దిగింది. ఇది కేంద్రీకృత, “one-size-fits-all” AI దిగ్గజాల ఆధిపత్యాన్ని సవాలు చేయడానికి రూపొందించబడిన ఒక open-weight మోడల్. కేవలం సాధారణ సామర్థ్యం కంటే అనుకూలీకరణ (customizability) పై పందెం వేయడం ద్వారా, ఎంటర్‌ప్రైజ్ AI భవిష్యత్తు ప్రత్యేకమైన, స్థానికంగా ఆప్టిమైజ్ చేయబడిన మేధస్సులో ఉందని ఈ స్టార్టప్ చెబుతోంది.

Inkling యొక్క ఆర్కిటెక్చర్: MoE ద్వారా సామర్థ్యం

Inkling అనేది 975 బిలియన్ల మొత్తం పారామితులను కలిగి ఉన్న Mixture-of-Experts సిస్టమ్. అయినప్పటికీ, ఇది ఏదైనా ఒక పని కోసం కేవలం 41 బిలియన్ల పారామితులను మాత్రమే యాక్టివేట్ చేస్తుంది, తద్వారా హై-లెవల్ రీజనింగ్‌ను కాపాడుతూనే లేటెన్సీ (latency) మరియు ఖర్చును తగ్గిస్తుంది. ఈ మోడల్ 45 ట్రిలియన్ల టెక్స్ట్, ఇమేజ్, ఆడియో మరియు వీడియో టోకెన్ల నుండి నేర్చుకుంది, ఇది దీనికి నేటివ్ మల్టీమోడల్ సామర్థ్యాలను అందిస్తుంది. కేవలం మూడింట ఒక వంతు టోకెన్లను ఉపయోగిస్తూనే, కోడింగ్ బెంచ్‌మార్క్‌లలో Nvidia యొక్క Nemotron 3 Ultraకి సమానంగా Inkling పనిచేస్తుందని కంపెనీ పేర్కొంది, ఇది శిక్షణ సామర్థ్యానికి (training efficiency) స్పష్టమైన నిదర్శనం.

ఎంటర్‌ప్రైజ్ అనుకూలీకరణ వైపు ఒక వ్యూహాత్మక మలుపు

ప్రధానంగా జనరల్-పర్పస్ చాట్‌బాట్‌లుగా పనిచేసే OpenAI, Anthropic లేదా Google యొక్క ఫ్లాగ్‌షిప్ ఉత్పత్తుల వలె కాకుండా, Inklingని సంస్థల కోసం ఒక ఫౌండేషన్‌గా మార్కెట్ చేస్తున్నారు. Thinking Machines ఈ మోడల్‌ను ఒక ప్రారంభ బిందువుగా చూపుతూ, సంస్థలు తమ సొంత డేటాతో (proprietary data) దీనిని తమ “Tinker” ప్లాట్‌ఫారమ్ ద్వారా ఫైన్-ట్యూన్ చేసుకోవాలని కోరుతోంది.

ఈ చర్య పరిశ్రమలోని “double payment” ఉచ్చును ఎదుర్కొంటుంది. కంపెనీలు రెండుసార్లు చెల్లిస్తారని మైక్రోసాఫ్ట్ CEO సత్య నాదెళ్ల హెచ్చరించారు—ఒకసారి సబ్‌స్క్రిప్షన్ కోసం, మరియు మరొకసారి తమ ప్రత్యేకమైన బిజినెస్ లాజిక్‌ను ఒక మోడల్‌కు అందించడం ద్వారా, ఇది చివరికి సదరు ప్రొవైడర్ యొక్క ట్రైనింగ్ సెట్‌ను మరింత మెరుగుపరుస్తుంది. ఒక open-weight మోడల్‌ను అందించడం ద్వారా, Thinking Machines సంస్థలు ఆ మేధస్సును తమ వద్దే (in-house) ఉంచుకోవడానికి వీలు కల్పిస్తుంది.

హై-స్టేక్స్ ఇన్‌ఫ్రాస్ట్రక్చర్ మరియు వేగవంతమైన అభివృద్ధి

Thinking Machines మార్కెట్లోకి చాలా వేగంగా వచ్చింది. OpenAI సుమారు ఐదు సంవత్సరాలు మరియు Anthropic సుమారు మూడు సంవత్సరాలు తీసుకుంటే; Thinking Machines కేవలం తొమ్మిది నెలల్లోనే అదే స్థాయి మైలురాయిని చేరుకున్నామని చెబుతోంది.

ఆ వేగాన్ని సాధించడానికి, సంస్థ హార్డ్‌వేర్‌పై ఆధారపడింది. మార్చిలో Nvidiaతో భాగస్వామ్యం తర్వాత, Inkling పూర్తిగా Nvidia యొక్క GB300 NVL72 సిస్టమ్స్‌పై శిక్షణ పొందింది. కంపెనీ డిస్టిలేషన్ ట్రిక్స్‌ను (distillation tricks) ఉపయోగించింది—ప్రారంభ పోస్ట్-ట్రైనింగ్ కోసం Moonshot AI యొక్క Kimi K2.5 వంటి open-weight మోడళ్లను ఉపయోగించింది—కానీ భవిష్యత్తులో పోస్ట్-ట్రైనింగ్‌ను పూర్తిగా తమ వద్దే నిర్వహిస్తామని ప్రతిజ్ఞ చేసింది.

ముఖ్య అంశాలు

  • Open-Weight ప్రయోజనం: డెవలపర్లు 975 బిలియన్ పారామితుల MoE మోడల్‌ను డౌన్‌లోడ్ చేసి మార్చుకోవచ్చు, తద్వారా నియంత్రణ క్లోజ్డ్ ఎకోసిస్టమ్స్ (closed ecosystems) చేతుల్లో ఉండకుండా చూసుకోవచ్చు.
  • ఎఫిషియన్సీ-ఫస్ట్ డిజైన్: ప్రతి పనికి కేవలం 41 బిలియన్ పారామితులను మాత్రమే యాక్టివేట్ చేయడం మరియు టోకెన్ వినియోగాన్ని తగ్గించడం వల్ల, మోడల్ తక్కువ నిర్వహణ ఖర్చుతో అత్యుత్తమ రీజనింగ్‌ను అందించగలదు.
  • అనుకూలీకరణ పందెం: Thinking Machines సాధారణ చాట్‌బాట్‌ల నుండి “Tinker” వైపు మారుతోంది, ఇది ఫౌండేషన్ మోడళ్లను ప్రతి సంస్థకు ప్రత్యేకమైన ఆస్తులుగా (specialized assets) మారుస్తుంది.