OpenAI మరియు Broadcom Jalapeñoను ఆవిష్కరించాయి: LLM ఇన్ఫరెన్స్ కోసం ఒక కస్టమ్ చిప్

"Jalapeño" అనే ప్రత్యేకమైన ఇంటెలిజెన్స్ ప్రాసెసర్‌ను ప్రకటించడం ద్వారా, OpenAI అధికారికంగా సాఫ్ట్‌వేర్ పరిధిని దాటి కస్టమ్ సిలికాన్ రంగంలోకి అడుగుపెడుతోంది. Broadcom భాగస్వామ్యంతో అభివృద్ధి చేయబడిన ఈ కస్టమ్ యాక్సిలరేటర్, భారీ స్థాయిలో లార్జ్ లాంగ్వేజ్ మోడల్ (LLM) ఇన్ఫరెన్స్‌ను ఆప్టిమైజ్ చేయడానికి రూపొందించబడింది.

ఆధునిక LLMల కోసం ప్రత్యేకంగా రూపొందించబడిన ఆర్కిటెక్చర్

మార్పులు చేసిన జనరల్-పర్పస్ GPUలపై ఆధారపడే ప్రస్తుత పరిష్కారాల వలె కాకుండా, Jalapeño అనేది LLM ఇన్ఫరెన్స్ యొక్క ప్రత్యేక అవసరాల కోసం మొదటి నుండి ఇంజనీరింగ్ చేయబడిన డిజైన్. ఆధునిక AI ఎదుర్కొంటున్న ప్రధాన అడ్డంకులను పరిష్కరించడమే దీని లక్ష్యం: డేటా మూవ్‌మెంట్ మరియు హార్డ్‌వేర్ అండర్‌యూటిలైజేషన్. ఆర్కిటెక్చర్‌ను ఆప్టిమైజ్ చేయడం ద్వారా హార్డ్‌వేర్ వినియోగాన్ని దాని గరిష్ట స్థాయికి చేరువ చేయడం ద్వారా, ప్రస్తుత అత్యాధునిక హార్డ్‌వేర్‌తో పోలిస్తే వాట్ (watt) కి తగిన పనితీరును గణనీయంగా మెరుగుపరచాలని OpenAI లక్ష్యంగా పెట్టుకుంది.

OpenAI ఇంకా తుది సాంకేతిక నివేదికను లేదా స్వతంత్ర బెంచ్‌మార్క్‌లను విడుదల చేయనప్పటికీ, ప్రారంభ అంతర్గత పరీక్షలు గణనీయమైన సామర్థ్య వృద్ధిని సూచిస్తున్నాయి. GPT-5.3-Codex-Spark మోడల్‌తో సహా సంక్లిష్టమైన మెషిన్ లెర్నింగ్ వర్క్‌లోడ్‌లను నడపడానికి ల్యాబ్ వాతావరణంలో ఇంజనీరింగ్ శాంపిల్స్‌ను ఇప్పటికే ఉపయోగిస్తున్నారు—ప్రస్తుతం ఈ మోడల్ తన ఇన్ఫరెన్స్ అవసరాల కోసం Cerebras హార్డ్‌వేర్‌పై ఆధారపడుతోంది.

బహుళ కంపెనీల శక్తివంతమైన సహకారం

Jalapeño అభివృద్ధి అనేది మొత్తం హార్డ్‌వేర్ స్టాక్‌ను కవర్ చేసే ఒక సంక్లిష్టమైన మల్టీ-పార్ట్‌నర్ ప్రయత్నం. OpenAI చిప్ డిజైన్‌కు నాయకత్వం వహిస్తోంది, అభివృద్ధి ప్రక్రియను వేగవంతం చేయడానికి తన స్వంత AI మోడల్‌లను ఉపయోగిస్తోంది; నివేదికల ప్రకారం, డిజైన్ నుండి టేప్-అవుట్ వరకు దీనికి కేవలం తొమ్మిది నెలలు మాత్రమే పట్టింది. Broadcom కీలకమైన సిలికాన్ తయారీ నైపుణ్యాన్ని మరియు దాని హై-పెర్ఫార్మెన్స్ Tomahawk నెట్‌వర్కింగ్ చిప్‌లతో సహా అధునాతన నెట్‌వర్కింగ్ సాంకేతికతను అందిస్తుంది. ఈ ఎకోసిస్టమ్‌ను పూర్తి చేస్తూ, Celestica బోర్డులు, రాక్‌లు మరియు పూర్తి సిస్టమ్ ఇంటిగ్రేషన్‌కు బాధ్యత వహిస్తుంది.

ఈ సహకారం OpenAIకి ఒక వ్యూహాత్మక మార్పును సూచిస్తుంది; ఇది కేవలం మోడల్స్ మరియు ఉత్పత్తులపై దృష్టి సారించే కంపెనీ నుండి, అంతర్లీన హార్డ్‌వేర్ స్టాక్‌ను నియంత్రించే కంపెనీగా మారుతోంది. సిలికాన్‌పై యాజమాన్యం కలిగి ఉండటం ద్వారా, థర్డ్-పార్టీ ప్రొవైడర్లపై ఆధారపడే పోటీదారుల కంటే OpenAI తన మోడల్‌లను సిద్ధాంతపరంగా వేగంగా, మరింత నమ్మదగినవిగా మరియు చాలా తక్కువ ఖర్చుతో నడపగలదు.

2026 నాటికి గిగావాట్ స్థాయిలకు విస్తరణ

Jalapeño రోడ్‌మ్యాప్ చాలా ప్రతిష్టాత్మకంగా ఉంది. మొదటిసారిగా దీనిని 2026 చివరి నాటికి అమలు చేయాలని, Microsoft మరియు ఇతర వ్యూహాత్మక భాగస్వాములతో కలిసి గిగావాట్ స్థాయిలో నిర్వహించాలని Broadcom CEO Hock Tan సూచించారు. ఈ విస్తరణ యొక్క స్థాయి, తదుపరి తరం AIకి అవసరమైన భారీ మౌలిక సదుపాయాల అవసరాలను నొక్కి చెబుతుంది.

ఈ భాగస్వామ్యంలో గణనీయమైన వాణిజ్య ఒప్పందాలు ఉన్నాయని నివేదికలు సూచిస్తున్నాయి; మొదటి దశను సురక్షితం చేయడానికి Microsoft ప్రారంభ చిప్ ఉత్పత్తిలో 40 శాతం కొనుగోలును హామీ ఇస్తుందని సమాచారం. ఈ స్థాయి వర్టికల్ ఇంటిగ్రేషన్ మరియు గ్యారెంటీ డిమాండ్, AI విప్లవాన్ని కొనసాగించడానికి అవసరమైన అధిక ఖర్చు మరియు అధిక శక్తి వినియోగం కలిగిన సప్లై చైన్‌ను స్థిరీకరించడానికి ఒక ప్రధాన అడుగును సూచిస్తుంది.

ముఖ్య అంశాలు

  • కస్టమ్ సిలికాన్ వ్యూహం: Jalapeño అనేది LLM ఇన్ఫరెన్స్ కోసం మొదటి నుండి రూపొందించబడిన ఒక "ఇంటెలిజెన్స్ ప్రాసెసర్", ఇది వాట్ (watt) కి పనితీరులో జనరల్-పర్పస్ హార్డ్‌వేర్‌ను అధిగమించాలని లక్ష్యంగా పెట్టుకుంది.
  • వేగవంతమైన అభివృద్ధి: ప్రక్రియను వేగవంతం చేయడానికి తన స్వంత AI మోడల్‌లను ఉపయోగించడం ద్వారా, OpenAI తొమ్మిది నెలల డిజైన్-టు-టేప్-అవుట్ సైకిల్‌ను సాధించింది, ఇది హై-పెర్ఫార్మెన్స్ ASICs కోసం ఒక రికార్డు.
  • భారీ స్థాయి విస్తరణ: Broadcom మరియు Microsoft మద్దతుతో, మొదటి భారీ స్థాయి విస్తరణ 2026 చివరి నాటికి గిగావాట్ స్థాయిలో లక్ష్యంగా పెట్టుకోబడింది.