Intel Omni-Path keert terug om Nvidia uit te dagen
Cornelis Networks brengt Intel Omni-Path weer tot leven. Deze technologie zal voortaan supercomputers van het Amerikaanse Department of Energy verbinden. Het dient als een direct alternatief voor Nvidia InfiniBand.
Intel stopte in 2019 met de productie van Omni-Path. Nu gebruikt Cornelis Networks het om snelheden van 400 Gbps te bieden. Deze stap helpt het Department of Energy om te voorkomen dat ze uitsluitend afhankelijk zijn van Nvidia-hardware.
Belangrijke details van de nieuwe hardware:
• De Cornelis CN5000-switch ondersteunt 200 poorten. • Elke poort werkt op 400 Gbps. • De latentie blijft onder de 100 nanoseconden per hop. • De technologie maakt gebruik van een direct memory access-model. • Dit model vermijdt TCP/IP-overhead om de snelheden hoog te houden.
Waarom dit belangrijk is voor AI en supercomputing:
Grootschalige AI-training heeft snelle verbindingen tussen chips nodig. InfiniBand is momenteel de marktleider. Omni-Path claimt echter een lagere tail latency. Lage latentie is essentieel voor taken bij het trainen van modellen.
Het Department of Energy is van plan dit tussen 2027 en 2028 te gebruiken voor exascale-systemen.
Uitdagingen voor de toekomst:
Nvidia heeft een enorme voorsprong dankzij zijn software-ecosysteem. Omni-Path vereist specifieke drivers en libraries. Succes hangt af van de mate waarin de software samenwerkt met bestaande AI-tools.
Cornelis Networks krijgt ook te maken met concurrentie van het Ultra Ethernet Consortium. Deze groep omvat AMD en Intel. De strijd om de dominantie in supercomputer-netwerken wordt steeds heviger.
Optionele leercommunity: https://t.me/GyaanSetuAi