AI Neocloud ನಿಯೋಜನೆಯನ್ನು ವೇಗಗೊಳಿಸಲು Netris ಸಂಸ್ಥೆಯು a16z ನಿಂದ $15M ಹಣವನ್ನು ಸಂಗ್ರಹಿಸಿದೆ
GPU ಪ್ರಾಬಲ್ಯಕ್ಕಾಗಿ ನಡೆಯುತ್ತಿರುವ ಸ್ಪರ್ಧೆ ತೀವ್ರಗೊಳ್ಳುತ್ತಿದ್ದಂತೆ, ಹೊಸ AI ಕ್ಲೌಡ್ ಪ್ರೊವೈಡರ್ಗಳಿಗೆ ಎದುರಾಗುತ್ತಿರುವ ಅಡಚಣೆಯು ಚಿಪ್ಗಳನ್ನು ಪಡೆಯುವುದರಿಂದ ಬದಲಾಗಿ, ಅವುಗಳನ್ನು ಚಲಾಯಿಸಲು ಅಗತ್ಯವಿರುವ ಸಂಕೀರ್ಣ ನೆಟ್ವರ್ಕ್ಗಳನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡುವುದಕ್ಕೆ ಬದಲಾಗಿದೆ. ಈ ನಿರ್ಣಾಯಕ ಮೂಲಸೌಕರ್ಯ ಸವಾಲನ್ನು ಪರಿಹರಿಸಲು, ನೆಟ್ವರ್ಕ್ ಆಟೊಮೇಷನ್ ಸ್ಟಾರ್ಟ್ಅಪ್ ಆದ Netris, Andreessen Horowitz (a16z) ನೇತೃತ್ವದಲ್ಲಿ ಸರಣಿ A (Series A) ಫಂಡಿಂಗ್ನಲ್ಲಿ $15 ಮಿಲಿಯನ್ ಹಣವನ್ನು ಪಡೆದುಕೊಂಡಿದೆ.
Neocloud ನಿಯೋಜನೆಯ ಅಡಚಣೆಯನ್ನು ಪರಿಹರಿಸುವುದು
"neoclouds"—ಅಂದರೆ AI ಇನ್ಫರೆನ್ಸ್ (inference) ಮತ್ತು ತರಬೇತಿಯ ಮೇಲೆ ಗಮನ ಕೇಂದ್ರೀಕರಿಸುವ ವಿಶೇಷ ಕ್ಲೌಡ್ ಪ್ರೊವೈಡರ್ಗಳ ಉದಯವು, ಡೇಟಾ ಸೆಂಟರ್ ನಿಯೋಜನೆಗಾಗಿ ಭಾರಿ ಬೇಡಿಕೆಯನ್ನು ಸೃಷ್ಟಿಸಿದೆ. ಸಾಂಪ್ರದಾಯಿಕವಾಗಿ, ಹೈ-ಪರ್ಫಾರ್ಮೆನ್ಸ್ ಕಂಪ್ಯೂಟಿಂಗ್ ಅನ್ನು ಬೆಂಬಲಿಸಲು ಡೇಟಾ ಸೆಂಟರ್ ಅನ್ನು ಸ್ಥಾಪಿಸಲು ತಿಂಗಳುಗಟ್ಟಲೆ ಸಮಯ ತೆಗೆದುಕೊಳ್ಳಬಹುದು, ಇದರಿಂದ ಎಂಜಿನಿಯರ್ಗಳು ಮ್ಯಾನುಯಲ್ ಕಾನ್ಫಿಗರೇಶನ್ಗಳೊಂದಿಗೆ ಹೋರಾಡುತ್ತಿರುವಾಗ ದುಬಾರಿ GPUಗಳು ಸುಮ್ಮನೆ ಬಿದ್ದಿರುತ್ತವೆ.
Netris ನೆಟ್ವರ್ಕ್ ಸ್ವಿಚ್ಗಳ ಮೇಲೆ ನೇರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ವಿಶೇಷ ಸಾಫ್ಟ್ವೇರ್ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಅನ್ನು ಒದಗಿಸುವ ಮೂಲಕ ಈ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುತ್ತದೆ. ಅವರ ತಂತ್ರಜ್ಞಾನವು ಡೇಟಾ ಸೆಂಟರ್ಗಳ ಸೆಟಪ್, ಕಾನ್ಫಿಗರೇಶನ್ ಮತ್ತು ದೈನಂದಿನ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ಆಟೊಮೇಷನ್ ಮಾಡುತ್ತದೆ. ಮುಖ್ಯವಾಗಿ, ಈ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ನೆಟ್ವರ್ಕ್ ಅಬ್ಸ್ಟ್ರಾಕ್ಷನ್ (network abstraction) ಮತ್ತು ಹಾರ್ಡ್ವೇರ್-ಲೇಯರ್ ರಿಸೋರ್ಸ್ ಐಸೊಲೇಶನ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ, ಇದು ಮಲ್ಟಿ-ಟೆನೆನ್ಸಿ (multi-tenancy) ಗೆ ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಇದು neocloud ಆಪರೇಟರ್ಗಳು ಒಂದೇ ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ಅನೇಕ ಗ್ರಾಹಕರಿಗೆ ಸುರಕ್ಷಿತವಾಗಿ ಸೇವೆ ನೀಡಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ; ಈ ಸಾಧನೆಯನ್ನು ಸಾಧಿಸಲು ಹಿಂದೆ AWS ಅಥವಾ Google ನಂತಹ ಬೃಹತ್ ಎಂಜಿನಿಯರಿಂಗ್ ತಂಡಗಳ ಅಗತ್ಯವಿತ್ತು.
ಹಾರ್ಡ್ವೇರ್ ಆಕ್ಸಿಲರೇಶನ್ ಮತ್ತು ಸಾಂಪ್ರದಾಯಿಕ SDN ನಡುವಿನ ವ್ಯತ್ಯಾಸ
Netris ನ ಪ್ರಮುಖ ತಾಂತ್ರಿಕ ವೈಶಿಷ್ಟ್ಯವೆಂದರೆ ಅದರ ನೆಟ್ವರ್ಕಿಂಗ್ ವೇಗದ ವಿಧಾನ. ಸಾಂಪ್ರದಾಯಿಕ ಸಾಫ್ಟ್ವೇರ್-ಡಿಫೈನ್ಡ್ ನೆಟ್ವರ್ಕಿಂಗ್ (SDN) એ AI ವರ್ಕ್ಲೋಡ್ಗಳ ಬೃಹತ್ ಟ್ರಾಫಿಕ್ ಬೇಡಿಕೆಗಳಿಗೆ ಸಾಕಾಗುವುದಿಲ್ಲ ಎಂದು CEO Alex Saroyan ಗಮನಿಸಿದ್ದಾರೆ. SDN ಮುಖ್ಯವಾಗಿ ಸಾಫ್ಟ್ವೇರ್ ಆಧಾರಿತ ತಂತ್ರಜ್ಞಾನವಾಗಿರುವುದರಿಂದ, ಇದು ಅಗತ್ಯವಿರುವ ಥ್ರೂಪುಟ್ (throughput) ಅನ್ನು ತಲುಪಲು ಸಾಧ್ಯವಿಲ್ಲ.
Saroyan ಅವರು "hardware-accelerated SDN" ಎಂದು ವಿವರಿಸುವ ಸೇವೆಯನ್ನು Netris ಒದಗಿಸುತ್ತದೆ. ಬುದ್ಧಿವಂತಿಕೆಯನ್ನು (intelligence) ಹಾರ್ಡ್ವೇರ್ಗೆ ಹತ್ತಿರವಾಗಿಸುವ ಮೂಲಕ, ಈ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಸಾಫ್ಟ್ವೇರ್-ಮಾತ್ರದ ಪರಿಹಾರಗಳ ವಿಳಂಬದ (latency) ಸಮಸ್ಯೆಗಳಿಲ್ಲದೆ AI ಕ್ಲಸ್ಟರ್ಗಳ ಅತಿ ಹೆಚ್ಚಿನ ಡೇಟಾ ಪ್ರಮಾಣವನ್ನು ನಿರ್ವಹಿಸಬಲ್ಲದು. ಈ ವೆಂಡರ್-ಅಗ್ನಾಸ್ಟಿಕ್ (vendor-agnostic) ವಿಧಾನವು Nvidia ಮತ್ತು AMD ಸರ್ವರ್ ಪರಿಸರ ವ್ಯವಸ್ಥೆಗಳೊಂದಿಗೆ ಹೊಂದಾಣಿಕೆಯನ್ನು ಖಚಿತಪಡಿಸುತ್ತದೆ, ಇದು ವಿವಿಧ ಹಾರ್ಡ್ವೇರ್ ಸ್ಟ್ಯಾಕ್ಗಳಿಗೆ ಬಹುಮುಖಿ ಸಾಧನವಾಗಿಸುತ್ತದೆ.
ಡಿಟರ್ಮಿನಿಸ್ಟಿಕ್ ಅಲ್ಗಾರಿದಮ್ಗಳ ಮೂಲಕ ವಿಶ್ವಾಸಾರ್ಹತೆ
ಆಸಕ್ತಿದಾಯಕ ವಿಷಯವೆಂದರೆ, AI ಮೂಲಸೌಕರ್ಯ ಕ್ಷೇತ್ರದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದ್ದರೂ ಸಹ, Netris ತನ್ನ ನೆಟ್ವರ್ಕ್ಗಳನ್ನು ನಿರ್ವಹಿಸಲು AI ಅನ್ನು ಬಳಸುವುದಿಲ್ಲ. ಸಾವಿರಾರು ಸ್ವಿಚ್ ಕಾನ್ಫಿಗರೇಶನ್ಗಳನ್ನು ನಿರ್ವಹಿಸಲು "ಸೃಜನಶೀಲತೆ" (creativity) ಒಂದು ಹೊರೆಯಾಗಬಹುದು ಎಂದು Saroyan ವಿವರಿಸುತ್ತಾರೆ. AI ಎಂಬುದು ನಾನ್-ಡಿಟರ್ಮಿನಿಸ್ಟಿಕ್ (non-deterministic), ಅಂದರೆ ಅದು ಅನಿರೀಕ್ಷಿತ ಫಲಿತಾಂಶಗಳನ್ನು ನೀಡಬಹುದು—ಯಾವುದೇ ಡೇಟಾ ಸೆಂಟರ್ ಆಪರೇಟರ್ ಇಂತಹ ಅಪಾಯವನ್ನು ಎದುರಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಬದಲಾಗಿ, Netris ಕಳೆದ ಎಂಟು ವರ್ಷಗಳಲ್ಲಿ ಅಭಿವೃದ್ಧಿಪಡಿಸಲಾದ ಅತ್ಯಂತ ಸ್ಥಿರ ಮತ್ತು ಪುನರಾವರ್ತಿತ ಅಲ್ಗಾರಿದಮ್ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ. ಈ ಡಿಟರ್ಮಿನಿಸ್ಟಿಕ್ ವಿಧಾನವು ನೆಟ್ವರ್ಕ್ ಬದಲಾವಣೆಗಳು ಅನಿರೀಕ್ಷಿತವಲ್ಲ ಮತ್ತು ನಿಖರವಾಗಿವೆ ಎಂಬುದನ್ನು ಖಚಿತಪಡಿಸುತ್ತದೆ. ಈ ವಿಧಾನದ ಪರಿಣಾಮಕಾರಿತ್ವವು ಅದರ ಪ್ರಸ್ತುತ ವ್ಯಾಪ್ತಿಯಿಂದ ಸಾಬೀತಾಗುತ್ತದೆ: Netris ಈಗಾಗಲೇ ಜಾಗತಿಕವಾಗಿ 35 ಕ್ಕೂ ಹೆಚ್ಚು GPU ಕ್ಲಸ್ಟರ್ಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ ಮತ್ತು Lightning AI, Foxconn, HPE, Tensorwave, ಮತ್ತು Telus ಸೇರಿದಂತೆ ಪ್ರಮುಖ ಸಂಸ್ಥೆಗಳಿಗಾಗಿ ಸುಮಾರು ಒಂದು ಮಿಲಿಯನ್ GPUಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತಿದೆ.
AI ಮೂಲಸೌಕರ್ಯದ ಭವಿಷ್ಯಕ್ಕಾಗಿ ವಿಸ್ತರಣೆ
ಹೊಸ $15 ಮಿಲಿಯನ್ ಬಂಡವಾಳ ಮತ್ತು a16z ಪಾಲುದಾರ Guido Appenzeller ಅವರ ಸೇರ್ಪಡೆಯೊಂದಿಗೆ, Netris ಉಗ್ರವಾಗಿ ವಿಸ್ತರಿಸಲು ಯೋಜಿಸಿದೆ. ಕಂಪನಿಯು ತನ್ನ ಎಂಜಿನಿಯರಿಂಗ್ ಮತ್ತು ಸೇಲ್ಸ್ ಸಿಬ್ಬಂದಿಯನ್ನು ಹೆಚ್ಚಿಸಲು, ಹೆಚ್ಚಿನ ಹಾರ್ಡ್ವೇರ್ ವೆಂಡರ್ಗಳನ್ನು ಬೆಂಬಲಿಸಲು ಮತ್ತು ತನ್ನ ಪ್ರಮುಖ ಆಟೊಮೇಷನ್ ಅಲ್ಗಾರಿದಮ್ಗಳ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಹೆಚ್ಚಿಸಲು ಗುರಿಯ ಹೊಂದಿದೆ. AI ಉದ್ಯಮವು ಪ್ರಯೋಗಾತ್ಮಕ ಕ್ಲಸ್ಟರ್ಗಳಿಂದ ಬೃಹತ್ ಪ್ರಮಾಣದ ಉತ್ಪಾದನಾ ಪರಿಸರಗಳಿಗೆ ಬದಲಾಗುತ್ತಿರುವಂತೆ, "ಟರ್ನ್ಕೀ" (turnkey) ನೆಟ್ವರ್ಕಿಂಗ್ ಅನ್ನು ನಿಯೋಜಿಸುವ ಸಾಮರ್ಥ್ಯವು ಮುಂದಿನ ಪೀಳಿಗೆಯ ಕ್ಲೌಡ್ ಪ್ರೊವೈಡರ್ಗಳಿಗೆ ನಿರ್ಣಾಯಕ ಅಂಶವಾಗಲಿದೆ.
ಪ್ರಮುಖ ಅಂಶಗಳು
- ವೇಗದ ನಿಯೋಜನೆ: Netris GPU ಕ್ಲಸ್ಟರ್ಗಳ ಸಂಕೀರ್ಣ ಕಾನ್ಫಿಗರೇಶನ್ ಅನ್ನು ಆಟೊಮೇಷನ್ ಮಾಡುತ್ತದೆ, ಇದು neocloudಗಳು ಕಾರ್ಯಾರಂಭ ಮಾಡಲು ಮತ್ತು ಆದಾಯ ಗಳಿಸಲು ತೆಗೆದುಕೊಳ್ಳುವ ಸಮಯವನ್ನು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
- ಹಾರ್ಡ್ವೇರ್-ಆಕ್ಸಿಲರೇಶನ್ ನೆಟ್ವರ್ಕಿಂಗ್: ಸಾಂಪ್ರದಾಯಿಕ SDN ನಂತಲ್ಲದೆ, Netris AI ತರಬೇತಿ ಮತ್ತು ಇನ್ಫರೆನ್ಸ್ನ ಅತಿ ಹೆಚ್ಚಿನ ಟ್ರಾಫಿಕ್ ಬೇಡಿಕೆಗಳನ್ನು ನಿಭಾಯಿಸಲು ಹಾರ್ಡ್ವೇರ್ ಮಟ್ಟದ ಆಕ್ಸಿಲರೇಶನ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ.
- ಸಾಬೀತಾದ ವ್ಯಾಪ್ತಿ: ಈ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಈಗಾಗಲೇ ಸುಮಾರು ಒಂದು ಮಿಲಿಯನ್ GPUಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ ಮತ್ತು Foxconn, HPE, ಮತ್ತು Lightning AI ನಂತಹ ಉದ್ಯಮದ ಮುಂಚೂಣಿಯಲ್ಲಿರುವ ಸಂಸ್ಥೆಗಳಿಗೆ ಸೇವೆ ನೀಡುತ್ತಿದೆ.
