Netris залучає 15 млн доларів від a16z для прискорення розгортання AI Neocloud

У міру того, як гонка за домінування в галузі GPU посилюється, «вузьке місце» для нових постачальників хмарних послуг для ШІ змістилося з придбання чипів на налаштування складних мереж, необхідних для їх роботи. Netris, стартап у сфері автоматизації мереж, залучив 15 мільйонів доларів у межах раунду фінансування серії А під керівництвом Andreessen Horowitz (a16z), щоб вирішити цю критичну інфраструктурну проблему.

Вирішення проблеми розгортання Neocloud

Поява «neoclouds» — спеціалізованих хмарних провайдерів, що зосереджені на виведенні (inference) та навчанні ШІ — створила величезний попит на швидке розгортання центрів обробки даних. Традиційно налаштування дата-центру для підтримки високопродуктивних обчислень може тривати місяцями, через що дорогі GPU простоюють, поки інженери борються з ручним конфігуруванням.

Netris вирішує цю проблему за допомогою спеціалізованої програмної платформи, яка працює безпосередньо на мережевих комутаторах. Їхня технологія автоматизує встановлення, налаштування та щоденну експлуатацію дата-центрів. Що важливо, платформа забезпечує абстракцію мережі та ізоляцію ресурсів на апаратному рівні, що дозволяє реалізувати багатокористувацьку модель (multi-tenancy). Це дає змогу операторам neocloud безпечно обслуговувати кількох клієнтів на одному й тому самому обладнанні — завдання, яке раніше потребувало величезних інженерних команд, подібних до тих, що працюють в AWS або Google.

Апаратне прискорення проти традиційного SDN

Ключовою технічною відмінністю Netris є підхід до швидкості мережі. Генеральний директор Алекс Сароян зазначає, що традиційні програмно-визначені мережі (SDN) є недостатніми для величезних обсягів трафіку, які створюють навантаження ШІ. Оскільки SDN — це насамперед програмна технологія, вона не може забезпечити необхідну пропускну здатність.

Netris пропонує те, що Сароян називає «SDN з апаратним прискоренням». Переносячи інтелект ближче до обладнання, платформа може обробляти екстремальні обсяги даних у кластерах ШІ без затримок, характерних для суто програмних рішень. Цей вендор-незалежний (vendor-agnostic) підхід забезпечує сумісність як з екосистемами серверів Nvidia, так і AMD, що робить платформу універсальним інструментом для різноманітних апаратних стеків.

Надійність завдяки детермінованим алгоритмам

Цікаво, що, попри роботу в сфері інфраструктури ШІ, Netris не використовує ШІ для управління своїми мережами. Сароян пояснює, що при управлінні тисячами конфігурацій комутаторів «креативність» є недоліком. ШІ є недетермінованим, що означає можливість отримання непередбачуваних результатів — ризик, який не може собі дозволити жоден оператор дата-центру.

Натомість Netris покладається на високостабільні та повторювані алгоритми, що розроблялися протягом останніх восьми років. Цей детермінований підхід гарантує, що зміни в мережі будуть передбачуваними та точними. Ефективність цього методу підтверджується масштабами його застосування: Netris вже працює у понад 35 GPU-кластерах по всьому світу, керуючи приблизно мільйоном GPU для таких великих гравців, як Lightning AI, Foxconn, HPE, Tensorwave та Telus.

Масштабування для майбутнього інфраструктури ШІ

Завдяки новому вливанню 15 мільйонів доларів та включенню партнера a16z Гвідо Аппенцеллера до ради директорів, Netris планує агресивне розширення. Компанія має на меті збільшити кількість інженерів та спеціалістів з продажу, підтримувати ширший спектр постачальників обладнання та поглиблювати функціональність своїх основних алгоритмів автоматизації. Оскільки індустрія ШІ переходить від експериментальних кластерів до масштабних виробничих середовищ, здатність розгортати мережі за принципом «під ключ» стане вирішальним фактором для наступного покоління хмарних провайдерів.

Основні висновки

  • Швидке розгортання: Netris автоматизує складне налаштування GPU-кластерів, значно скорочуючи час, необхідний для запуску neocloud-провайдерів та початку отримання прибутку.
  • Мережі з апаратним прискоренням: На відміну від традиційного SDN, Netris забезпечує прискорення на апаратному рівні для обробки екстремальних навантажень трафіку під час навчання та виведення ШІ.
  • Перевірені масштаби: Платформа вже працює приблизно на одному мільйоні GPU, обслуговуючи таких лідерів галузі, як Foxconn, HPE та Lightning AI.