Предприятия агрессивно масштабируют ИИ-инфраструктуру, однако возникает растущий «вычислительный разрыв» между капитальными затратами и операционным контролем. Пока организации спешат обеспечить себя оборудованием, они обнаруживают, что их способность измерять юнит-экономику и утилизацию GPU не поспевает за темпами инвестиций.

Вычислительный разрыв: стремительные инвестиции против низкой прозрачности

Исследование VentureBeat Pulse Research среди 107 предприятий показывает резкий разрыв в жизненном цикле ИИ. Компании вливают капитал в инфраструктуру, но им не хватает телеметрии для управления ею. Намерения по расходам стремительно растут, но зрелость промышленного внедрения остается низкой; только 21% опрошенных компаний используют ИИ в промышленной эксплуатации в масштабе.

Самый критический симптом — неэффективность. 83% предприятий сообщают, что утилизация GPU составляет 50% или менее. Хуже того, менее половины (44%) могут точно отследить реальную стоимость своих вычислений ИИ. Таким образом, масштабные и быстрые инвестиции осуществляются без прозрачности, необходимой для управления долгосрочной экономикой.

Смена динамики вендоров и высокий уровень оттока

В стеке доминируют традиционные гиперскейлеры и API моделей. Google Cloud лидирует с долей использования 48%, за ним следуют Microsoft Azure (29%), AWS (22%) и Oracle Cloud (22%). Потребление моделей сосредоточено вокруг Gemini (41%) и OpenAI (40%). Специализированные ИИ-облака, такие как CoreWeave, Lambda и Together, занимают менее 2% рынка.

Волатильность высока. 64% предприятий планируют сменить или добавить поставщика инфраструктуры в течение двенадцати месяцев, а 38% намерены сделать это в следующем квартале. Интеграция с существующими стеками является причиной 41% таких решений, в то время как совокупная стоимость владения (TCO) составляет 35%. Только 8% называют в качестве причины заявленные цены на токены.

Следующий рубеж: специализированные облака и пропускная способность памяти

Предприятия, выходящие за рамки экспериментов, присматриваются к специализированным ИИ-облакам. 45% планируют оценить таких провайдеров в ближайшем году — это самая крупная запланированная область оценки.

Появляется новое техническое ограничение: именно пропускная способность памяти, а не чистая вычислительная мощность GPU, будет ограничивать масштабируемый инференс. Только около 20% компаний знают об этом «узком месте» или предпринимают шаги для его устранения. Для разработчиков и технических директоров (CTO) освоение пропускной способности станет фактором, отделяющим масштабируемый инференс от неконтролируемого роста затрат.

Ключевые выводы

  • Неэффективность — это норма: 83% предприятий используют GPU с утилизацией ≤ 50%; менее половины могут точно отслеживать расходы на вычисления.
  • Высокий отток вендоров: 64% планируют сменить или добавить провайдера в течение года, отдавая приоритет интеграции (41%) и TCO (35%).
  • Сдвиг в сторону специализации: 45% будут оценивать нишевые ИИ-облака, чтобы сократить вычислительный разрыв.
  • Угроза пропускной способности памяти: Примерно 20% компаний осознают или решают проблему этого возникающего «узкого места».

Статья

Опрос VentureBeat Pulse Research среди 107 компаний показывает, что 83% используют GPU на половину мощности или ниже, в то время как только 44% могут точно определить стоимость каждого часа вычислений. Это несоответствие побуждает 64% респондентов планировать смену или добавление поставщика инфраструктуры в течение следующего года.

Почему «вычислительный разрыв» важен именно сейчас

Основные цифры рисуют суровую картину: расходы на ИИ растут, но зрелость внедрения отстает. Только 21% компаний говорят, что используют ИИ в промышленной эксплуатации в масштабе, а это значит, что большая часть инвестиций сосредоточена в лабораториях, пилотных проектах (PoC) или простаивающем оборудовании. Низкая утилизация GPU напрямую конвертируется в потерянный капитал — полупустые серверы все равно потребляют электроэнергию, требуют охлаждения и занимают место в стойках. Когда менее половины организаций могут отследить стоимость одного GPU, бюджетирование превращается в гадание, а финансовые директора (CFO) сталкиваются с «черным ящиком», который может в одночасье поглотить годовой технологический бюджет.

Как мы к этому пришли

Спешка началась, когда гиперскейлеры запустили специализированные ИИ-инстансы и API по модели «модель как услуга» (model-as-a-service). Google Cloud сейчас обеспечивает 48% исследуемых рабочих нагрузок, за ним следуют Microsoft Azure (29%), AWS (22%) и Oracle Cloud (22%). Потребление моделей отражает это распределение: Gemini и OpenAI занимают примерно по 40% использования. Привлекательность была очевидна: надежное облако, готовые к работе GPU и модель оплаты по мере использования (pay-as-you-go), обещающая прозрачные расходы.

Исследование выявляет скрытую проблему. При принятии решения о переходе доминируют сложности интеграции: 41% указывают на трудности с встраиванием стека провайдера в существующие конвейеры (pipelines), а 35% указывают на совокупную стоимость владения. Только 8% говорят, что их отталкивают заявленные цены на токены, что показывает: «голые» ценники значат меньше, чем соответствие экосистеме.

Ставки для вендоров и покупателей

Для «большой тройки» облачных провайдеров доминирующая доля рынка дает рычаги влияния, однако намерение сменить поставщика сигнализирует об ослаблении этого контроля.

Покупатели сталкиваются с двумя рисками. Во-первых, сохраняющийся низкий уровень использования ресурсов увеличивает стоимость одного вывода (inference) или задачи обучения, подрывая экономическую целесообразность ИИ. Во-вторых, отсутствие прозрачности затрат препятствует стратегическому планированию; без четкой юнит-экономики сложно обосновать дальнейшие инвестиции или установить цены на продукты с функциями ИИ.

Рост специализированных ИИ-облаков

Специализированные ИИ-облака — CoreWeave, Lambda и Together — в настоящее время занимают менее 2 % рынка. Сорок пять процентов предприятий заявляют, что в ближайшем году они оценят этих нишевых провайдеров, что делает это направление крупнейшей запланированной областью оценки поставщиков. Их ценностное предложение основано на более тесной интеграции с инструментами ИИ (AI toolchains), более детализированной тарификации и оборудовании, оптимизированном под рабочие нагрузки ИИ, что может поднять уровень использования GPU значительно выше 50-процентного потолка, который сегодня ограничивает большинство предприятий.

Техническая «слепая зона»: пропускная способность памяти

Дискуссия об оборудовании смещается. По мере масштабирования задач вывода (inference), пропускная способность памяти — то, насколько быстро данные перемещаются в GPU и из него — становится «узким местом», затмевая чистую вычислительную мощность. Тем не менее, лишь около 20 % опрошенных компаний либо признают это ограничение, либо предпринимают шаги по его устранению. Игнорирование пропускной способности может привести к тому, что даже полностью загруженный GPU не сможет обеспечить необходимую пропускную способность, что повлечет за собой увеличение количества инстансов и рост затрат.

Контраргумент: гиперскейлеры все еще доминируют

Было бы преждевременно объявлять об окончании эры гиперскейлеров. Их масштаб, глобальное присутствие и существующие корпоративные контракты по-прежнему делают их выбором по умолчанию для многих. Опрос показывает, что большинство рабочих нагрузок по-прежнему размещено на этих платформах, а для организаций с устоявшимися мультиоблачными стратегиями инерция может перевесить привлекательность более высокого уровня использования ресурсов. Более того, ограниченная доля рынка специализированных облаков говорит о том, что интерес высок, но миграция будет постепенной.

На что обратить внимание в дальнейшем

  • Ограничения пропускной способности памяти: по мере роста нагрузок вывода пропускная способность может стать критическим «узким местом», влияя на выбор оборудования и архитектурные решения.

Основные выводы

  • Неэффективность — это норма: 83 % предприятий используют GPU на уровне ≤ 50 %; только 44 % могут точно отслеживать расходы на вычисления.
  • Высокая текучесть поставщиков: 64 % планируют сменить или добавить инфраструктурного провайдера в течение года, что обусловлено интеграцией (41 %) и совокупной стоимостью владения (TCO) (35 %).
  • Специализированные облака набирают обороты: 45 % оценят нишевые ИИ-облака в ближайшие двенадцать месяцев, стремясь сократить разрыв в вычислительных мощностях.
  • Пропускная способность памяти — надвигающееся ограничение: примерно 20 % компаний знают об этом возникающем «узком месте» или работают над его устранением.

Разрыв между расходами на ИИ и прозрачностью экономики больше не является второстепенным вопросом; он меняет стратегии закупок и стимулирует миграцию к провайдерам, которые могут доказать, что каждый вложенный доллар работает эффективнее.