ಉದ್ಯಮಗಳು AI ಮೂಲಸೌಕರ್ಯವನ್ನು (infrastructure) ವೇಗವಾಗಿ ವಿಸ್ತರಿಸುತ್ತಿವೆ, ಆದರೂ ಬಂಡವಾಳ ವೆಚ್ಚ (capital expenditure) ಮತ್ತು ಕಾರ್ಯಾಚರಣೆಯ ಮೇಲ್ವಿಚಾರಣೆಯ (operational oversight) ನಡುವೆ ಬೆಳೆಯುತ್ತಿರುವ "ಕಂಪ್ಯೂಟ್ ಗ್ಯಾಪ್" (compute gap) ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತಿದೆ. ಸಂಸ್ಥೆಗಳು ಹಾರ್ಡ್‌ವೇರ್ ಅನ್ನು ಪಡೆಯಲು ಧಾವಿಸುತ್ತಿರುವಾಗ, ತಮ್ಮ ಯೂನಿಟ್ ಎಕನಾಮಿಕ್ಸ್ ಮತ್ತು GPU ಬಳಕೆಯನ್ನು ಅಳೆಯುವ ಸಾಮರ್ಥ್ಯವು ಹೂಡಿಕೆಯ ವೇಗಕ್ಕೆ ತಕ್ಕಂತೆ ಇಲ್ಲದಿರುವುದನ್ನು ಅವು ಕಂಡುಕೊಳ್ಳುತ್ತವೆ.

ಕಂಪ್ಯೂಟ್ ಗ್ಯಾಪ್: ವೇಗದ ಹೂಡಿಕೆ vs ಕಡಿಮೆ ದೃಶ್ಯತೆ (Visibility)

107 ಉದ್ಯಮಗಳ ಮೇಲೆ ನಡೆಸಲಾದ VentureBeat Pulse Research ಅಧ್ಯಯನವು AI ಜೀವನಚಕ್ರದಲ್ಲಿ (lifecycle) ಇರುವ ತೀವ್ರ ಅಸಮತೋಲನವನ್ನು ತೋರಿಸುತ್ತದೆ. ಕಂಪನಿಗಳು ಮೂಲಸೌಕರ್ಯಕ್ಕಾಗಿ ಬಂಡವಾಳವನ್ನು ಸುರಿಯುತ್ತಿವೆ ಆದರೆ ಅದನ್ನು ನಿರ್ವಹಿಸಲು ಅಗತ್ಯವಾದ ಟೆಲಿಮೆಟ್ರಿ (telemetry) ಹೊಂದಿಲ್ಲ. ವೆಚ್ಚ ಮಾಡುವ ಉದ್ದೇಶಗಳು ಗಗನಕ್ಕೇರುತ್ತಿವೆ, ಆದರೆ ಉತ್ಪಾದನಾ ಪ್ರೌಢಿಮೆ (production maturity) ಕಡಿಮೆಯಿದೆ; ಸಮೀಕ್ಷೆ ನಡೆಸಿದ ಸಂಸ್ಥೆಗಳಲ್ಲಿ ಕೇವಲ 21% ಮಾತ್ರ AI ಅನ್ನು ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಉತ್ಪಾದನೆಯಲ್ಲಿ (production at scale) ಬಳಸುತ್ತಿವೆ.

ಅತ್ಯಂತ ನಿರ್ಣಾಯಕ ಲಕ್ಷಣವೆಂದರೆ ಅಸಮರ್ಥತೆ. ಎಂಬತ್ತಮೂರು ಪ್ರತಿಶತ (83%) ಉದ್ಯಮಗಳು GPU ಬಳಕೆಯನ್ನು 50% ಅಥವಾ ಅದಕ್ಕಿಂತ ಕಡಿಮೆ ಎಂದು ವರದಿ ಮಾಡುತ್ತಿವೆ. ಇನ್ನೂ ಕೆಟ್ಟದೇನೆ, ಅರ್ಧಕ್ಕಿಂತ ಕಡಿಮೆ (44%) ಸಂಸ್ಥೆಗಳು ತಮ್ಮ AI ಕಂಪ್ಯೂಟ್‌ನ ನಿಜವಾದ ವೆಚ್ಚವನ್ನು ನಿಖರವಾಗಿ ಪತ್ತೆಹಚ್ಚಬಲ್ಲವು. ಆದ್ದರಿಂದ, ದೀರ್ಘಾವಧಿಯ ಆರ್ಥಿಕತೆಯನ್ನು ನಿರ್ವಹಿಸಲು ಅಗತ್ಯವಿರುವ ದೃಶ್ಯತೆ ಇಲ್ಲದೆಯೇ ಭಾರೀ ಮತ್ತು ವೇಗವಾಗಿ ಚಲಿಸುವ ಹೂಡಿಕೆಗಳು ನಡೆಯುತ್ತಿವೆ.

ಬದಲಾಗುತ್ತಿರುವ ವೆಂಡರ್ ಡೈನಾಮಿಕ್ಸ್ ಮತ್ತು ಹೆಚ್ಚಿನ ಚರ್ನ್ (Churn)

ಸಾಂಪ್ರದಾಯಿಕ ಹೈಪರ್ಸ್ಕೇಲರ್‌ಗಳು (hyperscalers) ಮತ್ತು ಮಾಡೆಲ್ APIಗಳು ಮಾರುಕಟ್ಟೆಯನ್ನು ಆಕ್ರಮಿಸಿಕೊಂಡಿವೆ. Google Cloud 48% ಬಳಕೆಯೊಂದಿಗೆ ಮುಂಚೂಣಿಯಲ್ಲಿದೆ, ನಂತರದ ಸ್ಥಾನಗಳಲ್ಲಿ Microsoft Azure (29%), AWS (22%) ಮತ್ತು Oracle Cloud (22%) ಇವೆ. ಮಾಡೆಲ್ ಬಳಕೆಯು Gemini (41%) ಮತ್ತು OpenAI (40%) ಸುತ್ತ ಕೇಂದ್ರೀಕೃತವಾಗಿದೆ. CoreWeave, Lambda ಮತ್ತು Together ನಂತಹ ವಿಶೇಷ AI ಕ್ಲೌಡ್‌ಗಳು ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ 2% ಕ್ಕಿಂತ ಕಡಿಮೆ ಪಾಲನ್ನು ಹೊಂದಿವೆ.

ಅಸ್ಥಿರತೆ ಹೆಚ್ಚಿದೆ. ಶೇಕಡಾ 64 ರಷ್ಟು ಉದ್ಯಮಗಳು ಹನ್ನೆರಡು ತಿಂಗಳೊಳಗೆ ಮೂಲಸೌಕರ್ಯ ಪೂರೈಕೆದಾರರನ್ನು ಬದಲಾಯಿಸಲು ಅಥವಾ ಹೊಸ ಪೂರೈಕೆದಾರರನ್ನು ಸೇರಿಸಿಕೊಳ್ಳಲು ಯೋಜಿಸುತ್ತಿವೆ ಮತ್ತು 38% ರಷ್ಟು ಜನರು ಮುಂದಿನ ತ್ರೈಮಾಸಿಕದೊಳಗೆ ಇದನ್ನು ಮಾಡಲು ಉದ್ದೇಶಿಸಿದ್ದಾರೆ. ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಸ್ಟ್ಯಾಕ್‌ಗಳೊಂದಿಗೆ ಏಕೀಕರಣವು (Integration) ಅಂತಹ ನಿರ್ಧಾರಗಳಲ್ಲಿ 41% ಕ್ಕೆ ಕಾರಣವಾಗಿದ್ದರೆ, ಒಟ್ಟು ಮಾಲೀಕತ್ವದ ವೆಚ್ಚವು (total cost of ownership) 35% ರಷ್ಟು ಕಾರಣವಾಗಿದೆ. ಕೇವಲ 8% ರಷ್ಟು ಜನರು ಟೋಕನ್ ಬೆಲೆಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿದ್ದಾರೆ.

ಮುಂದಿನ ಮೈಲಿಗಲ್ಲು: ವಿಶೇಷ ಕ್ಲೌಡ್‌ಗಳು ಮತ್ತು ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ (Memory Bandwidth)

ಪ್ರಯೋಗಗಳ ಹಂತದಿಂದ ಮುಂದೆ ಸಾಗುತ್ತಿರುವ ಉದ್ಯಮಗಳು AI-ವಿಶೇಷೀಕೃತ ಕ್ಲೌಡ್‌ಗಳತ್ತ ಗಮನ ಹರಿಸುತ್ತಿವೆ. ಶೇಕಡಾ 45 ರಷ್ಟು ಜನರು ಮುಂಬರುವ ವರ್ಷದಲ್ಲಿ ಅಂತಹ ಪೂರೈಕೆದಾರರನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಯೋಜಿಸುತ್ತಿದ್ದಾರೆ—ಇದು ಯೋಜಿತ ಮೌಲ್ಯಮಾಪನಗಳಲ್ಲಿ ಅತಿದೊಡ್ಡ ಕ್ಷೇತ್ರವಾಗಿದೆ.

ಒಂದು ಹೊಸ ತಾಂತ್ರಿಕ ಮಿತಿ ಹೊರಹೊಮ್ಮುತ್ತಿದೆ: ಕೇವಲ GPU ಕಂಪ್ಯೂಟ್ ಅಲ್ಲ, ಬದಲಾಗಿ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ದೊಡ್ಡ ಪ್ರಮಾಣದ ಇನ್ಫರೆನ್ಸ್ (inference) ಅನ್ನು ಮಿತಿಗೊಳಿಸುತ್ತದೆ. ಕೇವಲ ಶೇಕಡಾ 20 ರಷ್ಟು ಸಂಸ್ಥೆಗಳು ಈ ಅಡಚಣೆಯ ಬಗ್ಗೆ ತಿಳಿದಿವೆ ಅಥವಾ ಅದನ್ನು ಪರಿಹರಿಸಲು ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತಿವೆ. ಡೆವಲಪರ್‌ಗಳು ಮತ್ತು CTOಗಳಿಗೆ, ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಮೇಲೆ ಹಿಡಿತ ಸಾಧಿಸುವುದು ಸ್ಕೇಲೆಬಲ್ ಇನ್ಫರೆನ್ಸ್ ಮತ್ತು ಅತಿಯಾದ ವೆಚ್ಚಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

  • ಅಸಮರ್ಥತೆಯೇ ಸಾಮಾನ್ಯ: 83% ಉದ್ಯಮಗಳು GPUಗಳನ್ನು ≤ 50% ಬಳಕೆಯಲ್ಲಿ ರನ್ ಮಾಡುತ್ತಿವೆ; ಅರ್ಧಕ್ಕಿಂತ ಕಡಿಮೆ ಸಂಸ್ಥೆಗಳು ಕಂಪ್ಯೂಟ್ ವೆಚ್ಚವನ್ನು ನಿಖರವಾಗಿ ಪತ್ತೆಹಚ್ಚಬಲ್ಲವು.
  • ವೆಂಡರ್ ಚರ್ನ್ ಹೆಚ್ಚಿದೆ: 64% ಜನರು ಒಂದು ವರ್ಷದೊಳಗೆ ಪೂರೈಕೆದಾರರನ್ನು ಬದಲಾಯಿಸಲು ಅಥವಾ ಸೇರಿಸಿಕೊಳ್ಳಲು ಯೋಜಿಸುತ್ತಿದ್ದಾರೆ, ಏಕೀಕರಣ (41%) ಮತ್ತು TCO (35%) ಗೆ ಆದ್ಯತೆ ನೀಡುತ್ತಿದ್ದಾರೆ.
  • ವಿಶೇಷೀಕರಣದತ್ತ ಬದಲಾವಣೆ: ಕಂಪ್ಯೂಟ್ ಗ್ಯಾಪ್ ಅನ್ನು ಕಡಿಮೆ ಮಾಡಲು 45% ಜನರು ನಿಶ್ಚಿತ AI ಕ್ಲೌಡ್‌ಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲಿದ್ದಾರೆ.
  • ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಸವಾಲಾಗುತ್ತಿದೆ: ಅಂದಾಜು 20% ಸಂಸ್ಥೆಗಳು ಈ ಉದಯೋನ್ಮುಖ ಅಡಚಣೆಯನ್ನು ಗುರುತಿಸುತ್ತಿವೆ ಅಥವಾ ಪರಿಹರಿಸುತ್ತಿವೆ.

ಲೇಖನ

107 ಸಂಸ್ಥೆಗಳ ಮೇಲೆ ನಡೆಸಲಾದ VentureBeat Pulse Research ಸಮೀಕ್ಷೆಯ ಪ್ರಕಾರ, 83% ಸಂಸ್ಥೆಗಳು GPUಗಳನ್ನು ಅರ್ಧ ಸಾಮರ್ಥ್ಯ ಅಥವಾ ಅದಕ್ಕಿಂತ ಕಡಿಮೆ ಮಟ್ಟದಲ್ಲಿ ರನ್ ಮಾಡುತ್ತಿವೆ, ಆದರೆ ಕೇವಲ 44% ಮಾತ್ರ ಪ್ರತಿ ಕಂಪ್ಯೂಟ್ ಗಂಟೆಯ ನಿಖರ ವೆಚ್ಚವನ್ನು ಪತ್ತೆಹಚ್ಚಬಲ್ಲವು. ಈ ಅಸಮತೋಲನವು 64% ಪ್ರತಿಕ್ರಿಯೆ ನೀಡಿದವರನ್ನು ಮುಂದಿನ ವರ್ಷದೊಳಗೆ ಮೂಲಸೌಕರ್ಯ ವೆಂಡರ್ ಅನ್ನು ಬದಲಾಯಿಸಲು ಅಥವಾ ಹೊಸದನ್ನು ಸೇರಿಸಿಕೊಳ್ಳಲು ಯೋಜಿಸುವಂತೆ ಪ್ರೇರೇಪಿಸುತ್ತದೆ.

ಈಗ "ಕಂಪ್ಯೂಟ್ ಗ್ಯಾಪ್" ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ?

ಪ್ರಮುಖ ಅಂಕಿಅಂಶಗಳು ಸ್ಪಷ್ಟ ಚಿತ್ರಣವನ್ನು ನೀಡುತ್ತವೆ: AI ವೆಚ್ಚವು ಏರುತ್ತಿದೆ, ಆದರೆ ಉತ್ಪಾದನಾ ಪ್ರೌಢಿಮೆ ಹಿಂದುಳಿದಿದೆ. ಕೇವಲ 21% ಕಂಪನಿಗಳು ತಾವು ಉತ್ಪಾದನೆಯಲ್ಲಿ ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ AI ಅನ್ನು ರನ್ ಮಾಡುತ್ತಿದ್ದೇವೆ ಎಂದು ಹೇಳುತ್ತವೆ, ಅಂದರೆ ಹೆಚ್ಚಿನ ಹೂಡಿಕೆಯು ಪ್ರಯೋಗಾಲಯಗಳು, ಪ್ರೂಫ್-ಆಫ್-ಕನ್ಸೆಪ್ಟ್‌ಗಳು ಅಥವಾ ನಿಷ್ಕ್ರಿಯ ಹಾರ್ಡ್‌ವೇರ್‌ಗಳಲ್ಲಿ ಉಳಿದಿದೆ ಎಂದರ್ಥ. ಕಡಿಮೆ GPU ಬಳಕೆ ನೇರವಾಗಿ ಬಂಡವಾಳದ ವ್ಯರ್ಥಕ್ಕೆ ಕಾರಣವಾಗುತ್ತದೆ—ಅರ್ಧ ತುಂಬಿದ ಸರ್ವರ್‌ಗಳು ಇಂದಿಗೂ ವಿದ್ಯುತ್ ಬಳಸುತ್ತವೆ, ತಂಪುಗೊಳಿಸುವಿಕೆ (cooling) ಅಗತ್ಯವಿರುತ್ತದೆ ಮತ್ತು ರಾಕ್ ಸ್ಪೇಸ್ ಅನ್ನು ಆಕ್ರಮಿಸುತ್ತವೆ. ಅರ್ಧಕ್ಕಿಂತ ಕಡಿಮೆ ಸಂಸ್ಥೆಗಳು ಪ್ರತಿ-GPU ವೆಚ್ಚವನ್ನು ಪತ್ತೆಹಚ್ಚಬಲ್ಲಾಗಿದ್ದಾಗ, ಬಜೆಟ್ ತಯಾರಿಕೆಯು ಕೇವಲ ಊಹೆಯಾಗುತ್ತದೆ ಮತ್ತು CFOಗಳು ಒಂದು ವರ್ಷದ ತಂತ್ರಜ್ಞಾನ ಬಜೆಟ್ ಅನ್ನು ನಾಶಪಡಿಸಬಲ್ಲ 'ಬ್ಲ್ಯಾಕ್ ಬಾಕ್ಸ್' ಅನ್ನು ಎದುರಿಸಬೇಕಾಗುತ್ತದೆ.

ನಾವು ಇಲ್ಲಿಗೆ ಹೇಗೆ ಬಂದೆವು?

ಹೈಪರ್ಸ್ಕೇಲರ್‌ಗಳು AI-ವಿಶೇಷ ಇನ್‌ಸ್ಟೆನ್ಸ್ ಮತ್ತು ಮಾಡೆಲ್-ಆಸ್-ಎ-ಸರ್ವಿಸ್ APIಗಳನ್ನು ಪರಿಚಯಿಸಿದಾಗ ಈ ಧಾವಂತ ಪ್ರಾರಂಭವಾಯಿತು. Google Cloud ಈಗ ಸಮೀಕ್ಷೆ ನಡೆಸಿದ ಕೆಲಸದ ಹೊರೆಯನ್ನು (workloads) 48% ರಷ್ಟು ನಿರ್ವಹಿಸುತ್ತಿದೆ, ನಂತರದ ಸ್ಥಾನಗಳಲ್ಲಿ Microsoft Azure (29%), AWS (22%) ಮತ್ತು Oracle Cloud (22%) ಇವೆ. ಮಾಡೆಲ್ ಬಳಕೆಯು ಇದೇ ರೀತಿಯ ವಿಭಜನೆಯನ್ನು ಹೊಂದಿದೆ, Gemini ಮತ್ತು OpenAI ಪ್ರತಿಯೊಂದೂ ಬಳಕೆಯ ಸುಮಾರು 40% ರಷ್ಟು ಪಾಲನ್ನು ಹೊಂದಿವೆ. ಇದರ ಆಕರ್ಷಣೆಯು ಸ್ಪಷ್ಟವಾಗಿತ್ತು: ನಂಬಿಕಾರ್ಹ ಕ್ಲೌಡ್, ಸಿದ್ಧವಾಗಿರುವ GPUಗಳು, ಮತ್ತು ಪಾರದರ್ಶಕ ವೆಚ್ಚವನ್ನು ಭರವಸೆ ನೀಡುವ ಪೇ-ಆಸ್-ಯೂ-ಗೋ (pay-as-you-go) ಮಾದರಿ.

ಈ ಅಧ್ಯಯನವು ಒಂದು ಗುಪ್ತ ವೆಚ್ಚವನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ. ಬದಲಾವಣೆಯ ನಿರ್ಧಾರದಲ್ಲಿ ಏಕೀಕರಣದ ತೊಂದರೆಗಳು ಪ್ರಮುಖ ಪಾತ್ರ ವಹಿಸುತ್ತವೆ: 41% ಜನರು ಪೂರೈಕೆದಾರರ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಪೈಪ್‌ಲೈನ್‌ಗಳಿಗೆ ಅಳವಡಿಸುವಲ್ಲಿನ ಕಷ್ಟವನ್ನು ಉಲ್ಲೇಖಿಸಿದ್ದಾರೆ, ಆದರೆ 35% ಜನರು ಒಟ್ಟು ಮಾಲೀಕತ್ವದ ವೆಚ್ಚವನ್ನು (TCO) ಉಲ್ಲೇಖಿಸಿದ್ದಾರೆ. ಕೇವಲ 8% ಜನರು ಟೋಕನ್ ಬೆಲೆಗಳು ತಮ್ಮನ್ನು ದೂರ ತಳ್ಳುತ್ತವೆ ಎಂದು ಹೇಳುತ್ತಾರೆ, ಇದು ಕೇವಲ ಬೆಲೆಗಿಂತ ಎಕೋಸಿಸ್ಟಮ್ ಹೊಂದಾಣಿಕೆ (ecosystem fit) ಹೆಚ್ಚು ಮುಖ್ಯ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತದೆ.

ವೆಂಡರ್‌ಗಳು ಮತ್ತು ಖರೀದಿದಾರರಿಗೆ ಇರುವ ಪಣ

ದೊಡ್ಡ ಮೂರು ಕ್ಲೌಡ್‌ಗಳಿಗೆ, ಮಾರುಕಟ್ಟೆಯ ಪ್ರಾಬಲ್ಯವು ಹೆಚ್ಚಿನ ಶಕ್ತಿಯನ್ನು ನೀಡುತ್ತದೆ, ಆದರೂ ಚರ್ನ್ ಉದ್ದೇಶವು ಆ ಹಿಡಿತವು ಸವಕಲಿಯಾಗುತ್ತಿರುವುದನ್ನು ಸೂಚಿಸುತ್ತದೆ.

ಖರೀದಿದಾರರು ಎರಡು ಅಪಾಯಗಳನ್ನು ಎದುರಿಸುತ್ತಿದ್ದಾರೆ. ಮೊದಲನೆಯದಾಗಿ, ನಿರಂತರ ಕಡಿಮೆ ಬಳಕೆ (utilization) ಇನ್ಫರೆನ್ಸ್ ಅಥವಾ ತರಬೇತಿ ಕೆಲಸದ ಪ್ರತಿ ವೆಚ್ಚವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ, ಇದು AI ನ ವ್ಯವಹಾರದ ಲಾಭದಾಯಕತೆಯನ್ನು ಕುಂದಿಸುತ್ತದೆ. ಎರಡನೆಯದಾಗಿ, ವೆಚ್ಚದ ದೃಶ್ಯೀಕರಣದ (visibility) ಕೊರತೆಯು ಕಾರ್ಯತಂತ್ರದ ಯೋಜನೆಗಳಿಗೆ ಅಡ್ಡಿಯಾಗುತ್ತದೆ; ಸ್ಪಷ್ಟವಾದ ಘಟಕ ಅರ್ಥಶಾಸ್ತ್ರವಿಲ್ಲದೆ (unit economics), ಮುಂದಿನ ಹೂಡಿಕೆಯನ್ನು ಸಮರ್ಥಿಸುವುದು ಅಥವಾ AI-ವರ್ಧಿತ ಉತ್ಪನ್ನಗಳಿಗೆ ಬೆಲೆ ನಿಗದಿಪಡಿಸುವುದು ಕಷ್ಟವಾಗುತ್ತದೆ.

ವಿಶೇಷೀಕೃತ AI ಕ್ಲೌಡ್‌ಗಳ ಉದಯ

ವಿಶೇಷೀಕೃತ AI ಕ್ಲೌಡ್‌ಗಳಾದ CoreWeave, Lambda ಮತ್ತು Together ಪ್ರಸ್ತುತ ಮಾರುಕಟ್ಟೆಯ 2% ಕ್ಕಿಂತ ಕಡಿಮೆ ಪಾಲನ್ನು ಹೊಂದಿವೆ. ಶೇಕಡಾ 45 ರಷ್ಟು ಉದ್ಯಮಗಳು ಮುಂದಿನ ವರ್ಷದಲ್ಲಿ ಈ ನಿಶ್ಚಿತ ಕ್ಷೇತ್ರದ (niche) ಪೂರೈಕೆದಾರರನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದಾಗಿ ಹೇಳಿವೆ, ಇದು ಮಾರಾಟಗಾರರ ಮೌಲ್ಯಮಾಪನದ ಅತಿದೊಡ್ಡ ಯೋಜಿತ ಕ್ಷೇತ್ರವಾಗಿದೆ. ಅವರ ಮೌಲ್ಯ ಪ್ರಸ್ತಾಪವು AI ಟೂಲ್‌ಚೈನ್‌ಗಳೊಂದಿಗೆ ಕಟ್ಟುನಿಟ್ಟಾದ ಸಂಯೋಜನೆ, ಹೆಚ್ಚು ಸೂಕ್ಷ್ಮವಾದ ಬಿಲ್ಲಿಂಗ್ ಮತ್ತು AI ಕೆಲಸದ ಹೊರೆಗೆ (workloads) ಹೊಂದಾಣಿಕೆಯಾದ ಹಾರ್ಡ್‌ವೇರ್ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ, ಇದು ಹೆಚ್ಚಿನ ಉದ್ಯಮಗಳನ್ನು ಕಾಡುತ್ತಿರುವ 50% ರಷ್ಟು GPU ಬಳಕೆಯ ಮಿತಿಯನ್ನು ಮೀರಿ ಅದನ್ನು ಹೆಚ್ಚಿಸಬಲ್ಲದು.

ತಾಂತ್ರಿಕ ಅಂಧ điểm: ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ (memory bandwidth)

ಹಾರ್ಡ್‌ವೇರ್ ಚರ್ಚೆಯು ಬದಲಾಗುತ್ತಿದೆ. ಇನ್ಫರೆನ್ಸ್ ಕೆಲಸದ ಹೊರೆ ಹೆಚ್ಚಾದಂತೆ, ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್—ಅಂದರೆ ಡೇಟಾ ಎಷ್ಟು ವೇಗವಾಗಿ GPU ಒಳಗೆ ಮತ್ತು ಹೊರಗೆ ಚಲಿಸುತ್ತದೆ ಎಂಬುದು—ಕಚ್ಚಾ ಕಂಪ್ಯೂಟ್ ಶಕ್ತಿಯನ್ನು ಮರೆಮಾಚುವ ಅಡಚಣೆಯಾಗಿ (bottleneck) ಪರಿಣಮಿಸುತ್ತದೆ. ಆದರೂ ಸಮೀಕ್ಷೆ ಮಾಡಲಾದ ಸಂಸ್ಥೆಗಳಲ್ಲಿ ಕೇವಲ ಶೇಕಡಾ 20 ರಷ್ಟು ಮಾತ್ರ ಈ ಮಿತಿಯನ್ನು ಗುರುತಿಸಿವೆ ಅಥವಾ ಅದನ್ನು ಸರಿಪಡಿಸಲು ಕ್ರಮ ಕೈಗೊಳ್ಳುತ್ತಿವೆ. ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಅನ್ನು ನಿರ್ಲಕ್ಷಿಸುವುದು ಎಂದರೆ ಪೂರ್ಣ ಪ್ರಮಾಣದಲ್ಲಿ ಬಳಕೆಯಾಗುತ್ತಿರುವ GPU ಕೂಡ ಅಗತ್ಯವಾದ ಥ್ರೂಪುಟ್ ಅನ್ನು ನೀಡಲು ಸಾಧ್ಯವಾಗದಿರಬಹುದು ಎಂದರ್ಥ, ಇದು ಇನ್‌ಸ್ಟೆನ್ಸ್ ಸಂಖ್ಯೆಗಳ ಹೆಚ್ಚಳ ಮತ್ತು ಹೆಚ್ಚಿನ ವೆಚ್ಚಕ್ಕೆ ಕಾರಣವಾಗುತ್ತದೆ.

ವಿರೋಧಾಭಿಪ್ರಾಯ: ಹೈಪರ್ಸ್ಕೇಲರ್‌ಗಳು (hyperscalers) ಇನ್ನೂ ಪ್ರಾಬಲ್ಯ ಹೊಂದಿದ್ದಾರೆ

ಹೈಪರ್ಸ್ಕೇಲರ್‌ಗಳ ಯುಗ ಮುಗಿದಿದೆ ಎಂದು ಘೋಷಿಸುವುದು ಅವಧ premature ಆಗಿರುತ್ತದೆ. ಅವುಗಳ ಪ್ರಮಾಣ (scale), ಜಾಗತಿಕ ವ್ಯಾಪ್ತಿ ಮತ್ತು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಉದ್ಯಮದ ಒಪ್ಪಂದಗಳು ಇಂದಿಗೂ ಅವುಗಳನ್ನು ಅನೇಕರಿಗೆ ಮೊದಲ ಆದ್ಯತೆಯ ಆಯ್ಕೆಯನ್ನಾಗಿ ಮಾಡಿದೆ. ಹೆಚ್ಚಿನ ಕೆಲಸದ ಹೊರೆಗಳು ಈ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲೇ ಉಳಿದಿವೆ ಎಂದು ಸಮೀಕ್ಷೆಯು ತೋರಿಸುತ್ತದೆ ಮತ್ತು ಬಲವಾಗಿ ಬೇರೂರಿರುವ ಮಲ್ಟಿ-ಕ್ಲೌಡ್ ಕಾರ್ಯತಂತ್ರಗಳನ್ನು ಹೊಂದಿರುವ ಸಂಸ್ಥೆಗಳಿಗೆ, ಹೆಚ್ಚಿನ ಬಳಕೆಯ ಆಕರ್ಷಣೆಗಿಂತ ಜಡತ್ವವೇ (inertia) ಹೆಚ್ಚು ಪ್ರಭಾವ ಬೀರಬಹುದು.getದ ಹೊರತಾಗಿ, ವಿಶೇಷೀಕೃತ ಕ್ಲೌಡ್‌ಗಳ ಸೀಮಿತ ಮಾರುಕಟ್ಟೆ ಪಾಲೆಯು ಆಸಕ್ತಿ ಹೆಚ್ಚಿದೆ ಆದರೆ ಸ್ಥಳಾಂತರವು ಕ್ರಮೇಣವಾಗಿ ನಡೆಯುತ್ತದೆ ಎಂಬುದನ್ನು ಸೂಚಿಸುತ್ತದೆ.

ಮುಂದೆ ಗಮನಿಸಬೇಕಾದವುಗಳು

  • ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಮಿತಿಗಳು: ಇನ್ಫರೆನ್ಸ್ ಕೆಲಸದ ಹೊರೆ ಬೆಳೆದಂತೆ, ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ನಿರ್ಣಾಯಕ ಅಡಚಣೆಯಾಗಬಹುದು, ಇದು ಹಾರ್ಡ್‌ವೇರ್ ಆಯ್ಕೆ ಮತ್ತು ಆರ್ಕಿಟೆಕ್ಚರ್ ನಿರ್ಧಾರಗಳ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರಬಹುದು.

ಪ್ರಮುಖ ಅಂಶಗಳು

  • ಅಸಮರ್ಥತೆಯೇ ಸಾಮಾನ್ಯವಾಗಿದೆ: 83% ಉದ್ಯಮಗಳು GPUಗಳನ್ನು ≤ 50% ಬಳಕೆಯಲ್ಲಿ ಚಲಾಯಿಸುತ್ತವೆ; ಕೇವಲ 44% ಮಾತ್ರ ಕಂಪ್ಯೂಟ್ ವೆಚ್ಚವನ್ನು ನಿಖರವಾಗಿ ಪತ್ತೆಹಚ್ಚಬಲ್ಲವು.
  • ಮಾರಾಟಗಾರರ ಬದಲಾವಣೆ ಹೆಚ್ಚಿದೆ: ಸಂಯೋಜನೆ (41%) ಮತ್ತು TCO (35%) ಕಾರಣದಿಂದಾಗಿ, 64% ಜನರು ಒಂದು ವರ್ಷದೊಳಗೆ ಮೂಲಸೌಕರ್ಯ ಪೂರೈಕೆದಾರರನ್ನು ಬದಲಾಯಿಸಲು ಅಥವಾ ಸೇರಿಸಲು ಯೋಜಿಸಿದ್ದಾರೆ.
  • ವಿಶೇಷೀಕೃತ ಕ್ಲೌಡ್‌ಗಳು ಏರುತ್ತಿವೆ: ಕಂಪ್ಯೂಟ್ ಅಂತರವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಮುಂದಿನ ಹನ್ನೆರಡು ತಿಂಗಳಲ್ಲಿ 45% ಜನರು ನಿರ್ದಿಷ್ಟ AI ಕ್ಲೌಡ್‌ಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲಿದ್ದಾರೆ.
  • ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಮುಂಬರುವ ಮಿತಿಯಾಗಿದೆ: ಸುಮಾರು 20% ಸಂಸ್ಥೆಗಳು ಈ ಉದಯೋನ್ಮುಖ ಅಡಚಣೆಯ ಬಗ್ಗೆ ತಿಳಿದಿವೆ ಅಥವಾ ಅದನ್ನು ಸರಿಪಡಿಸಲು ಕ್ರಮ ಕೈಗೊಳ್ಳುತ್ತಿವೆ.

AI ವೆಚ್ಚ ಮತ್ತು ಆರ್ಥಿಕ ದೃಶ್ಯೀಕರಣದ ನಡುವಿನ ಅಂತರವು ಈಗ ಕೇವಲ ಒಂದು ಸಣ್ಣ ವಿಷಯವಾಗಿ ಉಳಿದಿಲ್ಲ; ಇದು ಖರೀದಿ ಕಾರ್ಯತಂತ್ರಗಳನ್ನು ಮರುರೂಪಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರತಿಯೊಂದು ಡಾಲರ್ ಅನ್ನು ಹೆಚ್ಚು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಬಳಸಬಲ್ಲ ಪೂರೈಕೆದಾರರತ್ತ ಸ್ಥಳಾಂತರಗೊಳ್ಳಲು ಪ್ರೇರೇಪಿಸುತ್ತದೆ.