लिक्विड कूलिंग नया AI मानक है

NVIDIA Blackwell GPUs जबरदस्त AI परफॉरमेंस प्रदान करते हैं। ये लार्ज लैंग्वेज मॉडल्स और ऑटोनॉमस रोबोटिक्स को शक्ति प्रदान करते हैं।

लेकिन ये GPUs एक बड़ी समस्या पैदा करते हैं: गर्मी।

जब पावर डेंसिटी बढ़ती है, तो पारंपरिक एयर कूलिंग विफल हो जाती है। स्टैंडर्ड रैक 5 से 15 kW का उपयोग करते हैं। आधुनिक Blackwell रैक को 50 से 120 kW की आवश्यकता होती है। हवा इन चिप्स को ठंडा करने के लिए पर्याप्त तेज़ी से नहीं चल सकती।

लिक्विड कूलिंग ही इसका समाधान है। पानी हवा की तुलना में 3,500 गुना अधिक गर्मी सोखता है।

आपको AI के लिए लिक्विड कूलिंग की आवश्यकता क्यों है:

  • बेहतर परफॉरमेंस: यह थर्मल थ्रॉटलिंग (thermal throttling) को रोकता है ताकि GPUs अपनी अधिकतम गति पर चल सकें।
  • उच्च डेंसिटी: आप एक ही कमरे में अधिक कंप्यूटिंग पावर समाहित कर सकते हैं।
  • कम लागत: यह विशाल पंखों और AC यूनिटों के लिए आवश्यक ऊर्जा को कम करता है।
  • हार्डवेयर की लंबी उम्र: स्थिर तापमान कंपोनेंट्स की विफलता को रोकता है।

इसे करने के तीन मुख्य तरीके हैं:

  1. Direct-to-chip: गर्मी को सीधे बाहर निकालने के लिए GPU पर कोल्ड प्लेट्स लगाई जाती हैं।
  2. Rear-door heat exchangers: ये यूनिट्स रैक से बाहर निकलते समय गर्मी को सोख लेती हैं।
  3. Immersion cooling: अधिकतम कूलिंग के लिए सर्वर विशेष नॉन-कंडक्टिव (non-conductive) तरल पदार्थ में रखे जाते हैं।

लिक्विड कूलिंग की ओर बढ़ने के लिए योजना की आवश्यकता होती है। आपको फर्श का वजन, वाटर सिस्टम और पावर क्षमता की जांच करनी चाहिए। इसमें शुरुआती लागत अधिक होती है, लेकिन परिचालन बचत (operational savings) इसके लायक है।

एयर-कूल्ड AI का युग समाप्त हो रहा है। हाई-परफॉरमेंस इंफ्रास्ट्रक्चर के लिए लिक्विड कूलिंग अब एक आवश्यकता है।

स्रोत: https://dev.to/cyfutureai/liquid-cooled-data-centers-for-nvidia-blackwell-gpu-deployments-the-future-of-high-performance-ai-dll

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi