લિક્વિડ કૂલિંગ એ નવો AI સ્ટાન્ડર્ડ છે

NVIDIA Blackwell GPUs વિશાળ AI પરફોર્મન્સ આપે છે. તેઓ લાર્જ લેંગ્વેજ મોડલ્સ અને ઓટોનોમસ રોબોટિક્સને શક્તિ આપે છે.

પરંતુ આ GPUs એક મોટી સમસ્યા ઊભી કરે છે: ગરમી.

જ્યારે પાવર ડેન્સિટી વધે છે ત્યારે પરંપરાગત એર કૂલિંગ નિષ્ફળ જાય છે. સ્ટાન્ડર્ડ રેક્સ 5 થી 15 kW નો ઉપયોગ કરે છે. આધુનિક Blackwell રેક્સને 50 થી 120 kW ની જરૂર પડે છે. આ ચિપ્સને ઠંડી કરવા માટે હવા પૂરતી ઝડપથી વહી શકતી નથી.

લિક્વિડ કૂલિંગ એ તેનો ઉકેલ છે. પાણી હવાની સરખામણીમાં 3,500 ગણી વધુ ગરમી શોષી લે છે.

AI માટે તમારે લિક્વિડ કૂલિંગની જરૂર કેમ છે:

  • વધુ સારું પરફોર્મન્સ: તે થર્મલ થ્રોટલિંગને અટકાવે છે જેથી GPUs તેની મહત્તમ ઝડપે ચાલે છે.
  • ઉચ્ચ ડેન્સિટી: તમે એક જ રૂમમાં વધુ કમ્પ્યુટિંગ પાવર સમાવી શકો છો.
  • ઓછો ખર્ચ: તે વિશાળ ફેન અને AC યુનિટ્સ માટે જરૂરી ઊર્જા ઘટાડે છે.
  • લાંબુ હાર્ડવેર આયુષ્ય: સ્થિર તાપમાન ઘટકોની નિષ્ફળતાને અટકાવે છે.

આ કરવા માટે મુખ્ય ત્રણ રીતો છે:

  1. Direct-to-chip: ગરમીને સીધી રીતે દૂર કરવા માટે GPU પર કોલ્ડ પ્લેટ્સ મૂકવામાં આવે છે.
  2. Rear-door heat exchangers: આ યુનિટ્સ રેકમાંથી બહાર નીકળતી ગરમીને પકડી લે છે.
  3. Immersion cooling: મહત્તમ કૂલિંગ માટે સર્વર્સ ખાસ નોન-કન્ડક્ટિવ પ્રવાહીમાં રાખવામાં આવે છે.

લિક્વિડ કૂલિંગ તરફ આગળ વધવા માટે આયોજનની જરૂર છે. તમારે ફ્લોરનું વજન, વોટર સિસ્ટમ્સ અને પાવર ક્ષમતા તપાસવી આવશ્યક છે. શરૂઆતમાં તેનો ખર્ચ વધુ છે, પરંતુ ઓપરેશનલ બચત તે માટે યોગ્ય છે.

એર-કૂલ્ડ AI નો યુગ સમાપ્ત થઈ રહ્યો છે. હાઈ-પરફોર્મન્સ ઇન્ફ્રાસ્ટ્રક્ચર માટે લિક્વિડ કૂલિંગ હવે અનિવાર્ય છે.

સ્ત્રોત: https://dev.to/cyfutureai/liquid-cooled-data-centers-for-nvidia-blackwell-gpu-deployments-the-future-of-high-performance-ai-dll

વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi