چرا GPUها در آموزش هوش مصنوعی از CPUها پیشی می‌گیرند؟

چرا GPUها در آموزش هوش مصنوعی از CPUها بهتر هستند

چرا نمی‌توانید صرفاً یک CPU بزرگ‌تر برای هوش مصنوعی بسازید؟

این یک سوال رایج است. اکثر مردم فکر می‌کنند GPUها به این دلیل برنده می‌شوند که سریع‌تر هستند. دلیل واقعی به طراحی مربوط می‌شود. CPUها و GPUها مشکلات متفاوتی را حل می‌کنند.

آموزش هوش مصنوعی عمدتاً ضرب ماتریسی است. شما میلیاردها عملیات ریاضی انجام می‌دهید که به یکدیگر وابسته نیستند. به این کار، پردازش موازی گفته می‌شود.

یک CPU برای وظایف پیچیده و غیرقابل پیش‌بینی ساخته شده است. این پردازنده از سیلیکون برای موارد زیر استفاده می‌کند:

• پیش‌بینی شاخه (Branch prediction)
• اجرای خارج از ترتیب (Out-of-order execution)
• حافظه‌های کش بزرگ (Large caches)

این ویژگی‌ها به CPU کمک می‌کنند تا یک درخواست وب یا یک پرس‌وجوی پایگاه داده را مدیریت کند. اما برای هوش مصنوعی، این ویژگی‌ها هدر می‌روند. شما برای ضرب کردن دو عدد به تعداد یک میلیارد بار، به یک هسته هوشمند نیاز ندارید.

یک GPU مسیر متفاوتی را در پیش می‌گیرد. این پردازنده مکانیزم‌های پیچیده را حذف می‌کند. به جای چند هسته هوشمند، از هزاران هسته ساده استفاده می‌کند.

شکاف سخت‌افزاری بسیار زیاد است:

• Intel Xeon 6+ تا ۲۸۸ هسته در هر سوکت دارد.
• NVIDIA Blackwell B300 دارای ۲۰,۴۸۰ هسته CUDA است.

بازدهی انرژی نیز متفاوت است. یک هسته Xeon حدود ۱.۵ وات مصرف می‌کند، در حالی که یک هسته B300 حدود ۰.۰۷ وات مصرف می‌کند. شما برای هوشمندی CPU که در آموزش هوش مصنوعی هرگز استفاده نمی‌شود، هزینه انرژی بالایی می‌پردازید.

پهنای باند حافظه نیز اهمیت دارد.

• Xeon 6+ حدود ۷۷۰ گیگابایت بر ثانیه پهنای باند ارائه می‌دهد.
• B300 با استفاده از حافظه HBM3e، پهنای باند ۸ ترابایت بر ثانیه را ارائه می‌دهد.

هزاران هسته اگر بیکار بنشینند و منتظر داده‌ها باشند، بی‌فایده هستند. GPUها تعداد زیادی هسته را با سرعت‌های بسیار بالای حافظه جفت می‌کنند تا بتوانند با هم کار کنند.

اگر سعی کنید ۲۰,۰۰۰ هسته CPU را روی یک تراشه قرار دهید، بلافاصله با دیوار توان مصرفی و گرمای شدید مواجه می‌شوید. همچنین هزینه ویژگی‌های «هوشمندی» را می‌پردازید که به آن‌ها نیازی ندارید.

این‌طور به موضوع نگاه کنید:

• یک هسته CPU مانند یک ماشین فرمول ۱ است. سریع است و پیچ‌ها را به خوبی پشت سر می‌گذارد، اما گران‌قیمت است.
• یک هسته GPU مانند یک لیفتراک است. سریع یا لوکس نیست، اما ناوگانی از لیفتراک‌ها، محموله بیشتری نسبت به یک ماشین مسابقه‌ای جابه‌جا می‌کنند.

هوش مصنوعی مدرن با هر دو بهترین عملکرد را دارد. CPU مانند مغز برای مدیریت وظایف عمل می‌کند و GPU مانند ماهیچه برای انجام محاسبات سنگین عمل می‌کند.

Source: https://dev.to/ambarish_0221/why-gpus-beat-cpus-for-ai-training-and-why-you-cant-just-build-a-bigger-cpu-3dff

Optional learning community: https://t.me/GyaanSetuAi