ಗಣಿತದ ಒಳಗೆ: OpenAI ನ Jalapeño ಚಿಪ್ ಹೇಗೆ AI ಅರ್ಥಶಾಸ್ತ್ರವನ್ನು ಗುರಿಯಾಗಿಸುತ್ತದೆ

OpenAI ತನ್ನ ಬೆಳವಣಿಗೆಯನ್ನು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಹಾರ್ಡ್‌ವೇರ್‌ನ ಏರುತ್ತಿರುವ ವೆಚ್ಚಗಳಿಂದ ಬೇರ್ಪಡಿಸಲು, ತನ್ನದೇ ಆದ ಕಸ್ಟಮ್ ಸಿಲಿಕಾನ್ ಅನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ಮೂಲಕ ಆಕ್ರಮಣಕಾರಿಯಾಗಿ ಮುನ್ನಡೆಯುತ್ತಿದೆ. Broadcom ಸಹಯೋಗದೊಂದಿಗೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ Application-Specific Integrated Circuit (ASIC) ಆದ ಹೊಸ "Jalapeño" ಚಿಪ್, ಇನ್ಫರೆನ್ಸ್ (inference) ಅರ್ಥಶಾಸ್ತ್ರವನ್ನು ಉತ್ತಮಗೊಳಿಸಲು ವರ್ಟಿಕಲ್ ಇಂಟಿಗ್ರೇಷನ್ (vertical integration) ಕಡೆಗೆ ಒಂದು ಕಾರ್ಯತಂತ್ರದ ಬದಲಾವಣೆಯನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ.

Nvidia ಮೇಲಿನ ಅವಲಂಬನೆಯನ್ನು ಮುರಿಯುವುದು

ವರ್ಷಗಳಿಂದ, AI ಉದ್ಯಮವು Nvidia ಪ್ರಾಬಲ್ಯವಿರುವ ಬೃಹತ್ ಬಂಡವಾಳ ವೆಚ್ಚದ ಚಕ್ರದಿಂದ ವ್ಯಾಖ್ಯಾನಿಸಲ್ಪಟ್ಟಿದೆ. Nvidia ಪ್ರಸ್ತುತ ಸುಮಾರು 75% ಲಾಭದ ಅಂಚನ್ನು (profit margins) ಹೊಂದಿದ್ದು, ದೊಡ್ಡ ಪ್ರಮಾಣದ ಮಾದರಿಗಳನ್ನು ತರಬೇತಿಗೊಳಿಸುವ ಮತ್ತು ನಿಯೋಜಿಸುವ ವೆಚ್ಚವು ಬುದ್ಧಿವಂತಿಕೆಯನ್ನು ವಿಸ್ತರಿಸಲು (scaling intelligence) ಒಂದು ದೊಡ್ಡ ಅಡಚಣೆಯಾಗಿದೆ. OpenAI ನ Jalapeño ಚಿಪ್ ಅಭಿವೃದ್ಧಿಯು ಈ ಆರ್ಥಿಕ ಒತ್ತಡಕ್ಕೆ ನೇರ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿದೆ.

ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ GPUಗಳಿಂದ ವಿಶೇಷವಾದ ASIC ಗೆ ಬದಲಾಗುವ ಮೂಲಕ, ಹಾರ್ಡ್‌ವೇರ್ ಮಾರಾಟಗಾರರಿಗೆ ಪಾವತಿಸುವ "ತೆರಿಗೆ"ಯನ್ನು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆ ಮಾಡುವ ಗುರಿಯನ್ನು OpenAI ಹೊಂದಿದೆ. ವಿವಿಧ ರೀತಿಯ ಪ್ಯಾರಲಲ್ ಕಂಪ್ಯೂಟಿಂಗ್ ಕಾರ್ಯಗಳಿಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ Nvidia ನ GPUಗಳಿಗ Unlike, Jalapeño ಚಿಪ್ ಅನ್ನು LLM ಇನ್ಫರೆನ್ಸ್‌ನಲ್ಲಿರುವ ಗಣಿತದ ಕೆಲಸದ ಹೊರೆಯನ್ನು (mathematical workloads) ನಿರ್ವಹಿಸಲು ನಿರ್ದಿಷ್ಟವಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗುತ್ತಿದೆ. ಈ ವಿಶೇಷತೆಯು ಹೆಚ್ಚಿನ ದಕ್ಷತೆ, ಕಡಿಮೆ ವಿದ್ಯುತ್ ಬಳಕೆ ಮತ್ತು ಅಂತಿಮವಾಗಿ, ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಕಡಿಮೆ ವೆಚ್ಚವನ್ನು ನೀಡುತ್ತದೆ.

Broadcom ಸಹಯೋಗ ಮತ್ತು ASIC ಪ್ರಯೋಜನಗಳು

Broadcom ನೊಂದಿಗಿನ ಪಾಲುದಾರಿಕೆಯು ಈ ಕಾರ್ಯತಂತ್ರದ ಒಂದು ನಿರ್ಣಾಯಕ ಅಂಶವಾಗಿದೆ. Broadcom ಸೆಮಿಕಂಡಕ್ಟರ್ ಕ್ಷೇತ್ರದಲ್ಲಿ ಅನುಭವಿ ಸಂಸ್ಥೆಯಾಗಿದ್ದು, ವಾಸ್ತುಶಿಲ್ಪ ವಿನ್ಯಾಸದಿಂದ (architectural design) ಭೌತಿಕ ಸಿಲಿಕಾನ್‌ಗೆ ಚಲಿಸಲು ಅಗತ್ಯವಿರುವ ತಾಂತ್ರಿಕ ಪರಿಣತಿಯನ್ನು ಒದಗಿಸುತ್ತದೆ. ASIC ವಿಧಾನವನ್ನು ಬಳಸುವ ಮೂಲಕ, OpenAI ತನ್ನ ಮಾದರಿಗಳಿಗೆ ಅಗತ್ಯವಿರುವ ನಿರ್ದಿಷ್ಟ ಗಣಿತದ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು—ಉದಾಹರಣೆಗೆ ಮ್ಯಾಟ್ರಿಕ್ಸ್ ಗುಣಾಕಾರ (matrix multiplication) ಮತ್ತು ಅಟೆನ್ಷನ್ ಮೆಕ್ಯಾನಿಸಮ್‌ಗಳಂತಹ (attention mechanisms)—ನೇರವಾಗಿ ಹಾರ್ಡ್‌ವೇರ್ ಸರ್ಕ್ಯೂಟ್ರಿಯಲ್ಲಿ ಅಳವಡಿಸಬಹುದು.

ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಹಾರ್ಡ್‌ವೇರ್‌ನೊಂದಿಗೆ ಇಂತಹ ಮಟ್ಟದ ಆಪ್ಟಿಮೈಸೇಶನ್ ಸಾಧಿಸುವುದು ಕಷ್ಟ. ಒಂದು ASIC ಬಳಕೆಯಾಗದ ವೈಶಿಷ್ಟ್ಯಗಳ ಅನಗತ್ಯ ಹೊರೆಯನ್ನು (overhead) ತೆಗೆದುಹಾಕಬಹುದು ಮತ್ತು ಟ್ರಾನ್ಸ್‌ಫಾರ್ಮರ್ ಆಧಾರಿತ ಆರ್ಕಿಟೆಕ್ಚರ್‌ಗಳಿಗೆ ಅತ್ಯಂತ ಮುಖ್ಯವಾದ ಕಂಪ್ಯೂಟ್ ಯುನಿಟ್‌ಗಳಿಗೆ ಹೆಚ್ಚಿನ die area ಅನ್ನು ಮೀಸಲಿಡಬಹುದು. ಡೆವಲಪರ್‌ಗಳು ಮತ್ತು ಸಂಸ್ಥಾಪಕರಿಗೆ, ಈ ಬದಲಾವಣೆಯು ಮಾದರಿ ನಿಯೋಜನೆಯು ಹೆಚ್ಚು ಆರ್ಥಿಕವಾಗಿ ಸುಸ್ಥಿರವಾಗುವ ಭವಿಷ್ಯವನ್ನು ಸೂಚಿಸುತ್ತದೆ, ಇದು ಸಂಕೀರ್ಣವಾದ ರೀಸನಿಂಗ್ ಮಾಡೆಲ್‌ಗಳನ್ನು (reasoning models) ಪ್ರಸ್ತುತ ವೆಚ್ಚದ ಒಂದು ಸಣ್ಣ ಭಾಗದಲ್ಲಿ ನಡೆಸಲು ಸಂಭವನೀಯವಾಗಿ ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

AI ಮೂಲಸೌಕರ್ಯದ ಭೂದೃಶ್ಯದ ಮೇಲಿನ ಪರಿಣಾಮಗಳು

Jalapeño ಚಿಪ್‌ನ ಉದಯವು AI ಉದ್ಯಮದಲ್ಲಿನ ಒಂದು ವಿಶಾಲವಾದ ಬದಲಾವಣೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ: ಅದುವೇ "ಮಾಡೆಲ್-ಹಾರ್ಡ್‌ವೇರ್ ಕೋ-ಡಿಜೈನ್" (Model-Hardware Co-design) ಯುಗ. ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳು ಹೆಚ್ಚು ವಿಶೇಷೀಕರಣಗೊಳ್ಳುತ್ತಿದ್ದಂತೆ, ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಹಾರ್ಡ್‌ವೇರ್ ಮಾಡಬಲ್ಲ ಮತ್ತು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಿದ ಸಿಲಿಕಾನ್ ಸಾಧಿಸಬಲ್ಲ ವಿಷಯಗಳ ನಡುವಿನ ಅಂತರವು ಮತ್ತಷ್ಟು ಹೆಚ್ಚಾಗುತ್ತದೆ.

OpenAI ಈ ಕಸ್ಟಮ್ ಸಿಲಿಕಾನ್ ಅನ್ನು ಯಶಸ್ವಿಯಾಗಿ ವಿಸ್ತರಿಸಿದರೆ, ಅದು ಒಂದು ಬಲಿಷ್ಠವಾದ ರಕ್ಷಣಾ ಕವಚವನ್ನು (moat) ಸೃಷ್ಟಿಸುತ್ತದೆ. ಇದು ವಿಸ್ತರಣೆಯ ನೇರ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು ಮಾತ್ರವಲ್ಲದೆ, ಕೇವಲ ಸಿದ್ಧ ಹಾರ್ಡ್‌ವೇರ್ ಚಿಪ್‌ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವ ಸ್ಪರ್ಧಿಗಳು ಬೆಲೆ-ಕಾರ್ಯಕ್ಷಮತೆಯ ವಿಷಯದಲ್ಲಿ ಸಮೀಪಿಸಲು ಕಷ್ಟವಾಗುವಂತಹ ಒಂದು ಸ್ವಂತ ಹಾರ್ಡ್‌ವೇರ್-ಸಾಫ್ಟ್‌ವೇರ್ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ. ಈ ಕ್ರಮವು ಇಡೀ AI ಮೌಲ್ಯ ಸರಪಳಿಯನ್ನು ಮರುಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಒತ್ತಾಯಿಸುತ್ತದೆ, ಅತ್ಯಂತ ಯಶಸ್ವಿ AI ಪ್ರಯೋಗಾಲಯಗಳು ಅತ್ಯಂತ ದಕ್ಷ ಹಾರ್ಡ್‌ವೇರ್ ಆರ್ಕಿಟೆಕ್ಟ್‌ಗಳಾಗುವ ಮಾದರಿಯತ್ತ ಉದ್ಯಮವನ್ನು ತಳ್ಳುತ್ತದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

• ವೆಚ್ಚದ ತಗ್ಗಿಸುವಿಕೆ: Nvidia ನಂತಹ ಹಾರ್ಡ್‌ವೇರ್ ಪೂರೈಕೆದಾರರ ಹೆಚ್ಚಿನ ಲಾಭದ ಅಂಚುಗಳನ್ನು ತಪ್ಪಿಸಲು ಮತ್ತು ಬೃಹತ್ ಬಂಡವಾಳ ವೆಚ್ಚಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಲು Jalapeño ಚಿಪ್ ಒಂದು ಕಾರ್ಯತಂತ್ರದ ಕ್ರಮವಾಗಿದೆ.
• ವಿಶೇಷ ಆರ್ಕಿಟೆಕ್ಚರ್: Broadcom ನೊಂದಿಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸಲಾದ ಈ ASIC, ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಕಂಪ್ಯೂಟಿಂಗ್ ಬದಲಿಗೆ LLM ಇನ್ಫರೆನ್ಸ್‌ನ ಗಣಿತದ ಅವಶ್ಯಕತೆಗಳಿಗಾಗಿ ನಿರ್ದಿಷ್ಟವಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲ್ಪಟ್ಟಿದೆ.
• ವರ್ಟಿಕಲ್ ಇಂಟಿಗ್ರೇಷನ್: OpenAI ಒಂದು ಕೋ-ಡಿಜೈನ್ ಮಾದಲಿಯತ್ತ ಸಾಗುತ್ತಿದೆ, ಅಲ್ಲಿ ಕಸ್ಟಮ್ ಸಿಲಿಕಾನ್ ಮತ್ತು ಸುಧಾರಿತ ಸಾಫ್ಟ್‌ವೇರ್ ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಮತ್ತು ಬೃಹತ್ ಪ್ರಮಾಣದ ವಿಸ್ತರಣೆಯನ್ನು ಸಾಧ್ಯವಾಗಿಸಲು ಒಟ್ಟಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತವೆ.