OpenAI Jalapeño ಅನ್ನು ಅನಾವರಣಗೊಳಿಸಿದೆ: ತನ್ನ ಮೊದಲ ಕಸ್ಟಮ್ AI ಇನ್ಫರೆನ್ಸ್ ಚಿಪ್

Broadcom ಸಹಯೋಗದೊಂದಿಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸಲಾದ ತನ್ನ ಮೊದಲ ಕಸ್ಟಮ್-ನಿರ್ಮಿತ ಇನ್ಫರೆನ್ಸ್ ಪ್ರೊಸೆಸರ್ Jalapeño ಅನ್ನು ಘೋಷಿಸುವ ಮೂಲಕ OpenAI ಅಧಿಕೃತವಾಗಿ ಸಿಲಿಕಾನ್ ಸ್ಪರ್ಧೆಗೆ ಪ್ರವೇಶಿಸಿದೆ. ಈ ಕಾರ್ಯತಂತ್ರದ ಕ್ರಮವು OpenAI ನ ಮೂಲಸೌಕರ್ಯ ತಂತ್ರದಲ್ಲಿ ಗಮನಾರ್ಹ ಬದಲಾವಣೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ, ಇದು ತನ್ನ ಬೃಹತ್ ಮಾದರಿಗಳನ್ನು (models) ಬಳಕೆದಾರರಿಗೆ ನಿಯೋಜಿಸುವ ವಿಧಾನವನ್ನು ಉತ್ತಮಗೊಳಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ.

Nvidia GPUs ಮೇಲಿನ ಅವಲಂಬನೆಯನ್ನು ಮುಕ್ತಗೊಳಿಸುವುದು

ವರ್ಷಗಳಿಂದ, AI ಉದ್ಯಮವು Nvidia ನ ಹೈ-ಎಂಡ್ GPUs ಮೇಲೆ ಹೆಚ್ಚಿನ ಅವಲಂಬನೆಯನ್ನು ಹೊಂದಿದೆ. ಆದಾಗ್ಯೂ, OpenAI ತನ್ನದೇ ಆದ "AI accelerators"ಗಳನ್ನು—ನಿರ್ದಿಷ್ಟ ಮೆಷಿನ್ ಲರ್ನಿಂಗ್ ಕೆಲಸದ ಹೊರೆಯನ್ನು (workloads) ನಿಭಾಯಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ವಿಶೇಷ ಸಿಲಿಕಾನ್ ಅನ್ನು—ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ಮೂಲಕ Google ಮತ್ತು Amazon ನಂತಹ ತಂತ್ರಜ್ಞಾನದ ದೈತ್ಯರ ಸಾಲನ್ನು ಸೇರುತ್ತಿದೆ. ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳ (frontier models) ಪ್ರಿ-ಟ್ರೈನಿಂಗ್‌ಗೆ ಅಗತ್ಯವಿರುವ ಬೃಹತ್ ಕಂಪ್ಯೂಟೇಶನಲ್ ಪವರ್‌ಗೆ Nvidia ಇಂದಿಗೂ ಅತ್ಯುತ್ತಮ ಮಾನದಂಡವಾಗಿ ಉಳಿದಿದ್ದರೂ, OpenAI ಮುಂದಿನ ನಿರ್ಣಾಯಕ ಅಡಚಣೆಯನ್ನು ಗುರಿಯಾಗಿಸಿಕೊಂಡಿದೆ: ಅದುವೇ ಇನ್ಫರೆನ್ಸ್ (inference).

Jalapeño ಅನ್ನು ವಿಶೇಷವಾಗಿ ಇನ್ಫರೆನ್ಸ್‌ಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಇದು ಪ್ರಿ-ಟ್ರೇನ್ ಮಾಡಲಾದ ಮಾದರಿಯು ಬಳಕೆದಾರರ ಕಮಾಂಡ್‌ಗಳನ್ನು ಪ್ರೊಸೆಸ್ ಮಾಡಿ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ನೀಡುವ ಹಂತವಾಗಿದೆ. ಈ ನಿರ್ದಿಷ್ಟ ಹಂತದ ಮೇಲೆ ಗಮನ ಹರಿಸುವ ಮೂಲಕ, OpenAI ತನ್ನ ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಹಾರ್ಡ್‌ವೇರ್ ಮೇಲಿನ ಅವಲಂಬನೆಯನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಮತ್ತು ತನ್ನ ಕಾರ್ಯಾಚರಣೆಯ ವೆಚ್ಚಗಳ ಮೇಲೆ ಸೂಕ್ಷ್ಮ ನಿಯಂತ್ರಣವನ್ನು ಪಡೆಯಲು ಗುರಿಯಾಗಿಸಿಕೊಂಡಿದೆ.

ಪರ್ಫಾರ್ಮೆನ್ಸ್-ಪರ್-ವ್ಯಾಟ್ ಮತ್ತು ಆರ್ಥಿಕ ದಕ್ಷತೆ

Jalapeño ಸುತ್ತಲಿನ ಅತ್ಯಂತ ಗಮನಾರ್ಹ ತಾಂತ್ರಿಕ ವಾದಗಳಲ್ಲಿ ಒಂದೆಂದರೆ ಅದರ ದಕ್ಷತೆ. ಪ್ರಸ್ತುತ ಲಭ್ಯವಿರುವ ಅತ್ಯಾಧುನಿಕ ಪರ್ಯಾಯಗಳಿಗಿಂತ ಈ ಚಿಪ್ ಗಮನಾರ್ಹವಾಗಿ ಉತ್ತಮವಾದ ಪರ್ಫಾರ್ಮೆನ್ಸ್-ಪರ್-ವ್ಯಾಟ್ ಅನ್ನು ನೀಡುತ್ತದೆ ಎಂದು ಆರಂಭಿಕ ಪರೀಕ್ಷೆಗಳು ತೋರಿಸಿವೆ ಎಂದು OpenAI ವರದಿ ಮಾಡಿದೆ. ಹೈಪರ್-ಸ್ಕೇಲ್ AI ಜಗತ್ತಿನಲ್ಲಿ, ವಿದ್ಯುತ್ ದಕ್ಷತೆಯು ಕೇವಲ ತಾಂತ್ರಿಕ ಮಾನದಂಡವಲ್ಲ; ಇದು ಒಂದು ಪ್ರಮುಖ ಆರ್ಥಿಕ ಚಾಲಕ ಶಕ್ತಿಯಾಗಿದೆ.

ರಿಯಲ್-ಟೈಮ್ ಕೋಡಿಂಗ್ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸುವಾಗ ಕಾರ್ಯಾಚರಣೆಯ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಚಿಪ್‌ನ ಸಾಮರ್ಥ್ಯವನ್ನು ಕಂಪನಿಯು ವಿಶೇಷವಾಗಿ ಎತ್ತಿ ತೋರಿಸಿದೆ. OpenAI ತನ್ನ Codex ನಂತಹ ಏಜೆಂಟಿಕ್ ಉತ್ಪನ್ನಗಳನ್ನು ವಿಸ್ತರಿಸುತ್ತಿದ್ದಂತೆ, ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಕಡಿಮೆ ವೆಚ್ಚದಲ್ಲಿ ಸಂಕೀರ್ಣ ತರ್ಕದ ಕಾರ್ಯಗಳನ್ನು (reasoning tasks) ನಡೆಸುವ ಸಾಮರ್ಥ್ಯವು ಉತ್ತಮ ಲಾಭದ ಮಾರ್ಜಿನ್‌ಗಳನ್ನು ಕಾಯ್ದುಕೊಳ್ಳಲು ಮತ್ತು ಡೆವಲಪರ್‌ಗಳು ಹಾಗೂ ಎಂಟರ್‌ಪ್ರೈಸ್ ಬಳಕೆದಾರರಿಬ್ಬರಿಗೂ AI ಅನ್ನು ಹೆಚ್ಚು ಕೈಗೆಟುಕುವಂತೆ ಮಾಡಲು ಅತ್ಯಗತ್ಯವಾಗಿರುತ್ತದೆ.

ವರ್ಟಿಕಲ್ ಇಂಟಿಗ್ರೇಷನ್: ಸಂಪೂರ್ಣ AI ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ಉತ್ತಮಗೊಳಿಸುವುದು

Jalapeño ಅಭಿವೃದ್ಧಿಯು ವರ್ಟಿಕಲ್ ಇಂಟಿಗ್ರೇಷನ್‌ಗೆ OpenAI ನ ಬದ್ಧತೆಗೆ ಸಾಕ್ಷಿಯಾಗಿದೆ. ಕಂಪನಿಯು ಈಗ ಕೇವಲ ಮಾದರಿ ನಿರ್ಮಾತೃ (model builder) ಮಾತ್ರವಲ್ಲ; ಅದು ಮೂಲಸೌಕರ್ಯ ಪೂರೈಕೆದಾರನಾಗಿಯೂ (infrastructure provider) ಬದಲಾಗುತ್ತಿದೆ. ಚಿಪ್ ಆರ್ಕಿಟೆಕ್ಚರ್, ಕರ್ನೆಲ್‌ಗಳು, ಮೆಮೊರಿ ಸಿಸ್ಟಮ್‌ಗಳು, ನೆಟ್‌ವರ್ಕಿಂಗ್ ಮತ್ತು ನಿಯೋಜನೆ ವೇಳಾಪಟ್ಟಿಯನ್ನು (deployment scheduling) ಒಳಗೊಂಡಂತೆ ತಂತ್ರಜ್ಞಾನದ ಸ್ಟ್ಯಾಕ್‌ನ ಪ್ರತಿಯೊಂದು ಪದರವನ್ನು ಉತ್ತಮಗೊಳಿಸುವುದು OpenAI ನ ತಂತ್ರವಾಗಿದೆ.

ಆಸಕ್ತಿದಾಯಕ ವಿಷಯವೆಂದರೆ, Jalapeño ಚಿಪ್‌ನ ವಿನ್ಯಾಸ ಮತ್ತು ಅಭಿವೃದ್ಧಿಯಲ್ಲಿ ಸಹಾಯ ಮಾಡಲು OpenAI ತನ್ನದೇ ಆದ AI ಮಾದರಿಗಳನ್ನು ಬಳಸಿಕೊಂಡಿದೆ. ಈ ಫೀಡ್‌ಬ್ಯಾಕ್ ಲೂಪ್—ಅಂದರೆ AI ಮುಂದಿನ ತಲೆಮಾರಿನ AI ಅನ್ನು ಚಲಾಯಿಸುವ ಹಾರ್ಡ್‌ವೇರ್ ಅನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುತ್ತದೆ—ಹಾರ್ಡ್‌ವೇರ್ ಎಂಜಿನಿಯರಿಂಗ್‌ನಲ್ಲಿ ಒಂದು ಅತ್ಯಾಧುನಿಕ ವಿಕಾಸವನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ. ಹಾರ್ಡ್‌ವೇರ್ ಅನ್ನು ನಿಯಂತ್ರಿಸುವ ಮೂಲಕ, ತನ್ನ ಸಾಫ್ಟ್‌ವೇರ್ ಮತ್ತು ಸಿಲಿಕಾನ್ ಸಂಪೂರ್ಣವಾಗಿ ಸಿಂಕ್ರೊನೈಸ್ ಆಗಿರುವುದನ್ನು OpenAI ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಬಹುದು, ಇದು ವೇಗವಾದ ಮತ್ತು ಹೆಚ್ಚು ವಿಶ್ವಾಸಾರ್ಹ ಮಾದರಿ ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಕಾರಣವಾಗುತ್ತದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

• ಟಾರ್ಗೆಟೆಡ್ ಇನ್ಫರೆನ್ಸ್: Jalapeño ಎಂಬುದು ಮಾದರಿಗಳ ಆರಂಭಿಕ ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆಗಿಂತ ಹೆಚ್ಚಾಗಿ ಅವುಗಳ ನಿಯೋಜನೆಯನ್ನು (deployment) ಉತ್ತಮಗೊಳಿಸಲು OpenAI ಮತ್ತು Broadcom ನಿಂದ ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಕಸ್ಟಮ್ ಇನ್ಫರೆನ್ಸ್ ಪ್ರೊಸೆಸರ್ ಆಗಿದೆ.
• ದಕ್ಷತೆಯ ಲಾಭಗಳು: ಆರಂಭಿಕ ಫಲಿತಾಂಶಗಳು ಉತ್ತಮವಾದ ಪರ್ಫಾರ್ಮೆನ್ಸ್-ಪರ್-ವ್ಯಾಟ್ ಅನ್ನು ಸೂಚಿಸುತ್ತವೆ, ಇದು ವಿಶೇಷವಾಗಿ ಕೋಡಿಂಗ್ ಮಾದರಿಗಳಂತಹ ರಿಯಲ್-ಟೈಮ್ ಅಪ್ಲಿಕೇಶನ್‌ಗಳ ಕಾರ್ಯಾಚರಣೆಯ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ.
• ಫುಲ್-ಸ್ಟ್ಯಾಕ್ ತಂತ್ರ: OpenAI ಸಂಪೂರ್ಣ ವರ್ಟಿಕಲ್ ಇಂಟಿಗ್ರೇಷನ್ ಕಡೆಗೆ ಸಾಗುತ್ತಿದೆ, ಚಿಪ್ ಆರ್ಕಿಟೆಕ್ಚರ್ ಮತ್ತು ಮೆಮೊರಿ ಸಿಸ್ಟಮ್‌ಗಳಿಂದ ಹಿಡಿದು ಅವುಗಳ ಮೇಲೆ ಚಲಿಸುವ ಏಜೆಂಟಿಕ್ ಉತ್ಪನ್ನಗಳವರೆಗೆ ಎಲ್ಲವನ್ನೂ ವಿನ್ಯಾಸಗೊಳಿಸುತ್ತಿದೆ.