ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ AI ಮಾಡೆಲ್ ಅನ್ನು ಚಲಾಯಿಸುವುದು ಈಗ ಕೇವಲ ವೈಜ್ಞಾನಿಕ ಸಾಧನೆಯಾಗಿ ಉಳಿದಿಲ್ಲ, ಬದಲಾಗಿ ವಿದ್ಯುತ್ ಬಿಲ್ ಮತ್ತು ಡೇಟಾ ಸೆಂಟರ್ ಬಾಡಿಗೆಯ ಬಗ್ಗೆ ಇರುವ ಕಠಿಣ ಗಣಿತದ ಸಮಸ್ಯೆಯಾಗಿದೆ. Gemini ಉತ್ಪಾದಿಸುವ ಪ್ರತಿಯೊಂದು ಟೋಕನ್ ಕೂಡ Google ಗೆ ನೈಜ ವೆಚ್ಚವನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ—ಸಿಲಿಕಾನ್ ಸೈಕಲ್‌ಗಳು, ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಮತ್ತು ವಿದ್ಯುತ್ ಬಳಕೆ. ಕ್ವೆರಿಗಳ ಪ್ರಮಾಣ ಹೆಚ್ಚಾದಂತೆ, ಒಂದು ಸೆಂಟ್‌ನ ಸಣ್ಣ ಭಾಗಗಳು ಕೂಡ ಒಟ್ಟು ಲಾಭದ ಪ್ರಮಾಣವನ್ನೇ ನುಂಗಿ ಹಾಕುವಂತಹ ದೊಡ್ಡ ಮೊತ್ತವಾಗಿ ಪರಿಣಮಿಸುತ್ತವೆ. ಈ ಮೌನ ತುರ್ತು ಅಥವಾ ಅವಶ್ಯಕತೆಯೇ Google ಒಳಗೆ ಈಗ ರೂಪಗೊಳ್ಳುತ್ತಿರುವ Frozen v2 ಎಂಬ ಆಂತರಿಕ ಸರ್ವರ್ ಚಿಪ್ ಪ್ರಾಜೆಕ್ಟ್‌ಗೆ ಕಾರಣವಾಗಿದೆ. ತನ್ನ ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ Tensor Processing Units (TPUs) ಅನ್ನು ಮತ್ತೊಂದು ತಲೆಮಾರಿಗೆ ಸುಧಾರಿಸುವ ಬದಲು, ಕಂಪನಿಯು ಅತ್ಯಂತ ಕ್ರಾಂತಿಕಾರಿ ಪ್ರಯತ್ನವೊಂದನ್ನು ಮಾಡುತ್ತಿದೆ: Gemini ಮಾಡೆಲ್‌ನ ಅಸ್ಥಿಪಂಜರವನ್ನು (skeleton) ನೇರವಾಗಿ ಸಿಲಿಕಾನ್‌ನಲ್ಲೇ ಅಳವಡಿಸುವುದು.

ಹೊಂದಾಣಿಕೆಯ ಮಾಡಬಹುದಾದ ಅಕ್ಸೆಲರೇಟರ್‌ಗಳಿಂದ ಮಾಡೆಲ್-ನಿರ್ದಿಷ್ಟ ಸಿಲಿಕಾನ್‌ವರೆಗೆ

Google ನ TPUs ಸುಮಾರು ಒಂದು ದಶಕದಿಂದ ಅದರ ಮೂಲಸೌಕರ್ಯದ ಬೆನ್ನೆಲುಬಾಗಿವೆ. ಅವು ಮಾಡೆಲ್‌ಗಳನ್ನು ತರಬೇತಿಗೊಳಿಸುತ್ತವೆ, ಸರ್ಚ್ ರ್ಯಾಂಕಿಂಗ್ ಅಲ್ಗಾರಿದಮ್‌ಗಳಿಗೆ ಶಕ್ತಿ ನೀಡುತ್ತವೆ ಮತ್ತು Meta ಸೇರಿದಂತೆ Nvidia GPUಗಳಿಗೆ ಪರ್ಯಾಯವನ್ನು ಹುಡುಕುತ್ತಿರುವ ಕ್ಲೌಡ್ ಗ್ರಾಹಕರಿಗೆ ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ ಬಾಡಿಗೆಗೆ ನೀಡಲಾಗುತ್ತದೆ. ಆ ಬಹುಮುಖಿ ಸಾಮರ್ಥ್ಯವೇ ಒಂದು TPU ಅನ್ನು TPU ಆಗಿ ಮಾಡುತ್ತದೆ. ಇದು ಮ್ಯಾಟ್ರಿಕ್ಸ್ ಗುಣಾಕಾರ ಮತ್ತು ಮೆಮೊರಿ ಚಲನೆಯ ಸಾಮಾನ್ಯ ಭಾಷೆಯನ್ನು ಬಳಸುತ್ತದೆ, ಇದನ್ನು ಸಾಫ್ಟ್‌ವೇರ್‌ನಲ್ಲಿ ನೀವು ವಿವರಿಸಬಹುದಾದ ಯಾವುದೇ ನ್ಯೂರಲ್ ನೆಟ್‌ವರ್ಕ್ ಬಳಸಬಹುದು.

Frozen v2 ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಆ ಹೊಂದಾಣಿಕೆಯ ಸಾಮರ್ಥ್ಯವನ್ನು (flexibility) ತ್ಯಾಗ ಮಾಡುತ್ತದೆ. ಈ ಚಿಪ್ ಅನ್ನು ಡೊಮೇನ್-ನಿರ್ದಿಷ್ಟ ಅಕ್ಸೆಲರೇಟರ್ ಆಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗುತ್ತಿದೆ, ಇದರ ಸರ್ಕ್ಯೂಟ್‌ಗಳು Gemini ನ ಸ್ವಂತ ಆರ್ಕಿಟೆಕ್ಚರ್‌ನ ಭಾಗಗಳನ್ನು ಭೌತಿಕವಾಗಿ ಪ್ರತಿಬಿಂಬಿಸುತ್ತವೆ. ಒಂದು TPU ಸೂಚನೆಗಳನ್ನು ಪಡೆದು ಅವುಗಳನ್ನು ಸಾಫ್ಟ್‌ವೇರ್ ಕಾರ್ಯಾಚರಣೆಗಳಾಗಿ ಅರ್ಥೈಸುವಲ್ಲಿ, Frozen v2 ಮಾಡೆಲ್‌ನ ರಚನಾತ್ಮಕ ನೀಲನಕ್ಷೆಯನ್ನು—ಅಂದರೆ ಅದರ ಲೇಯರ್‌ಗಳು ಮತ್ತು ಡೇಟಾ ಪಥಗಳ ಜೋಡಣೆಯನ್ನು—ನೇರವಾಗಿ ಚಿಪ್‌ನ ಲೇಔಟ್‌ನಲ್ಲಿ ಅಳವಡಿಸುತ್ತದೆ. ಮಾಡೆಲ್ ಮತ್ತು ಮೆಟಲ್ (hardware) ನಡುವಿನ ಈ ನಿಕಟ ಸಂಬಂಧವು, AI ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ನೀಡುವಲ್ಲಿ ಪ್ರಸ್ತುತ TPUs ಗಿಂತ ಆರು ರಿಂದ ಹತ್ತು ಪಟ್ಟು ಹೆಚ್ಚು ದಕ್ಷತೆಯನ್ನು ನೀಡುತ್ತದೆ ಎಂದು Google ನಿರೀಕ್ಷಿಸುತ್ತದೆ. ಪ್ರತಿ ಕ್ವೆರಿಗೂ ಕಡಿಮೆ ಕಂಪ್ಯೂಟ್ ಹಂತಗಳು ಎಂದರೆ ಟೋಕನ್ ಕಾಣಿಸಿಕೊಳ್ಳಲು ಕಾಯುವ ಸಮಯ ಕಡಿಮೆ ಮತ್ತು ಅದನ್ನು ತಯಾರಿಸಲು ಬಳಸುವ ಶಕ್ತಿಯೂ ಬಹಳ ಕಡಿಮೆ ಇರುತ್ತದೆ.

ಇದು ಕೇವಲ ಅದೇ ಕಲ್ಪನೆಯ ವೇಗವಾದ ಆವೃತ್ತಿಯಲ್ಲ. ಇದು ಚಿಪ್‌ನ ವಿಭಿನ್ನ ವರ್ಗವಾಗಿದ್ದು, ಸಾಮಾನ್ಯ ಬಳಕೆಯ ಬದಲು ಒಂದು ನಿರ್ದಿಷ್ಟ ಮಾಡೆಲ್ ಕುಟುಂಬಕ್ಕೆ ಮೀಸಲಾದವಾಗಿದೆ.

ಮೊದಲ “Frozen” ಏಕೆ ವಿಫಲವಾಯಿತು (Melted)

ಈ ವಿಧಾನವು Google DeepMind ನ ಮುಖ್ಯ ವಿಜ್ಞಾನಿ Jeff Dean ಅವರ ಹಿಂದಿನ ಕಲ್ಪನೆಯ ಮೂಲವನ್ನು ಹೊಂದಿದೆ. ಮೂಲ “Frozen” ಪ್ರಸ್ತಾವನೆಯು ಕೇವಲ ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ಮಾತ್ರವಲ್ಲದೆ, ಮಾಡೆಲ್‌ನ ತೂಕಗಳನ್ನು (weights)—ಅಂದರೆ Gemini ನ ಕಲಿತ ವರ್ತನೆಯನ್ನು ರೂಪಿಸುವ ಬಿಲಿಯನ್ ಗಟ್ಟಿಯಾದ ಟ್ಯೂನ್ ಮಾಡಿದ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು—ನೇರವಾಗಿ ಚಿಪ್‌ನಲ್ಲೇ ಹಾರ್ಡ್‌ಕೋಡ್ ಮಾಡುವ ಮೂಲಕ ವಿಶೇಷತೆಯನ್ನು ಮತ್ತಷ್ಟು ಹೆಚ್ಚಿಸಲು ಸೂಚಿಸಿತ್ತು.

ಇದರ ತರ್ಕವು ಸರಿಯಾಗಿತ್ತು. ಮಾಡೆಲ್ ಯಾವ ಸಂಖ್ಯೆಗಳನ್ನು ಬಳಸುತ್ತದೆ ಎಂಬುದು ನಿಮಗೆ ನಿಖರವಾಗಿ ತಿಳಿದಿದ್ದರೆ, ಅವುಗಳನ್ನು ಬಾಹ್ಯ ಮೆಮೊರಿಯಿಂದ ಪಡೆಯುವ ಅಗತ್ಯವೇನಿದೆ? ನೀವು ಅವುಗಳನ್ನು ಟ್ರಾನ್ಸಿಸ್ಟರ್‌ಗಳಲ್ಲಿ ಕೆತ್ತಬಹುದು ಮತ್ತು ವಿಳಂಬದ ಎಲ್ಲಾ ವಿಧಗಳನ್ನು ತಪ್ಪಿಸಬಹುದು.

ಸಮಸ್ಯೆ ಎಂದರೆ ಸ್ಥಿರತೆ (permanence). AI ಮಾಡೆಲ್‌ಗಳು ಸ್ಥಿರವಾಗಿರುವುದಿಲ್ಲ. Google ನಿರಂತರವಾಗಿ Gemini ಅನ್ನು ಅಪ್‌ಡೇಟ್ ಮಾಡುತ್ತದೆ, ಹೊಸ ಡೇಟಾದ ಮೇಲೆ ಮರುತರಬೇತಿ ನೀಡುತ್ತದೆ, ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ಹೊಂದಿಸುತ್ತದೆ ಮತ್ತು ಸುಧಾರಿತ ಆವೃತ್ತಿಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡುತ್ತದೆ. ಸಿಲಿಕಾನ್‌ನಲ್ಲಿ ತೂಕಗಳು (weights) ಸ್ಥಿರವಾಗಿರುವ ಚಿಪ್, ಹೊಸ ಮಾಡೆಲ್ ಆವೃತ್ತಿ ಬಂದ ತಕ್ಷಣ ಕೇವಲ ಒಂದು ಕಾಗದದ ತೂಕದ ವಸ್ತುವಾಗಿ (paperweight) ಉಳಿಯುತ್ತದೆ. ಆ ಹೊಂದಾಣಿಕೆಯ ಕೊರತೆಯೇ ಮೂಲ ಕಲ್ಪನೆಯನ್ನು ನಾಶಪಡಿಸಿತು.

ಆಧಾರವಿಲ್ಲದ ಆರ್ಕಿಟೆಕ್ಚರ್

Frozen v2 ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ಹಾರ್ಡ್‌ಕೋಡ್ ಮಾಡುವ ಮೂಲಕ ಮತ್ತು ತೂಕಗಳನ್ನು (weights) ಬದಲಾಯಿಸಲು ಮುಕ್ತವಾಗಿ ಬಿಡುವ ಮೂಲಕ ಹಳೆಯದಾಗುವ (obsolescence) ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುತ್ತದೆ. ಇದನ್ನು ರಸ್ತೆಗೆ ಕಾರನ್ನು ವೆಲ್ಡಿಂಗ್ ಮಾಡುವ ಬದಲು, ಕಾರಿಗೆ ತಕ್ಕಂತೆ ಒಂದು ವಿಶೇಷ ರೇಸ್‌ಟ್ರ್ಯಾಕ್ ನಿರ್ಮಿಸುವುದಕ್ಕೆ ಹೋಲಿಸಬಹುದು. ಸರ್ಕ್ಯೂಟ್‌ನ ಆಕಾರವು Gemini ನ ನಿರ್ದಿಷ್ಟ ಕಂಪ್ಯೂಟೇಶನ್ ಮಾದರಿಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ಸ್ಥಿರವಾಗಿರುತ್ತದೆ, ಆದರೆ ಆ ಸರ್ಕ್ಯೂಟ್‌ಗಳ ಮೂಲಕ ಹರಿಯುವ ವಿಷಯಗಳನ್ನು ಮೆಮೊರಿಯಿಂದ ಹೊಸ ತೂಕಗಳನ್ನು ಲೋಡ್ ಮಾಡುವ ಮೂಲಕ ನವೀಕರಿಸಬಹುದು.

ಈ ವ್ಯತ್ಯಾಸವು ಪ್ರಾಯೋಗಿಕವಾಗಿ ಮುಖ್ಯವಾಗಿದೆ. ಎಂಜಿನಿಯರ್‌ಗಳು ಹೊಸ Gemini ಚೆಕ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ತರಬೇತಿಗೊಳಿಸಿದಾಗ, ಅವರು ಹೊಸ ಚಿಪ್ ತಯಾರಿಸದೆ ಅದನ್ನು Frozen v2 ಹಾರ್ಡ್‌ವೇರ್‌ಗೆ ನಿಯೋಜಿಸಬಹುದು. ಹಾರ್ಡ್‌ಕೋಡಿಂಗ್‌ನ ನಿಖರವಾದ ಪ್ರಮಾಣವು Google ಒಳಗೆ ಇನ್ನೂ ಚರ್ಚೆಯಲ್ಲಿದೆ; ಯಾವ ರಚನಾತ್ಮಕ ಅಂಶಗಳು ಸಿಲಿಕಾನ್‌ನಲ್ಲಿ ಶಾಶ್ವತವಾಗಿರಬೇಕು ಮತ್ತು ಯಾವುವು ಬದಲಾಯಿಸಬಹುದಾದವುಗಳಾಗಿರಬೇಕು ಎಂಬುದನ್ನು ತಂಡಗಳು ನಿರ್ಧರಿಸಬೇಕಿದೆ. ಆದರೆ ತತ್ವವು ಸ್ಪಷ್ಟವಾಗಿದೆ. ಆಕಾರವನ್ನು ಸ್ಥಿರಗೊಳಿಸುವ ಮೂಲಕ ಮತ್ತು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ಸುಲಭವಾಗಿ ಬದಲಾಯಿಸುವ ಮೂಲಕ, Google ತನ್ನ ಸುಧಾರಣಾ ಸಾಮರ್ಥ್ಯವನ್ನು ಕಳೆದುಕೊಳ್ಳದೆ ದಕ್ಷತೆಯನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುತ್ತದೆ.

ಇದನ್ನು ಆಂತರಿಕವಾಗಿ ಇಟ್ಟುಕೊಳ್ಳುವ ಆರ್ಥಿಕತೆ

Frozen v2 ಅನ್ನು Google Cloud ನ ಬೆಲೆ ಪಟ್ಟಿಯಲ್ಲಿ ನೀವು ನೋಡದಿರಲು ಇನ್ನೊಂದು ಕಾರಣವಿದೆ. ಈ ಚಿಪ್ Gemini ನ ಆಂತರಿಕ ರಚನೆಗೆ ತಕ್ಕಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿರುವುದರಿಂದ, PyTorch ಅಥವಾ ಕಸ್ಟಮ್ Transformer ಆವೃತ್ತಿಗಳನ್ನು ಬಳಸುವ ಹೊರಗಿನ ಡೆವಲಪರ್‌ಗಳಿಗೆ ಇದು ಹೆಚ್ಚು ಪ್ರಯೋಜನಕಾರಿಯಾಗುವುದಿಲ್ಲ. ಇದನ್ನು ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಉತ್ಪನ್ನವಾಗಿ ಮಾರಾಟ ಮಾಡಲು Google ಗೆ ಯಾವುದೇ ಯೋಜನೆಗಳಿಲ್ಲ. ಇದು Google ನ ಸ್ವಂತ ಡೇಟಾ ಸೆಂಟರ್‌ಗಳಲ್ಲಿನ ಇನ್ಫರೆನ್ಸ್ (inference) ಸಾಮರ್ಥ್ಯದ ಭಾರಿ ಬೇಡಿಕೆಯನ್ನು ಪೂರೈಸಲು ಉದ್ದೇಶಿಸಲ್ಪಟ್ಟ ಒಂದು ಆಂತರಿಕ ಸಾಧನವಾಗಿ ಉಳಿಯುತ್ತದೆ.

ಆ ಆಯ್ಕೆಯು ಕಠಿಣವಾದ ಆರ್ಥಿಕ ವಾಸ್ತವವನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ. ಪ್ರಸ್ತುತ ಜನರೇಟಿವ್ AI ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ, ಮಾಡೆಲ್ ಸಾಮರ್ಥ್ಯಗಳು ವೇಗವಾಗಿ ಸಮೀಪಿಸುತ್ತಿವೆ. ಸ್ಪರ್ಧಿಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸವು ಹೆಚ್ಚಾಗಿ ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಅತ್ಯಂತ ಕಡಿಮೆ ವೆಚ್ಚದಲ್ಲಿ ದೊಡ್ಡ ಮಾಡೆಲ್ ಅನ್ನು ಯಾರು ನಡೆಸಬಲ್ಲರು ಎಂಬುದರ ಮೇಲೆ ನಿರ್ಧರಿಸಲ್ಪಡುತ್ತದೆ. ಇನ್ಫರೆನ್ಸ್ (Inference) ಎಂಬುದು ಈಗ ಕೇವಲ ತರಬೇತಿಯ ನಂತರದ ವಿಚಾರವಾಗಿ ಉಳಿದಿಲ್ಲ; Gemini ನಂತಹ ವ್ಯಾಪಕವಾಗಿ ಬಳಕೆಯಾಗುವ ಉತ್ಪನ್ನಕ್ಕೆ, ಇದು ಪ್ರಮುಖ ವೆಚ್ಚವಾಗಿದೆ. ಒಂದು ವೇಳೆ Frozen v2 ಆ ವೆಚ್ಚವನ್ನು ಆರರಷ್ಟು ಅಥವಾ ಅದಕ್ಕಿಂತ ಹೆಚ್ಚು ಕಡಿಮೆ ಮಾಡಿದರೆ, Google ಗೆ ಸ್ಪರ್ಧಿಗಳು ಸುಲಭವಾಗಿ ತಲುಪಲಾಗದಷ್ಟು ಹೆಚ್ಚಿನ ಅವಕಾಶ ಸಿಗುತ್ತದೆ. ಇದು ಉಳಿತಾಯವನ್ನು ಲಾಭದ ರೂಪದಲ್ಲಿ ಇಟ್ಟುಕೊಳ್ಳಬಹುದು ಅಥವಾ API ಬಳಕೆದಾರರಿಗೆ ಮತ್ತು ಉತ್ಪನ್ನ ಏಕೀಕರಣಗಳಿಗೆ (product integrations) ಕಡಿಮೆ ಬೆಲೆಯಲ್ಲಿ ನೀಡಬಹುದು, ಇದರಿಂದ OpenAI, Anthropic ಮತ್ತು ಇತರರ ಮೇಲೆ ಒತ್ತಡವನ್ನು ಹೆಚ್ಚಿಸಬಹುದು.

ಇದು ಉದ್ಯಮಕ್ಕೆ ನೀಡುವ ಸಂಕೇತವೇನು

Google ನ ಈ ಕ್ರಮವು ವಿಶಾಲವಾದ ಹಾರ್ಡ್‌ವೇರ್ ತಂತ್ರವು ಎತ್ತ ಸಾಗುತ್ತಿದೆ ಎಂಬುದನ್ನು ಸೂಚಿಸುತ್ತದೆ. ವರ್ಷಗಳಿಂದ, ಸಾಧ್ಯವಾದಷ್ಟು ಹೆಚ್ಚು ನಮ್ಯತೆಯ (flexible) ಅಕ್ಸೆಲರೇಟರ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದು ಮತ್ತು ಸಾಫ್ಟ್‌ವೇರ್ ಮೂಲಕ ವಿಶೇಷತೆಯನ್ನು (specialization) ನಿರ್ವಹಿಸುವುದು ಒಂದು ಪ್ರಮಾಣಿತ ಪದ್ಧತಿಯಾಗಿತ್ತು. Nvidia ನ GPU ಗಳು ಪ್ರಾಬಲ್ಯ ಹೊಂದಿವೆ ಏಕೆಂದರೆ ಅವು ಮೌಲ್ಯಿಕ ಡೈನಾಮಿಕ್ಸ್‌ನಿಂದ ಹಿಡಿದು ವಿಡಿಯೋ ಗೇಮ್‌ಗಳು ಮತ್ತು ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್‌ಗಳವರೆಗೆ ಎಲ್ಲವನ್ನೂ ನಡೆಸಬಲ್ಲವು. Google ನ ಸ್ವಂತ TPUs ಗಳನ್ನು ಸಹ ಅದೇ ರೀತಿಯ ವಿಶಾಲವಾದ ಬಳಕೆಯ ಉದ್ದೇಶದಿಂದ ರೂಪಿಸಲಾಗಿತ್ತು.

Frozen v2 ಆ ಸಂಪ್ರದಾಯದಿಂದ ಹೊರಬರುತ್ತದೆ. ಒಂದು ನಿರ್ದಿಷ್ಟ ಮಾಡೆಲ್ ಕುಟುಂಬವು ಸಾಕಷ್ಟು ಪ್ರಮಾಣದ ಕ್ವೆರಿಗಳನ್ನು ನಡೆಸಿದಾಗ, ಆ ಮಾಡೆಲ್‌ಗೆ ಅನುಗುಣವಾಗಿ ರೂಪಿಸಲಾದ ಕಸ್ಟಮ್ ಸಿಲಿಕಾನ್ (custom silicon) ತನ್ನ ವೆಚ್ಚವನ್ನು ಹಲವು ಪಟ್ಟು ಮರಳಿ ತರಬಲ್ಲದು ಎಂಬುದನ್ನು ಇದು ಒಪ್ಪಿಕೊಳ್ಳುತ್ತದೆ. ಇತರ ಹೈಪರ್ಸ್ಕೇಲರ್‌ಗಳು ಸಹ ಇದೇ ತರ್ಕವನ್ನು ಅನುಸರಿಸಿದ್ದಾರೆ—ಉದಾಹರಣೆಗೆ Amazon ನ Trainium ಮತ್ತು Inferentia ಚಿಪ್‌ಗಳು—ಆದರೆ Google ನ ವಿಧಾನವು ಸಾಮಾನ್ಯ ನೆಟ್‌ವರ್ಕ್‌ಗಳ ಬದಲಿಗೆ ನಿರ್ದಿಷ್ಟ ಮಾಡೆಲ್ ಆರ್ಕಿಟೆಕ್ಚರ್ ಸುತ್ತ ಹಾರ್ಡ್‌ವೇರ್ ಅನ್ನು ಸಹ-ವಿನ್ಯಾಸಗೊಳಿಸುವ ಮೂಲಕ (co-designing) ಹೆಚ್ಚು ಆಳವಾದ ಹಾದಿಯನ್ನು ಹಿಡಿದಿದೆ.

ಖಂಡಿತವಾಗಿಯೂ, ಇದರ ಅಪಾಯವೆಂದರೆ ಬಿಗಿತ (rigidity). ಒಂದು ವೇಳೆ Gemini ನ ಆರ್ಕಿಟೆಕ್ಚರ್ ಹಾರ್ಡ್‌ಕೋಡ್ ಮಾಡಲಾದ ಸರ್ಕ್ಯೂಟ್‌ಗಳು ಹೊಂದಾಣಿಕೆ ಮಾಡಿಕೊಳ್ಳಲಾಗದ ದಿಕ್ಕಿನಲ್ಲಿ ವಿಕಸನಗೊಂಡರೆ, Google ತನ್ನ ಹೊಸ ಆಲೋಚನೆಗಳನ್ನು ನಡೆಸಲಾಗದ ದುಬಾರಿ ಸಿಲಿಕಾನ್ ಅನ್ನು ಹೊಂದಿರುವ ಸ್ಥಿತಿಗೆ ತಲುಪಬಹುದು. ಅದಕ್ಕಾಗಿಯೇ ಆರ್ಕಿಟೆಕ್ಚರ್-ಮಾತ್ರದ ಈ ಹೊಂದಾಣಿಕೆ (architecture-only compromise) ಮುಖ್ಯವಾಗಿದೆ. ಇದು ಒಂದು ಮಧ್ಯಮ ಮಾರ್ಗವನ್ನು ನೀಡುತ್ತದೆ: ಗಮನಾರ್ಹ ದಕ್ಷತೆಯ ಲಾಭಗಳನ್ನು ಪಡೆಯಲು ಸಾಕಷ್ಟು ವಿಶೇಷತೆ ಮತ್ತು ಕಂಪನಿಯು ಸಂಕಷ್ಟಕ್ಕೆ ಸಿಲುಕದಂತೆ ತಡೆಯಲು ಸಾಕಷ್ಟು ನಮ್ಯತೆ ಎರಡನ್ನೂ ಇದು ಒಳಗೊಂಡಿದೆ.

ನಿಜವಾದ ಸಾರಾಂಶ

Frozen v2 ಅನ್ನು ಕೇವಲ ಒಂದು ಚಿಪ್ ಘೋಷಣೆಯಾಗಿ ನೋಡುವ ಬದಲು, AI ಸ್ಪರ್ಧೆಯ ಭವಿಷ್ಯದ ರೂಪದ ಮೇಲೆ ಇಟ್ಟಿರುವ ಒಂದು ಕಾರ್ಯತಂತ್ರದ ಪಣ (strategic bet) ಎಂದು ಅರ್ಥೈಸಿಕೊಳ್ಳುವುದು ಉತ್ತಮ. ವಿಜೇತರು ಕೇವಲ ಅತ್ಯುತ್ತಮ ಮಾಡೆಲ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವುದು ಮಾತ್ರವಲ್ಲದೆ, ಮಾಡೆಲ್‌ನ ನೀಲನಕ್ಷೆಯಿಂದ ಹಿಡಿದು ಟ್ರಾನ್ಸಿಸ್ಟರ್ ಮೂಲಕ ಚಲಿಸುವ ಎಲೆಕ್ಟ್ರಾನ್‌ಗಳವರೆಗೆ ಇಡೀ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು (entire stack) ಹೊಂದಿರುತ್ತಾರೆ ಎಂದು Google ಪಣತೊಡಗಿದೆ. ಈ ಯೋಜನೆಯು ಯಶಸ್ವಿಯಾದರೆ, ಅದರ ಫಲಿತಾಂಶವು ಬೆಂಚ್‌ಮಾರ್ಕ್ ಸ್ಕೋರ್‌ಗಳಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುವುದಿಲ್ಲ. ಅದು ತ್ರೈಮಾಸಿಕ ಗಳಿಕೆಯ ವರದಿಯ ವೆಚ್ಚದ ಕಾಲಂನಲ್ಲಿ (cost column) ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತದೆ, ಅಲ್ಲಿ ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗೆ ಉಳಿತಾಯವಾಗುವ ಕೆಲವು ಸೆಂಟ್ಸ್‌ಗಳು ಜನರೇಟಿವ್ AI ನಲ್ಲಿ ವಾಣಿಜ್ಯಿಕವಾಗಿ ಸಾಧ್ಯವಿರುವ ಮಿತಿಗಳನ್ನು ಮರುರೂಪಿಸಬಹುದು.