Mira Murati ಅವರ Thinking Machines Lab, ಕೇಂದ್ರೀಕೃತ ಮತ್ತು "ಎಲ್ಲರಿಗೂ ಒಂದೇ ರೀತಿಯ" (one-size-fits-all) AI ದೈತ್ಯರ ಪ್ರಾಬಲ್ಯವನ್ನು ಸವಾಲು ಮಾಡಲು ನಿರ್ಮಿಸಲಾದ 'Inkling' ಎಂಬ ಓಪನ್-ವೇಟ್ (open-weight) ಮಾಡೆಲ್‌ನೊಂದಿಗೆ ಅಧಿಕೃತವಾಗಿ ಮಾರುಕಟ್ಟೆಗೆ ಪ್ರವೇಶಿಸಿದೆ. ಕೇವಲ ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಶಕ್ತಿಯ ಬದಲಿಗೆ ಕಸ್ಟಮೈಸಿಬಲಿಟಿ (customizability) ಮೇಲೆ ಪಣತೊಡುವ ಮೂಲಕ, ಎಂಟರ್‌ಪ್ರೈಸ್ AI ನ ಭವಿಷ್ಯವು ವಿಶೇಷವಾದ ಮತ್ತು ಸ್ಥಳೀಯವಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲಾದ ಬುದ್ಧಿವಂತಿಕೆಯಲ್ಲಿ ಅಡಗಿದೆ ಎಂದು ಈ ಸ್ಟಾರ್ಟ್‌ಅಪ್ ಹೇಳುತ್ತದೆ.

Inkling ನ ಆರ್ಕಿಟೆಕ್ಚರ್: MoE ಮೂಲಕ ದಕ್ಷತೆ

Inkling ಎಂಬುದು 975 ಬಿಲಿಯನ್ ಒಟ್ಟು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ಹೊಂದಿರುವ Mixture-of-Experts ವ್ಯವಸ್ಥೆಯಾಗಿದೆ. ಆದರೂ, ಇದು ಯಾವುದೇ ಒಂದು ಕಾರ್ಯಕ್ಕಾಗಿ ಕೇವಲ 41 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ಮಾತ್ರ ಸಕ್ರಿಯಗೊಳಿಸುತ್ತದೆ, ಇದರಿಂದ ಉನ್ನತ ಮಟ್ಟದ ತಾರ್ಕಿಕತೆಯನ್ನು (reasoning) ಉಳಿಸಿಕೊಳ್ಳುವ ಜೊತೆಗೆ ವಿಳಂಬ (latency) ಮತ್ತು ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ಈ ಮಾಡೆಲ್ 45 ಟ್ರಿಲಿಯನ್ ಟೋಕನ್‌ಗಳ ಪಠ್ಯ, ಚಿತ್ರ, ಆಡಿಯೋ ಮತ್ತು ವೀಡಿಯೊಗಳಿಂದ ಕಲಿತಿದ್ದು, ಇದು ನೈಸರ್ಗಿಕ ಮಲ್ಟಿಮೋಡಲ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಹೊಂದಿದೆ. ಕೇವಲ ಮೂರನೇ ಒಂದು ಭಾಗದಷ್ಟು ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು, ಕೋಡಿಂಗ್ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ Nvidia ನ Nemotron 3 Ultra ಗೆ Inkling ಸಮಾನವಾಗಿದೆ ಎಂದು ಕಂಪನಿಯು ಪ್ರತಿಪಾದಿಸುತ್ತದೆ, ಇದು ತರಬೇತಿಯ ದಕ್ಷತೆಯ ಸ್ಪಷ್ಟ ಸಂಕೇತವಾಗಿದೆ.

ಎಂಟರ್‌ಪ್ರೈಸ್ ಕಸ್ಟಮೈಸೇಶನ್ ಕಡೆಗೆ ಒಂದು ಕಾರ್ಯತಂತ್ರದ ಬದಲಾವಣೆ

ಮುಖ್ಯವಾಗಿ ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಚಾಟ್‌ಬಾಟ್‌ಗಳಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ OpenAI, Anthropic ಅಥವಾ Google ನ ಪ್ರಮುಖ ಉತ್ಪನ್ನಗಳಿಗ Unlike, Inkling ಅನ್ನು ಸಂಸ್ಥೆಗಳಿಗೆ ಒಂದು ಅಡಿಪಾಯವಾಗಿ (foundation) ಮಾರುಕಟ್ಟೆ ಮಾಡಲಾಗುತ್ತಿದೆ. Thinking Machines ಈ ಮಾಡೆಲ್ ಅನ್ನು ಒಂದು ಆರಂಭಿಕ ಬಿಂದುವನ್ನಾಗಿ ಪರಿಗಣಿಸುತ್ತದೆ ಮತ್ತು ಸಂಸ್ಥೆಗಳು ತಮ್ಮದೇ ಆದ ಪ್ರೊಪ್ರೈಟರಿ ಡೇಟಾವನ್ನು (proprietary data) ಬಳಸಿ ತನ್ನ “Tinker” ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಮೂಲಕ ಇದನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲು ಪ್ರೇರೇಪಿಸುತ್ತದೆ.

ಈ ಕ್ರಮವು ಉದ್ಯಮದ “ಡಬಲ್ ಪೇಮೆಂಟ್” (double payment) ಬಲೆಯಲ್ಲಿ ಬೀಳದಂತೆ ತಡೆಯುತ್ತದೆ. ಕಂಪನಿಗಳು ಎರಡು ಬಾರಿ ಹಣ ಪಾವತಿಸಬೇಕಾಗುತ್ತದೆ ಎಂದು Microsoft CEO Satya Nadella ಎಚ್ಚರಿಸಿದ್ದಾರೆ—ಒಮ್ಮೆ ಸಬ್‌ಸ್ಕ್ರಿಪ್ಷನ್‌ಗಾಗಿ ಮತ್ತು ಇನ್ನೊಮ್ಮೆ ತಮ್ಮ ವಿಶಿಷ್ಟ ವ್ಯವಹಾರ ತರ್ಕವನ್ನು (business logic) ಮಾಡೆಲ್‌ಗೆ ಒದಗಿಸುವ ಮೂಲಕ, ಇದು ಅಂತಿಮವಾಗಿ ಪೂರೈಕೆದಾರರ ತರಬೇತಿ ಸೆಟ್‌ ಅನ್ನು ಸಮೃದ್ಧಗೊಳಿಸುತ್ತದೆ. ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್ ಅನ್ನು ಒದಗಿಸುವ ಮೂಲಕ, Thinking Machines ಸಂಸ್ಥೆಗಳು ಆ ಬುದ್ಧಿವಂತಿಕೆಯನ್ನು ತಮ್ಮದೇ ಆದ ಒಳಗಿನ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ (in-house) ಇಟ್ಟುಕೊಳ್ಳಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

ಹೆಚ್ಚಿನ ಅಪಾಯದ ಮೂಲಸೌಕರ್ಯ ಮತ್ತು ಕ್ಷಿಪ್ರ ಅಭಿವೃದ್ಧಿ

Thinking Machines ಮಾರುಕಟ್ಟೆಗೆ ಅತ್ಯಂತ ವೇಗವಾಗಿ ಬಂದಿದೆ. OpenAI ಸುಮಾರು ಐದು ವರ್ಷಗಳನ್ನು ಮತ್ತು Anthropic ಸುಮಾರು ಮೂರು ವರ್ಷಗಳನ್ನು ತೆಗೆದುಕೊಂಡರೆ; Thinking Machines ಕೇವಲ ಒಂಬತ್ತು ತಿಂಗಳುಗಳಲ್ಲಿ ಅಂತಹದೇ ಮೈಲಿಗಲ್ಲನ್ನು ತಲುಪಿದೆ ಎಂದು ಹೇಳುತ್ತದೆ.

ಆ ವೇಗವನ್ನು ಸಾಧಿಸಲು, ಕಂಪನಿಯು ಹಾರ್ಡ್‌ವೇರ್ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ. ಮಾರ್ಚ್‌ನಲ್ಲಿ Nvidia ನೊಂದಿಗೆ ಪಾಲುದಾರಿಕೆ ಮಾಡಿಕೊಂಡ ನಂತರ, Inkling ಸಂಪೂರ್ಣವಾಗಿ Nvidia ನ GB300 NVL72 ಸಿಸ್ಟಮ್‌ಗಳ ಮೇಲೆ ತರಬೇತಿ ಪಡೆಯಿತು. ಕಂಪನಿಯು ಡಿಸ್ಟಿಲೇಶನ್ (distillation) ತಂತ್ರಗಳನ್ನು ಬಳಸಿದೆ—ಆರಂಭಿಕ ಪೋಸ್ಟ್-ಟ್ರೈನಿಂಗ್‌ಗಾಗಿ Moonshot AI ನ Kimi K2.5 ನಂತಹ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡಿದೆ—ಆದರೆ ಭವಿಷ್ಯದ ಪೋಸ್ಟ್-ಟ್ರೈನಿಂಗ್ ಅನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಇನ್‌ಹೌಸ್‌ನಲ್ಲಿ ನಡೆಸುವುದಾಗಿ ಪ್ರತಿಜ್ಞೆ ಮಾಡಿದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

  • ಓಪನ್-ವೇಟ್ ಪ್ರಯೋಜನ: ಡೆವಲಪರ್‌ಗಳು 975 ಬಿ-ಪ್ಯಾರಾಮೀಟರ್ MoE ಮಾಡೆಲ್ ಅನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡಬಹುದು ಮತ್ತು ಮಾರ್ಪಡಿಸಬಹುದು, ಇದರಿಂದ ನಿಯಂತ್ರಣವು ಮುಚ್ಚಿದ ಪರಿಸರ ವ್ಯವಸ್ಥೆಗಳಿಂದ (closed ecosystems) ದೂರವಿರುತ್ತದೆ.
  • ದಕ್ಷತೆಗೆ ಆದ್ಯತೆ ನೀಡುವ ವಿನ್ಯಾಸ: ಪ್ರತಿ ಕಾರ್ಯಕ್ಕೆ ಕೇವಲ 41 ಬಿ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುವುದು ಮತ್ತು ಟೋಕನ್ ಬಳಕೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು ಮಾಡೆಲ್ ಅನ್ನು ಅತ್ಯುತ್ತಮ ತಾರ್ಕಿಕತೆಯನ್ನು ಅತ್ಯಲ್ಪ ಕಾರ್ಯಾಚರಣಾ ವೆಚ್ಚದಲ್ಲಿ ನೀಡಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
  • ಕಸ್ಟಮೈಸೇಶನ್ ಪಣ: Thinking Machines ಸಾಮಾನ್ಯ ಚಾಟ್‌ಬಾಟ್‌ಗಳಿಂದ “Tinker” ಕಡೆಗೆ ಬದಲಾಗುತ್ತಿದೆ, ಇದು ಫೌಂಡೇಶನ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ಪ್ರತಿಯೊಂದು ಸಂಸ್ಥೆಗೆ ವಿಶೇಷ ಆಸ್ತಿಗಳನ್ನಾಗಿ ಪರಿವರ್ತಿಸುವ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಆಗಿದೆ.