Kimi K3 ಡಿಸ್ಟಿಲೇಶನ್ (Distillation) ಉತ್ಪನ್ನವೇ? ಆರೋಪಗಳನ್ನು ಪ್ರಶ್ನಿಸುತ್ತಿರುವ ತಜ್ಞರು

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು (AI) ಸುತ್ತುವರೆದಿರುವ ಭೌಗೋಳಿಕ ರಾಜಕೀಯ ಉದ್ವಿಗ್ನತೆಯು ತೀವ್ರಗೊಂಡಿದ್ದು, ಚೀನೀ ಕಂಪನಿಗಳು ಕೈಗಾರಿಕಾ ಗೂಢಚಾರಿಕೆಯಲ್ಲಿ ತೊಡಗಿಕೊಂಡಿವೆ ಎಂದು ಅಮೆರಿಕದ ಅಧಿಕಾರಿಗಳು ಆರೋಪಿಸಿದ್ದಾರೆ. Moonshot AI ತನ್ನ Kimi K3 ಮಾಡೆಲ್ ಅನ್ನು ತರಬೇತಿಗೊಳಿಸಲು Anthropic ನ Fable ಅನ್ನು ಬಳಸಿದೆ ಎಂದು ಆರೋಪಣೆಗಳಿದ್ದರೂ, ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ (LLM) ಅಭಿವೃದ್ಧಿಯ ತಾಂತ್ರಿಕ ವಾಸ್ತವವು ಇದಕ್ಕಿಂತ ಹೆಚ್ಚು ಸಂಕೀರ್ಣವಾದ ಕಥೆಯನ್ನು ಹೇಳುತ್ತದೆ ಎಂದು ಪ್ರಮುಖ AI ಸಂಶೋಧಕರು ವಾದಿಸುತ್ತಿದ್ದಾರೆ.

ಮಾಡೆಲ್ ಡಿಸ್ಟಿಲೇಶನ್ ಮತ್ತು IP ಕಳ್ಳತನದ ಆರೋಪಗಳು

ಪ್ರಸ್ತುತ ಲಭ್ಯವಿರುವ ಅತಿದೊಡ್ಡ ಓಪನ್-ವೇಟ್ (open-weight) LLM ಆಗಿರುವ Kimi K3 ನ ಹಿಂದಿರುವ ಕಂಪನಿಯಾದ Moonshot ವಿರುದ್ಧ ವೈಟ್ ಹೌಸ್ ವಿಜ್ಞಾನ ಸಲಹೆಗಾರ ಮೈಕೆಲ್ ಕ್ರಾಟ್ಸಿಯೋಸ್ ಗಂಭೀರ ಆರೋಪಗಳನ್ನು ಮಾಡಿದ್ದಾರೆ. Moonshot ಕಂಪನಿಯು ಅಮೆರಿಕದ ಮಾಲೀಕತ್ವದ ತಂತ್ರಜ್ಞಾನವನ್ನು ಕದಿಯಲು "ಬೃಹತ್ ಪ್ರಮಾಣದ, ಗುಪ್ತ ಕೈಗಾರಿಕಾ ಡಿಸ್ಟಿಲೇಶನ್" (large-scale, covert industrial distillation) ನಲ್ಲಿ ತೊಡಗಿದೆ ಎಂದು ಕ್ರಾಟ್ಸಿಯೋಸ್ ಆರೋಪಿಸಿದ್ದಾರೆ. ಅಮೆರಿಕದ LLM ಗಳ "ವಾಟರ್‌ಮಾರ್ಕ್‌ಗಳು" ಚೀನೀ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತಿವೆ ಎಂದು ಟ್ರೆಜರಿ ಕಾರ್ಯದರ್ಶಿ ಸ್ಕಾಟ್ ಬೆಸೆಂಟ್ ಉಲ್ಲೇಖಿಸಿರುವ ಮೂಲಕ ಈ ವಾದಕ್ಕೆ ಬೆಂಬಲ ನೀಡಿದ್ದಾರೆ.

ಡಿಸ್ಟಿಲೇಶನ್ ಎಂಬುದು ಒಂದು ಪ್ರಕ್ರಿಯೆಯಾಗಿದ್ದು, ಇದರಲ್ಲಿ ಒಂದು ದೊಡ್ಡ "ಫ್ರಾಂಟಿಯರ್" (frontier) ಮಾಡೆಲ್‌ನ ತಾರ್ಕಿಕ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಜ್ಞಾನವನ್ನು ಹೊರತೆಗೆಯಲು ಅದನ್ನು ಪ್ರಶ್ನಿಸುವ ಮೂಲಕ ಸಣ್ಣ ಮಾಡೆಲ್ ಅನ್ನು ತರಬೇತಿಗೊಳಿಸಲಾಗುತ್ತದೆ. ಇದು ಹೆಚ್ಚಾಗಿ ಸೂಪರ್‌ವೈಸ್ಡ್ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ (SFT) ಅನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ, ಇಲ್ಲಿ ಗುರಿ ಮಾಡೆಲ್‌ನ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಹೊಸ ಮಾಡೆಲ್ ಅನ್ನು ತರಬೇತಿಗೊಳಿಸಲು ಬಳಸಲಾಗುತ್ತದೆ. ಇದು ಕೆಲವೊಮ್ಮೆ ಹೊಸ ಮಾಡೆಲ್ ಮೂಲ ಮಾಡೆಲ್‌ನ "ನಡವಳಿಕೆ" ಅಥವಾ ನಿರ್ದಿಷ್ಟ ಸಂಭಾಷಣೆಯ ವಿಶಿಷ್ಟ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುವಂತೆ ಮಾಡುತ್ತದೆ.

ತಜ್ಞರು ಡಿಸ್ಟಿಲೇಶನ್ ಸಿದ್ಧಾಂತವನ್ನು ಏಕೆ ಅನುಮಾನಿಸುತ್ತಾರೆ?

ಈ ಆರೋಪಗಳು ರಾಜಕೀಯವಾಗಿ ಪ್ರಭಾವಶಾಲಿಯಾಗಿದ್ದರೂ, AI ಸಂಶೋಧನಾ ಸಮುದಾಯವು ಇನ್ನೂ ಸಂಶಯಾಸ್ಪದವಾಗಿರಲು ಕಾರಣಗಳು ಇವೆ. Laude Institute ನ ಸಂಶೋಧಕ ಮತ್ತು Snorkel AI ನ ಸಹ-ಸಂಸ್ಥಾಪಕ ಬ್ರೇಡನ್ ಹ್ಯಾಂಕಾಕ್ ಒಂದು ಪ್ರಮುಖ ಕಾಲಮಿತಿಯ ಸಮಸ್ಯೆಯನ್ನು ಎತ್ತಿ ತೋರಿಸಿದ್ದಾರೆ: Anthropic ನ Fable ಜುಲೈ 1 ರಿಂದ ಮಾತ್ರ ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಿದೆ. "ಅಷ್ಟು ದೊಡ್ಡ ಪ್ರಮಾಣದ ಡೇಟಾವನ್ನು ಡಿಸ್ಟಿಲ್ ಮಾಡಿ, ಮಾಡೆಲ್ ಅನ್ನು ತರಬೇತಿಗೊಳಿಸಿ, ಕೇವಲ ಎರಡು ವಾರಗಳಲ್ಲಿ ಬಿಡುಗಡೆ ಮಾಡಲು ಸಾಧ್ಯವಿಲ್ಲ," ಎಂದು ಹ್ಯಾಂಕಾಕ್ ಗಮನಿಸಿದ್ದಾರೆ.

ಇದಲ್ಲದೆ, ಮಾಡೆಲ್‌ಗಳು ಫ್ರಾಂಟಿಯರ್ ಮಟ್ಟಕ್ಕೆ ತಲುಪುತ್ತಿದ್ದಂತೆ SFT ಮೂಲಕ ಡಿಸ್ಟಿಲೇಶನ್ ಮಾಡುವುದು ಕಡಿಮೆ ಪರಿಣಾಮಕಾರಿಯಾಗುತ್ತಿದೆ ಎಂದು ಅಲೆನ್ ಇನ್‌ಸ್ಟಿಟ್ಯೂಟ್ ಫಾರ್ AI ನ ನೇಥನ್ ಲ್ಯಾಂಬರ್ಟ್ ವಾದಿಸುತ್ತಾರೆ. Kimi K3 ನಲ್ಲಿ ಕಂಡುಬರುವ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸಾಧಿಸಲು, ಮಾಡೆಲ್‌ಗೆ ಬೃಹತ್ ಪ್ರಮಾಣದ ರಿಇನ್‌ಫೋರ್ಸ್‌ಮೆಂಟ್ ಲರ್ನಿಂಗ್ (RL) ಪ್ರಕ್ರಿಯೆಗಳ ಅಗತ್ಯವಿರುತ್ತದೆ. ಈ ಪ್ರಕ್ರಿಯೆಯು ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಗ್ರೇಡ್ ಮಾಡಲು ಕೋಟ್ಯಂತರ ಏಜೆಂಟ್‌ಗಳನ್ನು ಬಯಸುತ್ತದೆ—ಒಂದು ವೇಳೆ ಇದನ್ನು ಸ್ಪರ್ಧಿ ಕಂಪನಿಯ API ಮೂಲಕ ನಡೆಸಿದರೆ, ಅದು ಅತ್ಯಂತ ದುಬಾರಿ ಮತ್ತು ನಿಧಾನಗತಿಯ ಕೆಲಸವಾಗುತ್ತದೆ.

ಹಾರ್ಡ್‌ವೇರ್ ಮತ್ತು ತಾಂತ್ರಿಕ ಪರಿಣತಿಯ ಪಾತ್ರ

ಈ ವಿವಾದವು ಕೇವಲ ಸಾಫ್ಟ್‌ವೇರ್‌ಗೆ ಸೀಮಿತವಾಗಿಲ್ಲ. Moonshot ಕಂಪನಿಯು ಸುಧಾರಿತ Nvidia ಹಾರ್ಡ್‌ವೇರ್ ಅನ್ನು ಪಡೆಯಲು ರಫ್ತು ನಿಯಂತ್ರಣಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿದೆ ಎಂದು ಕ್ರಾಟ್ಸಿಯೋಸ್ ಆರೋಪಿಸಿದ್ದಾರೆ, ವಿಶೇಷವಾಗಿ Grace Blackwell 300 ಚಿಪ್‌ಗಳು ಮತ್ತು GB300 ಹೊಂದಿರುವ ಸರ್ವರ್‌ಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿದ್ದಾರೆ. ಈ ಚಿಪ್‌ಗಳ ರಫ್ತು ಚೀನಾಗೆ ನಿಷಿದ್ಧವಾಗಿದ್ದರೂ, ಜಾರ್ಜ್‌ಟೌನ್‌ನ ಸ್ಯಾಮ್ ಬ್ರೆಸ್ನಿಕ್ ಅಂತಹ ತಜ್ಞರು ಕಪ್ಪು ಮಾರುಕಟ್ಟೆ ಮತ್ತು ಸಂಕೀರ್ಣ ಜಾಗತಿಕ ಪೂರೈಕೆ ಸರಪಳಿಗಳಿಂದಾಗಿ ಈ ಹಾರ್ಡ್‌ವೇರ್ ಹರಿವನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವುದು ಅತ್ಯಂತ ಕಷ್ಟಕರ ಎಂದು ಸೂಚಿಸುತ್ತಾರೆ.

ಆದಾಗ್ಯೂ, ಡಿಸ್ಟಿಲೇಶನ್ ಮೇಲೆ ಮಾತ್ರ ಗಮನ ಹರಿಸುವುದು ಚೀನೀ AI ತಂಡಗಳ ತಾಂತ್ರಿಕ ಕಾನೂನುಬದ್ಧತೆಯನ್ನು ಕುಗ್ಗಿಸುತ್ತದೆ ಎಂದು ಅನೇಕ ಸಂಶೋಧಕರು ವಾದಿಸುತ್ತಾರೆ. Carnegie Mellon University ನಂತಹ ಪ್ರತಿಷ್ಠಿತ ಸಂಸ್ಥೆಗಳಿಂದ ಬಂದಿರುವ ಸಂಸ್ಥಾಪಕರು ಇರುವುದರಿಂದ, Moonshot ಕೇವಲ ಇತರರ ಯಶಸ್ಸನ್ನು ಬಳಸಿಕೊಳ್ಳುವ ಬದಲು (riding coattails), ಸ್ವತಂತ್ರ ಸಂಶೋಧನೆ ಮಾಡುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿದೆ ಎಂದು ತಜ್ಞರು ಸೂಚಿಸುತ್ತಾರೆ.

ಜಾಗತಿಕ AI ಸ್ಪರ್ಧೆಯ ಮೇಲಿನ ಪರಿಣಾಮಗಳು

ಈ ವಿವಾದವು ರಾಜಕೀಯ ನಿರೂಪಣೆಗಳು ಮತ್ತು ತಾಂತ್ರಿಕ ವಾಸ್ತವಗಳ ನಡುವಿನ ಬೆಳೆಯುತ್ತಿರುವ ಅಂತರವನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ. ಉದ್ಯಮವು ಅತ್ಯಾಧುನಿಕ ರಿಇನ್‌ಫೋರ್ಸ್‌ಮೆಂಟ್ ಲರ್ನಿಂಗ್ ಮತ್ತು ಬೃಹತ್ ಕಂಪ್ಯೂಟ್ ಅಗತ್ಯತೆಗಳತ್ತ ಸಾಗುತ್ತಿರುವಂತೆ, ಕಂಪನಿಗಳು ಬುದ್ಧಿಮತ್ತೆಯನ್ನು "ಕಳ್ಳತನ" ಮಾಡುತ್ತಿವೆಯೇ ಅಥವಾ ಕೇವಲ ಶ್ರೇಷ್ಠ ಎಂಜಿನಿಯರಿಂಗ್ ಮೂಲಕ ಮುನ್ನಡೆಯುತ್ತಿವೆಯೇ ಎಂಬ ಚರ್ಚೆಯು ಅಂತರಾಷ್ಟ್ರೀಯ ವ್ಯಾಪಾರ ನೀತಿ ಮತ್ತು AI ನಿಯಂತ್ರಣವನ್ನು ರೂಪಿಸುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

• ತಾಂತ್ರಿಕ ಸಂಶಯ: Kimi K3 ನ ಅತಿ ವೇಗದ ಬಿಡುಗಡೆಯು, ಅದು ಕೇವಲ Anthropic ನ Fable ಡಿಸ್ಟಿಲೇಶನ್ ಮೂಲಕ ನಿರ್ಮಿತವಾಗಿದೆ ಎಂಬ ಮಾತನ್ನು ಗಣಿತೀಯವಾಗಿ ಅಸಾಧ್ಯವಾಗಿಸುತ್ತದೆ ಎಂದು ತಜ್ಞರು ವಾದಿಸುತ್ತಾರೆ.
• ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮೀರಿ: ಸೂಪರ್‌ವೈಸ್ಡ್ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮೂಲಕ ಡಿಸ್ಟಿಲೇಶನ್ ಅಸ್ತಿತ್ವದಲ್ಲಿದ್ದರೂ, ಫ್ರಾಂಟಿಯರ್ ಮಟ್ಟದ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸಾಧಿಸಲು ಸುಲಭವಾಗಿ "ನಕಲಿ" ಮಾಡಲು ಸಾಧ್ಯವಾಗದ ಸುಧಾರಿತ ರಿಇನ್‌ಫೋರ್ಸ್‌ಮೆಂಟ್ ಲರ್ನಿಂಗ್ ಅಗತ್ಯವಿರುತ್ತದೆ.
• ಹಾರ್ಡ್‌ವೇರ್ ಕಾಳಜಿಗಳು: ನಿಷಿದ್ಧಗೊಂಡ Nvidia Blackwell ಚಿಪ್‌ಗಳನ್ನು ಅಕ್ರಮವಾಗಿ ಬಳಸಿಕೊಂಡಿರುವ ಆರೋಪಗಳು ಚೀನೀ AI ಪ್ರಗತಿಯ ಚರ್ಚೆಗೆ ಭೌಗೋಳಿಕ ರಾಜಕೀಯ ಸಂಕೀರ್ಣತೆಯನ್ನು ಸೇರಿಸುತ್ತವೆ.