Arcee CTO ಚೀನೀ ಓಪನ್-ವೇಯ್ಟ್ AI ಮಾದರಿಗಳ ಬಗ್ಗೆ ಇರುವ ಭಯಗಳನ್ನು ಸವಾಲು ಮಾಡಿದರು

Alibaba ನ Qwen ಮತ್ತು Moonshot AI ನ Kimi K3 ನಂತಹ ಚೀನೀ ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಗಳು ಅಪಾರ ಜನಪ್ರಿಯತೆಯನ್ನು ಪಡೆಯುತ್ತಿದ್ದಂತೆ, ಅವುಗಳ ಭದ್ರತಾ ಪರಿಣಾಮಗಳ ಕುರಿತು ತೀವ್ರ ಚರ್ಚೆಗಳು ಹುಟ್ಟಿಕೊಂಡಿವೆ. ಈ ಮಾದರಿಗಳು ಸೈಬರ್ ದಾಳಿಗಳಿಗೆ ಮಾಧ್ಯಮಗಳಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಹುದು ಮತ್ತು ಇದರಿಂದಾಗಿ ಅಮೆರಿಕ ಸರ್ಕಾರವು ಅವುಗಳ ಮೇಲೆ ನಿಷೇಧ ಹೇರಬಹುದು ಎಂದು ಕೆಲವರು ಭಯಪಡುತ್ತಿದ್ದರೆ, ಇವುಗಳು ಸಹಜವಾಗಿಯೇ ಅಪಾಯಕಾರಿ ಎಂಬ ಕಲ್ಪನೆಯನ್ನು ತಜ್ಞರು ವಿರೋಧಿಸುತ್ತಿದ್ದಾರೆ.

"ದುರುದ್ದೇಶಪೂರಿತ ಉದ್ದೇಶ"ದ ವಾದವನ್ನು ಸುಳ್ಳು ಎಂದು ಸಾಬೀತುಪಡಿಸುವುದು

ಚೀನಾ ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಮಾದರಿಗಳು ದುಷ್ಟ ಎಳೆತಗಳಿರುವ ವ್ಯಕ್ತಿಗಳು ರೂಪಿಸಿದ "ಗುಪ್ತ ಉದ್ದೇಶಗಳು" ಅಥವಾ ಬ್ಯಾಕ್‌ಡೋರ್‌ಗಳನ್ನು (backdoors) ಹೊಂದಿರಬಹುದು ಎಂಬುದು ವಿಮರ್ಶಕರು ವ್ಯಕ್ತಪಡಿಸುತ್ತಿರುವ ಪ್ರಮುಖ ಆತಂಕವಾಗಿದೆ. ಆದರೆ, ಅಮೆರಿಕ ಮೂಲದ AI ಲ್ಯಾಬ್ Arcee ನ CTO ಲುಕಸ್ ಅಟ್ಕಿನ್ಸ್, ಈ ತಪ್ಪು ತಿಳುವಳಿಕೆಯು Large Language Models (LLMs) ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಮೂಲಭೂತವಾಗಿ ತಪ್ಪಾಗಿ ಪ್ರತಿನಿಧಿಸುತ್ತದೆ ಎಂದು ವಾದಿಸುತ್ತಾರೆ.

ಸಾಂಪ್ರದಾಯಿಕ ಸಾಫ್ಟ್‌ವೇರ್‌ನಂತೆ ಅಲ್ಲದೆ, ಅಲ್ಲಿ ಒಬ್ಬ ಡೆವಲಪರ್ ನಿರ್ದಿಷ್ಟ ದುರುದ್ದೇಶಪೂರಿತ ಕಮಾಂಡ್ ಅನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಕೋಡ್ ಮಾಡಬಹುದು, ಆದರೆ LLM ಗಳು ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆಗಳ ಉತ್ಪನ್ನಗಳಾಗಿವೆ. ಒಂದು ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಯನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡಿ ಖಾಸಗಿ, ಸ್ಥಳೀಯ ಪರಿಸರದಲ್ಲಿ ಚಲಾಯಿಸಿದ ನಂತರ, ಮೂಲ ಡೆವಲಪರ್‌ಗೆ ಆ ಇನ್‌ಸ್ಟೆನ್ಸ್ ಅನ್ನು ಪ್ರವೇಶಿಸಲು ಅಥವಾ ನಿಯಂತ್ರಿಸಲು ಯಾವುದೇ ಮಾರ್ಗವಿಲ್ಲ ಎಂದು ಅಟ್ಕಿನ್ಸ್ ತಿಳಿಸುತ್ತಾರೆ. ಮಾದರಿಯ ತೂಕಗಳು (model weights) ಮತ್ತು ಬಳಕೆದಾರರ ಮೂಲಸೌಕರ್ಯಗಳ ನಡುವಿನ ಈ ಪ್ರತ್ಯೇಕತೆಯು ಸಾಂಪ್ರದಾಯಿಕ ಸಾಫ್ಟ್‌ವೇರ್‌ಗಳಲ್ಲಿ ಇಲ್ಲದ ನಿರ್ಣಾಯಕ ಭದ್ರತಾ ಪದರವನ್ನು ಒದಗಿಸುತ್ತದೆ.

ಮಾದರಿ ಭದ್ರತೆಯ ತಾಂತ್ರಿಕ ವಾಸ್ತವ

ಚರ್ಚೆಗಳು ಮುಂದುವರಿಯುತ್ತಿದ್ದರೂ, "ಗುಪ್ತ" AI ನಡವಳಿಕೆಯ ಅಪಾಯಗಳು ಅತ್ಯಂತ ಕಡಿಮೆ ಎಂದು ತಾಂತ್ರಿಕ ಸಮುದಾಯವು ಒತ್ತಿಹೇಳುತ್ತಿದೆ. ಒಂದು ಕೋಡಿಂಗ್ ಮಾದರಿಯನ್ನು ನಿರ್ದಿಷ್ಟ ಕೋಡ್‌ಬೇಸ್‌ಗಳಿಗೆ ಮಾಲ್‌ವೇರ್ ಅನ್ನು ಸೇರಿಸಲು ತರಬೇತಿ ನೀಡಬಹುದೇ ಎಂಬುದು ಒಂದು ಸೈದ್ಧಾಂತಿಕ ಆತಂಕವಾಗಿದೆ. ಇದು ಸೈದ್ಧಾಂತಿಕವಾಗಿ ಸಾಧ್ಯ ಎಂದು ಅಟ್ಕಿನ್ಸ್ ಒಪ್ಪಿಕೊಂಡರೂ, ಅದಕ್ಕೆ ಪ್ರಸ್ತುತ ಅಸಾಧ್ಯವಾದ ಎಂಜಿನಿಯರಿಂಗ್‌ನ "ಅಸಾಧಾರಣ ಕೌಶಲಗಳು" (acrobatic feats) ಬೇಕಾಗುತ್ತವೆ ಎಂದು ಅವರು ಗಮನಿಸುತ್ತಾರೆ.

ಇದಲ್ಲದೆ, LLM ಗಳ ಸ್ವರೂಪವು ಸಂಭವನೀಯ (probabilistic) ಮತ್ತು ಸೃಜನಾತ್ಮಕವಾಗಿದ್ದು, ನಿರ್ದಿಷ್ಟ ದುರುದ್ದೇಶಪೂರಿತ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಪ್ರಚೋದಿಸಲು ಅಗತ್ಯವಿರುವ "ಪರಿಪೂರ್ಣ ಪರಿಸ್ಥಿತಿ" (perfect storm) ಉಂಟಾಗುವುದು ಅತ್ಯಂತ ಅಸಾಧ್ಯ. ಉದ್ಯಮಗಳಿಗೆ, ಭದ್ರತೆಯನ್ನು ಹಲವಾರು ಪ್ರಮಾಣಿತ ಪದರಗಳ ಮೂಲಕ ನಿರ್ವಹಿಸಲಾಗುತ್ತದೆ:

• Security Testing: ದೊಡ್ಡ ಸಂಸ್ಥೆಗಳು ಮಾದರಿ ಕೋರ್‌ಗಳನ್ನು ಕಠಿಣ ಪರಿಶೀಲನಾ ಪ್ರಕ್ರಿಯೆಗಳ ಮೂಲಕ ನಡೆಸುತ್ತವೆ.
• Post-Training: ಕಂಪನಿಗಳು ನಿರ್ದಿಷ್ಟ ಕಾರ್ಯಗಳಿಗಾಗಿ ಮಾದರಿಗಳನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡುತ್ತವೆ, ಇದು ಪಕ್ಷಪಾತ (bias), ವಿಷಕಾರಿ ಅಂಶಗಳು (toxicity) ಮತ್ತು ಭ್ರಮೆಗಳನ್ನು (hallucinations) ಪರೀಕ್ಷಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
• Model Agnosticism: ಆಧುನಿಕ AI ಆರ್ಕಿಟೆಕ್ಚರ್ ಹೆಚ್ಚು ಮಾದರಿ-ಅಜ್ಞಾತವಾಗಿದೆ (model-agnostic), ಅಂದರೆ ಉದ್ಯಮಗಳು ತಮ್ಮ ಇಡೀ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ಮರು-ಎಂಜಿನಿಯರಿಂಗ್ ಮಾಡದೆ ಚೀನೀ ಮಾದರಿಗಳನ್ನು ಅಮೆರಿಕದ ಪರ್ಯಾಯಗಳೊಂದಿಗೆ ಬದಲಾಯಿಸಬಹುದು.

ನಿಯಂತ್ರಣದ ಮೂಲಕವಲ್ಲ, ನಾವೀನ್ಯತೆಯ ಮೂಲಕ ಸ್ಪರ್ಧೆ

ಅಮೆರಿಕದ ಕಂಪನಿಗಳಿಗೆ ಸ್ಥಳೀಯ ಪರ್ಯಾಯಗಳನ್ನು ಒದಗಿಸಲು ಓಪನ್ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುವ Arcee, ವಿಶಿಷ್ಟ ಸ್ಥಿತಿಯಲ್ಲಿದೆ. ಚೀನೀ ಮಾದರಿಗಳ ಮೇಲಿನ ನಿಷೇಧವು ಸೈದ್ಧಾಂತಿಕವಾಗಿ ಅವರ ವ್ಯವಹಾರಕ್ಕೆ ಪ್ರಯೋಜನಕಾರಿಯಾಗಬಹುದು, ಆದರೆ ನಿಷೇಧದಿಂದ ಗಮನವನ್ನು ಸ್ಥಳೀಯ ಪರಿಸರ ವ್ಯವಸ್ಥೆಯನ್ನು ಬಲಪಡಿಸುವುದರತ್ತ ಬದಲಾಯಿಸಬೇಕು ಎಂದು ಅಟ್ಕಿನ್ಸ್ ವಾದಿಸುತ್ತಾರೆ.

ಆಸಕ್ತಿದಾಯಕ ವಿಷಯವೆಂದರೆ, ಉತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಯ ಚೀನೀ ಮಾದರಿಗಳ ಏರಿಕೆಯು ಪಶ್ಚಿಮದಲ್ಲಿ ನಾವೀನ್ಯತೆಯನ್ನು ವೇಗಗೊಳಿಸುತ್ತದೆ. Arcee ಈ ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಗಳ ಆರ್ಕಿಟೆಕ್ಚರ್ ಮತ್ತು ಸಾಮರ್ಥ್ಯಗಳಿಂದ ಕಲಿಯಲು ಮತ್ತು ನಿರಂತರ ಸುಧಾರಣೆಯ ಚಕ್ರವನ್ನು ಚಾಲನೆ ಮಾಡಲು ಇವುಗಳನ್ನು ಬಳಸಿಕೊಳ್ಳುತ್ತದೆ. ಅಟ್ಕಿನ್ಸ್ ಪ್ರಕಾರ, ಅಮೆರಿಕದ ಲ್ಯಾಬ್‌ಗಳು ಸ್ಪರ್ಧಿಸಲು ಇರುವ ಅಂತಿಮ ಮಾರ್ಗವು ನೀತಿಯಲ್ಲಲ್ಲ, ಬದಲಾಗಿ ಕಾರ್ಯಕ್ಷಮತೆಯಾಗಿದೆ: "ಚೀನೀ ಮಾದರಿಗಳೊಂದಿಗೆ ಸ್ಪರ್ಧಿಸುವ ಮಾರ್ಗವೆಂದರೆ ಅದಕ್ಕಿಂತ ಉತ್ತಮವಾದ ಮಾದರಿಯನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವುದು."

ಪ್ರಮುಖ ಅಂಶಗಳು

• Isolation ಮೂಲಕ ಭದ್ರತೆ: ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಗಳನ್ನು ಖಾಸಗಿ ಡೇಟಾ ಸೆಂಟರ್‌ನಲ್ಲಿ ನಿಯೋಜಿಸಿದ ನಂತರ, ಮೂಲ ಡೆವಲಪರ್‌ಗಳಿಗೆ ಸ್ಥಳೀಯ ಪರಿಸರವನ್ನು ಪ್ರವೇಶಿಸಲು ಅಥವಾ ನಿರ್ವಹಿಸಲು ಯಾವುದೇ ತಂತ್ರಜ್ಞಾನ ಇರುವುದಿಲ್ಲ.
• ಸೈದ್ಧಾಂತಿಕ ಮತ್ತು ಪ್ರಾಯೋಗಿಕ ಅಪಾಯ: ದುರುದ್ದೇಶಪೂರಿತ ಕೋಡ್ ಇಂಜೆಕ್ಷನ್ ಗಾಗಿ "ಗುಪ್ತ ತರಬೇತಿ" ಸೈದ್ಧಾಂತಿಕವಾಗಿ ಸಾಧ್ಯವಾಗಿದ್ದರೂ, ಪ್ರಸ್ತುತ LLM ಆರ್ಕಿಟೆಕ್ಚರ್‌ಗಳಲ್ಲಿ ಇದು ಅತ್ಯಂತ ಸಂಕೀರ್ಣ ಮತ್ತು ಅಸಾಧ್ಯವಾದ ಕಾರ್ಯವಾಗಿದೆ.
• ಸ್ಪರ್ಧೆಯ ಮೂಲಕ ನಾವೀನ್ಯತೆ: ನಿಷೇಧಗಳನ್ನು ಅನುಸರಿಸುವ ಬದಲು, ಚೀನಾದ ಉತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಯ ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಗಳು ಒದಗಿಸುವ ಸ್ಪರ್ಧಾತ್ಮಕ ಒತ್ತಡ ಮತ್ತು ಹಂಚಿಕೆಯ ಜ್ಞಾನದಿಂದ ಅಮೆರಿಕದ AI ವಲಯವು ಪ್ರಯೋಜನ ಪಡೆಯಬಹುದು.