ಓಪನ್-ವೇಯ್ಟ್ (Open-weight) AI ಮಾದರಿಗಳು ಈಗ OpenRouter ನಲ್ಲಿ 63% ಟೋಕನ್ ಟ್ರಾಫಿಕ್ ಅನ್ನು ನಿರ್ವಹಿಸುತ್ತಿವೆ, ಇದು ಕೇವಲ ಎರಡು ವರ್ಷಗಳ ಹಿಂದೆ 5% ಕ್ಕಿಂತ ಕಡಿಮೆ ಇತ್ತು. ಪ್ರತಿ ಟೋಕನ್ ವೆಚ್ಚದಲ್ಲಿ 50 ಪಟ್ಟು ಇಳಿಕೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯ ಅಂತರವು ಕಡಿಮೆಯಾಗುತ್ತಿರುವುದು, ಕ್ಲೋಸ್ಡ್-ಸೋರ್ಸ್ (closed-source) API ಗಳ ಮೇಲಿನ ಅವಲಂಬನೆಯನ್ನು ಮರುಪರಿಶೀಲಿಸಲು ಡೆವಲಪರ್‌ಗಳನ್ನು ಒತ್ತಾಯಿಸುತ್ತಿದೆ.

ಈ ಬದಲಾವಣೆಯ ಹಿಂದಿನ ಅಂಕಿಅಂಶಗಳು

Mozilla ನ ಟ್ರಾಫಿಕ್ ವಿಶ್ಲೇಷಣೆಯು OpenRouter ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ನಲ್ಲಿ ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಗಳು ಕಂಪ್ಯೂಟ್‌ನ ಪ್ರಬಲ ಮೂಲವಾಗಿವೆ ಎಂದು ತೋರಿಸುತ್ತದೆ. ಟೋಕನ್ ಟ್ರಾಫಿಕ್ ಎಂದರೆ ಒಂದು ಮಾದರಿಯು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಿದ ಪ್ರತಿಯೊಂದು ಪಠ್ಯದ ಭಾಗವನ್ನು ಎಣಿಸುವುದು, ಇದು ನೈಜ-ಪ್ರಪಂಚದ ಬಳಕೆಗೆ ವಿಶ್ವಾಸಾರ್ಹ ಸೂಚಕವಾಗಿದೆ. ಇಷ್ಟು ಕಡಿಮೆ ಅವಧಿಯಲ್ಲಿ 5% ಕ್ಕಿಂತ ಕಡಿಮೆ ಇರುವುದರಿಂದ 63% ಕ್ಕೆ ಏರಿಕೆ ಮಾಡಿದ್ದು, ಇದು ಕೇವಲ ತಾತ್ಕಾಲಿಕ ಪ್ರವೃತ್ತಿಯಲ್ಲದೆ ರಚನಾತ್ಮಕ ಬದಲಾವಣೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ.

ಆರ್ಥಿಕತೆ ಏಕೆ ಬದಲಾಯಿತು

2023 ರಲ್ಲಿ, ಹೆಚ್ಚಿನ ಕಾರ್ಯಕ್ಷಮತೆಯ ಮಾದರಿಯನ್ನು ನಡೆಸಲು ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ ಸರಿಸುಮಾರು $20 ವೆಚ್ಚವಾಗುತ್ತಿತ್ತು. ಇಂದು ಆ ಬೆಲೆ $0.40 ಆಗಿದೆ—ಕಳೆದ 36 ತಿಂಗಳುಗಳಲ್ಲಿ 50 ಪಟ್ಟು ಕಡಿತವನ್ನು ಸಾಧಿಸಲಾಗಿದೆ.

ಕಾರ್ಯಕ್ಷಮತೆಯ ಅಂತರವು ಕಡಿಮೆಯಾಗುತ್ತಿದೆ

ಓಪನ್ ಮಾದರಿಗಳು ಪ್ರಮಾಣಿತ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ ಪ್ರೊಪ್ರೈಟರಿ (proprietary) ಮಾದರಿಗಳಿಗಿಂತ ಸುಮಾರು 8% ಹಿಂದೆ ಇರುತ್ತಿದ್ದವು. ಇತ್ತೀಚಿನ ಅಳತೆಗಳು ಆ ಅಂತರವನ್ನು 3.3% ಗೆ ಇಳಿಸಿವೆ, ಇದನ್ನು ಉತ್ತಮ ಡೇಟಾ ಕ್ಯುರೇಶನ್ ಮತ್ತು ಆರ್ಕಿಟೆಕ್ಚರಲ್ ಬದಲಾವಣೆಗಳ ಮೂಲಕ ಕೇವಲ ಕೆಲವು ತಿಂಗಳುಗಳಲ್ಲಿ ಸಾಧಿಸಲಾಗಿದೆ. ಈ ಅಂತರವು ಈಗ ಎಷ್ಟು ಕಡಿಮೆಯಾಗಿದೆ ಎಂದರೆ, ವಿಶೇಷವಾಗಿ ವೆಚ್ಚವು ನಿರ್ಣಾಯಕವಾಗಿದ್ದಾಗ, ಕ್ಲೋಸ್ಡ್ ಮಾದರಿಯ ಬದಲಿಗೆ ಓಪನ್ ಮಾದರಿಯನ್ನು ಬಳಸುವುದರಲ್ಲಿ ಯಾವುದೇ ದೊಡ್ಡ ನಷ್ಟವಿಲ್ಲ ಎಂದು ಅನೇಕ ಡೆವಲಪರ್‌ಗಳು ಭಾವಿಸುತ್ತಿದ್ದಾರೆ.

ಡೆವಲಪರ್‌ಗಳು ಸಾಮೂಹಿಕವಾಗಿ ಬದಲಾಗುತ್ತಿದ್ದಾರೆ

Mozilla ಡೇಟಾದ ಪ್ರಕಾರ, AI ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಸೇರಿಸುವ 79% ಡೆವಲಪರ್‌ಗಳು ಈಗ ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಯೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸುತ್ತಾರೆ. ಈ ಆಯ್ಕೆಯು ಕೇವಲ ಬೆಲೆಯ ಬಗ್ಗೆ ಮಾತ್ರವಲ್ಲ; ಓಪನ್ ಮಾದರಿಗಳು ತಂಡಗಳಿಗೆ ವೇಯ್ಟ್‌ಗಳು (weights), ಲೈಸೆನ್ಸಿಂಗ್ ಮತ್ತು ನಿಯೋಜನೆ (deployment) ಆಯ್ಕೆಗಳ ಬಗ್ಗೆ ಸಂಪೂರ್ಣ ದೃಷ್ಟಿಕೋನವನ್ನು ನೀಡುತ್ತವೆ, ಇದು ವೇಗವಾದ ಇಟರೇಶನ್ ಸೈಕಲ್‌ಗಳಿಗೆ (iteration cycles) ಪೂರಕವಾಗಿದೆ.

ಸಾರ್ವಭೌಮತ್ವವು ತುರ್ತು ಅಗತ್ಯವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ

ಇತ್ತೀಚೆಗೆ 47 ದೇಶಗಳು ವಿದೇಶಿ AI ಸೇವೆಗಳೊಂದಿಗೆ ನಿರ್ಣಾಯಕ ಕೆಲಸದ ಹೊರೆಯನ್ನು (workloads) ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುವುದನ್ನು ನಿರ್ಬಂಧಿಸಿವೆ. ಓಪನ್ ಮಾದರಿಗಳನ್ನು ದೇಶೀಯ ಮೂಲಸೌಕರ್ಯದಲ್ಲಿ ಹೋಸ್ಟ್ ಮಾಡಬಹುದು, ಇದು ಆ ರಾಷ್ಟ್ರಗಳು ಡೇಟಾ ನಿಯಂತ್ರಣವನ್ನು ಉಳಿಸಿಕೊಳ್ಳಲು ಮತ್ತು ಉದಯೋನ್ಮುಖ ನಿಯಮಗಳನ್ನು ಪಾಲಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಹಣಕಾಸು, ಆರೋಗ್ಯ ಮತ್ತು ಸಾರ್ವಜನಿಕ ಆಡಳಿತ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಈ ನೀತಿಯ ಒತ್ತಡವು ಅಳವಡಿಕೆಯನ್ನು ವೇಗಗೊಳಿಸುತ್ತಿದೆ.

ನಿಜವಾದ ಶಕ್ತಿ "harness" ನಲ್ಲಿ ಇದೆ

ಸುತ್ತಮುತ್ತಲಿನ ಪರಿಕರಗಳು—ಪ್ರಾಂಪ್ಟ್-ಎಂಜಿನಿಯರಿಂಗ್ ಫ್ರೇಮ್‌ವರ್ಕ್‌ಗಳು, ಸೇಫ್ಟಿ ಫಿಲ್ಟರ್‌ಗಳು, ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಪೈಪ್‌ಲೈನ್‌ಗಳು—ಒಂದು ಸಣ್ಣ ಮಟ್ಟದ ಉತ್ತಮ ಮಾದರಿಯನ್ನು ಬದಲಾಯಿಸುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಕಾರ್ಯಕ್ಷಮತೆಯ ಲಾಭವನ್ನು ನೀಡುತ್ತವೆ ಎಂದು Mozilla ನ ವಿಶ್ಲೇಷಣೆಯು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ.

ಕ್ಲೋಸ್ಡ್ API ಗಳಿಗೆ ಸೀಮಿತವಾಗಿರಲು ಇರುವ ಅಪಾಯಗಳು

  • ವೆಂಡರ್ ರಿಸ್ಕ್ (Vendor risk) – ನೀತಿ ಬದಲಾವಣೆಗಳು, ಬೆಲೆ ಪರಿಷ್ಕರಣೆಗಳು ಅಥವಾ ಸರ್ಕಾರಿ ಆದೇಶಗಳು ತಕ್ಷಣವೇ ಪ್ರವೇಶವನ್ನು ಕಡಿತಗೊಳಿಸಬಹುದು, ಇದರಿಂದ ಹೊಸ ಒಪ್ಪಂದದವರೆಗೆ ಸೇವೆಗಳು ಸ್ಥಗಿತಗೊಳ್ಳಬಹುದು.

ಇಂದಿನ ಡೆವಲಪರ್‌ಗಳಿಗಾಗಿ ಒಂದು ಪ್ರಾಯೋಗಿಕ ಸ್ಟ್ಯಾಕ್ (stack)

  • ಹೆಚ್ಚಿನ ಪ್ರೊಡಕ್ಷನ್ ಕೆಲಸಗಳಿಗಾಗಿ (production workloads) ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಗಳನ್ನು mặc định (default) ಬಳಸಿ.
  • harness ನಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡಿ: ಇವ್ಯಾಲ್ಯೂಯೇಶನ್ ಸೂಟ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಿ, ಮರುಬಳಕೆ ಮಾಡಬಹುದಾದ ಪ್ರಾಂಪ್ಟ್ ಲೈಬ್ರರಿಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿ ಮತ್ತು ಸೇಫ್ಟಿ ಲೇಯರ್‌ಗಳನ್ನು ಸಂಯೋಜಿಸಿ.
  • ಪೋರ್ಟಬಿಲಿಟಿಗಾಗಿ (portability) ವಿನ್ಯಾಸಗೊಳಿಸಿ: ಕೋಡ್ ಬದಲಾವಣೆ ಇಲ್ಲದೆ ವಿವಿಧ ಪೂರೈಕೆದಾರರಿಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡಬಲ್ಲ ಇಂಟರ್ಫೇಸ್ ಮೂಲಕ ಮಾದರಿ ಕರೆಗಳನ್ನು (model calls) ಅಬ್‌ಸ್ಟ್ರಾಕ್ಟ್ ಮಾಡಿ.
  • ಅತ್ಯಾಧುನಿಕ ತರ್ಕ ಅಥವಾ ಓಪನ್ ಮಾದರಿಗಳು ಇನ್ನೂ ತಲುಪಲಾಗದ ಪ್ರೊಪ್ರೈಟರಿ ಡೇಟಾವನ್ನು ಬಯಸುವ ಸುಮಾರು 10% ಕಾರ್ಯಗಳಿಗಾಗಿ ಕ್ಲೋಸ್ಡ್ ಮಾದರಿಗಳನ್ನು ಮೀಸಲಿಡಿ.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು

ಓಪನ್-ವೇಯ್ಟ್ ಮಾದರಿಗಳು ಈಗ AI ಟೋಕನ್ ಮಾರುಕಟ್ಟೆಯನ್ನು ಆಕ್ರಮಿಸಿಕೊಂಡಿವೆ ಏಕೆಂದರೆ ಅವು ಅತ್ಯಂತ ಅಗ್ಗವಾಗಿವೆ ಮತ್ತು ಕ್ಲೋಸ್ಡ್ ಪರ್ಯಾಯಗಳಷ್ಟೇ ಸಮರ್ಥವಾಗಿವೆ. ಬಲವಾದ harness ಅನ್ನು ನಿರ್ಮಿಸುವ ಮತ್ತು ತಮ್ಮ ಸ್ಟ್ಯಾಕ್‌ಗಳನ್ನು ಪೋರ್ಟಬಲ್ ಆಗಿ ಇರಿಸಿಕೊಳ್ಳುವ ತಂಡಗಳು ವೆಚ್ಚದ ಉಳಿತಾಯವನ್ನು ಪಡೆಯುವುದಲ್ಲದೆ, ವೆಂಡರ್ ಮತ್ತು ನೀತಿ ಸಂಬಂಧಿತ ಆಘಾತಗಳಿಂದ ತಮ್ಮನ್ನು ರಕ್ಷಿಸಿಕೊಳ್ಳುತ್ತವೆ. ಕ್ಲೋಸ್ಡ್ ಮಾದರಿಗಳು ವಿಶೇಷ ಪರಿಕರಗಳಾಗಿ ಉಳಿಯುತ್ತವೆ, ಆದರೆ ಹೆಚ್ಚಿನ AI ಕೆಲಸವು ಈಗಾಗಲೇ ಓಪನ್ ಮಾದರಿಗಳತ್ತ ಸಾಗುತ್ತಿದೆ.