Vercel ನ ಜೂನ್ ತಿಂಗಳ ಟೋಕನ್-ಶೇರ್ ವರದಿಯು ಗೇಟ್‌ವೇ ಟೋಕನ್‌ಗಳಲ್ಲಿ 29% ಅನ್ನು ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್‌ಗಳು (open-weight models) ನಿರ್ವಹಿಸುತ್ತಿವೆ ಎಂದು ತೋರಿಸುತ್ತದೆ, ಇದು ಏಪ್ರಿಲ್‌ನಲ್ಲಿ ಇದ್ದ 11% ಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿದೆ. ಇದರಲ್ಲಿ ಕೇವಲ DeepSeek ಒಂದೇ 22.6% ಪ್ರಮಾಣವನ್ನು ಹೊಂದಿದೆ. ಈ ಏರಿಕೆ ಒಂದು ವೇಗದ ಬದಲಾವಣೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ: ಡೆವಲಪರ್‌ಗಳು ಕೇವಲ ಒಂದು "ಅತ್ಯುತ್ತಮ" ಮಾಡೆಲ್ ಮೇಲೆ ಅವಲಂಬಿತರಾಗದೆ, AI ಮಾಡೆಲ್‌ಗಳನ್ನು ರೂಟಬಲ್ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ (routable infrastructure) ಆಗಿ ಪರಿಗಣಿಸುತ್ತಿದ್ದಾರೆ.

ಡೆವಲಪರ್‌ಗಳು ಮಾಡೆಲ್‌ಗಳನ್ನು ಮೂಲಸೌಕರ್ಯವಾಗಿ ಏಕೆ ಪರಿಗಣಿಸುತ್ತಿದ್ದಾರೆ

ಅಗ್ಗದ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್‌ಗಳು—ಅವುಗಳಲ್ಲಿ ಹೆಚ್ಚಿನವು ಚೀನೀ ಪೂರೈಕೆದಾರರಿಂದ ಬಂದಿವೆ—Anthropic ನಂತಹ ಪ್ರೀಮಿಯಂ ಸೇವೆಗಳ ಒಂದು ಸಣ್ಣ ಭಾಗದ ವೆಚ್ಚವನ್ನು ಮಾತ್ರ ಹೊಂದಿರುತ್ತವೆ. ಕೋಡ್ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್, ಟೆಕ್ಸ್ಟ್ ಕ್ಲೀನಿಂಗ್ ಅಥವಾ ಸರಳ ಡೇಟಾ ಲುಕ್‌ಅಪ್‌ಗಳಂತಹ ದೈನಂದಿನ ಕೆಲಸಗಳಿಗೆ, ಕೆಲವು ಪ್ರತಿಶತ ಕಡಿಮೆ ನಿಖರತೆ ಹೊಂದಿದ್ದರೂ ಸಹ, ಡಾಲರ್‌ಗಳಿಗಿಂತ ಸೆಂಟ್‌ಗಳಷ್ಟು ಕಡಿಮೆ ವೆಚ್ಚದ ಮಾಡೆಲ್ ಹೆಚ್ಚು ಆಕರ್ಷಕವಾಗಬಹುದು.

ಇದರ ಪರಿಣಾಮವಾಗಿ ಒಂದು ಹೊಸ ಡಿಸೈನ್ ಪ್ಯಾಟರ್ನ್ (design pattern) ರೂಪುಗೊಂಡಿದೆ. ಒಂದು ಅಪ್ಲಿಕೇಶನ್ ಮೊದಲು ಕೆಲಸದ "ಸಾಮಾನ್ಯ" (boring) ಭಾಗಕ್ಕಾಗಿ ಕಡಿಮೆ ವೆಚ್ಚದ ಮಾಡೆಲ್‌ಗೆ ವಿನಂತಿಯನ್ನು ಕಳುಹಿಸುತ್ತದೆ. ಒಂದು ವೇಳೆ ಔಟ್‌ಪುಟ್ ಸರಳ ಗುಣಮಟ್ಟದ ತಪಾಸಣೆಯಲ್ಲಿ ಉತ್ತೀರ್ಣವಾದರೆ, ಪೈಪ್‌ಲೈನ್ ಮುಂದುವರಿಯುತ್ತದೆ; ಇಲ್ಲದಿದ್ದರೆ, ಎರಡನೇ ಬಾರಿ ಪರಿಶೀಲಿಸಲು ಅಥವಾ ಅಂತಿಮ ನಿರ್ಧಾರಕ್ಕಾಗಿ ಹೆಚ್ಚಿನ ಬೆಲೆಯ ಮಾಡೆಲ್ ಅನ್ನು ಬಳಸಲಾಗುತ್ತದೆ. ಇಲ್ಲಿ ಕೇವಲ ಒಂದು ಮಾಡೆಲ್ ಅನ್ನು ಆಯ್ಕೆ ಮಾಡುವುದಕ್ಕಿಂತ, ರೂಟಿಂಗ್ ಲಾಜಿಕ್ (routing logic) ಅತ್ಯಂತ ನಿರ್ಣಾಯಕ ಅಂಶವಾಗುತ್ತದೆ.

ಅಂಕಿಅಂಶಗಳು ಏನು ಹೇಳುತ್ತವೆ

ಹಲವು AI ಪೂರೈಕೆದಾರರನ್ನು ಒಳಗೊಂಡಿರುವ ತನ್ನ ಗೇಟ್‌ವೇಯಿಂದ ಪಡೆದ Vercel ನ ಡೇಟಾವು, ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್‌ಗಳು ಅಂಚಿನಿಂದ ಮುಖ್ಯವಾಹಿನಿಗೆ ಸಾಗುತ್ತಿರುವುದನ್ನು ತೋರಿಸುತ್ತದೆ. ಏಪ್ರಿಲ್‌ನಲ್ಲಿ, ಅವು ಎಲ್ಲಾ ಟೋಕನ್‌ಗಳಲ್ಲಿ ಕೇವಲ ಒಂದು ತೃತಾಂಶದಷ್ಟನ್ನು ಮಾತ್ರ ಹೊಂದಿದ್ದವು; ಜೂನ್ ವೇಳೆಗೆ, ಅವು ಮೂರನೇ ಒಂದು ಭಾಗದಷ್ಟು ಹತ್ತಿರದಲ್ಲಿದ್ದವು. ಚೀನೀ ಮಾಡೆಲ್ ಆದ DeepSeek, ತನ್ನದೇ ಆದ ಟೋಕನ್ ಪ್ರಮಾಣದಲ್ಲಿ ಐದನೇ ಒಂದು ಭಾಗಕ್ಕಿಂತ ಹೆಚ್ಚು ಕೊಡುಗೆ ನೀಡಿದೆ.

ಉನ್ನತ ಮಟ್ಟದ ಮಾಡೆಲ್‌ಗಳು ಇನ್ನೂ ಹೆಚ್ಚಿನ ವೆಚ್ಚವನ್ನು ಹೊಂದಿವೆ. ಉದಾಹರಣೆಗೆ, Anthropic ತನ್ನ ಪ್ರತಿ ಟೋಕನ್ ಬೆಲೆ ಹೆಚ್ಚಿರುವುದರಿಂದ ಹಣಕಾಸಿನ ವೆಚ್ಚದ ಹೆಚ್ಚಿನ ಭಾಗವನ್ನು ತನ್ನಲ್ಲೇ ಇರಿಸಿಕೊಳ್ಳುತ್ತಿದೆ. ಇದರ ಲೆಕ್ಕಾಚಾರ ಸರಳವಾಗಿದೆ: ಅಗ್ಗದ ಮಾಡೆಲ್‌ಗಳು ಹೆಚ್ಚಿನ ಪ್ರಮಾಣದ, ಕಡಿಮೆ ಲಾಭದಾಯಕ ಕೆಲಸಗಳನ್ನು ಗೆಲ್ಲುತ್ತವೆ, ಆದರೆ ದುಬಾರಿ ಮಾಡೆಲ್‌ಗಳು ಹೆಚ್ಚಿನ ಲಾಭದಾಯಕ ಮತ್ತು ಹೆಚ್ಚಿನ ಪ್ರಭಾವ ಬೀರುವ ಕಾರ್ಯಗಳನ್ನು ಉಳಿಸಿಕೊಳ್ಳುತ್ತವೆ.

AI ಏಜೆಂಟ್‌ಗಳ ಮೇಲೆ ಇದರ ಪರಿಣಾಮಗಳು

ಒಂದು AI ಏಜೆಂಟ್ ಸಾಮಾನ್ಯವಾಗಿ ಪ್ಲಾನಿಂಗ್, ಡೇಟಾ ರಿಟ್ರಿೀವಲ್, ಟೂಲ್ ಇನ್ವೋಕೇಶನ್ ಮತ್ತು ರಿಸಲ್ಟ್ ರಿಫೈನ್‌ಮೆಂಟ್ ಎಂಬ ಹಂತಗಳ ಸರಣಿಯನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ. ಪ್ರತಿ ಹಂತವನ್ನು ಅತ್ಯಂತ ವೆಚ್ಚ-ಪರಿಣಾಮಕಾರಿ ಮಾಡೆಲ್‌ಗೆ ನಿಯೋಜಿಸಿದಾಗ, ಒಟ್ಟಾರೆ ಕಾರ್ಯಾಚರಣೆಯ ವೆಚ್ಚವು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆಯಾಗುತ್ತದೆ.

  • ಡೇಟಾ ರಿಟ್ರಿೀವಲ್ ಮತ್ತು ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್ ಕಾರ್ಯಗಳಿಗೆ ಹೆಚ್ಚಾಗಿ ಮೂಲಭೂತ ಭಾಷಾ ತಿಳುವಳಿಕೆಯ ಅಗತ್ಯವಿರುತ್ತದೆ, ಇದನ್ನು ಅಗ್ಗದ ಮಾಡೆಲ್‌ಗಳು ಅತ್ಯುತ್ತಮವಾಗಿ ಮಾಡಬಲ್ಲವು.
  • ಅಂತಿಮ ತೀರ್ಪು—ಉತ್ತರವು ಸ್ವೀಕಾರಾರ್ಹವೇ ಎಂದು ನಿರ್ಧರಿಸುವ ಭಾಗ—ಹೆಚ್ಚಿನ ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ಹೊಂದಿರುವ ಪ್ರೀಮಿಯಂ ಮಾಡೆಲ್‌ಗಳ ವ್ಯಾಪ್ತಿಯಲ್ಲೇ ಇರುತ್ತದೆ.

ಈ ಹಂತ ಹಂತದ ವಿಧಾನವು (layered approach) ಡೆವಲಪರ್‌ಗಳು ತಮ್ಮ ಬಜೆಟ್ ಮೀರಿ ಹೋಗದಂತೆ ದೊಡ್ಡ ಮಟ್ಟದ ಕೆಲಸಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಇದು "ಅತ್ಯುತ್ತಮ ಮಾಡೆಲ್ ಅನ್ನು ಆಯ್ಕೆ ಮಾಡಿ" ಎಂಬ mindset ನಿಂದ "ಪ್ರತಿ ಹಂತದಲ್ಲಿ ಯಶಸ್ಸನ್ನು ಅಳೆಯಿರಿ ಮತ್ತು ಅದಕ್ಕೆ ಅನುಗುಣವಾಗಿ ರೂಟ್ ಮಾಡಿ" ಎಂಬ ಬದಲಾವಣೆಗೆ ದಾರಿ ಮಾಡಿಕೊಡುತ್ತದೆ.

ಅಪಾಯಗಳು ಮತ್ತು ಮಿತಿಗಳು

ಇದರ ಆರ್ಥಿಕತೆ ಆಕರ್ಷಕವಾಗಿದ್ದರೂ, ಈ ಪರಿವರ್ತನೆಯು ಸುಗಮವಾಗಿಲ್ಲ.

  • ಅನುಸರಣೆ (Compliance): ಕೆಲವು ನ್ಯಾಯಾಂಗಗಳು ಕಟ್ಟುನಿಟ್ಟಾದ ಡೇಟಾ ನಿರ್ವಹಣಾ ನಿಯಮಗಳನ್ನು ವಿಧಿಸುತ್ತವೆ, ಇದು ವಿದೇಶಿ ಹೋಸ್ಟಿಂಗ್ ಮಾಡಲಾದ ಮಾಡೆಲ್‌ಗಳ ಬಳಕೆಯನ್ನು ಸೀಮಿತಗೊಳಿಸಬಹುದು.
  • ಹೋಸ್ಟಿಂಗ್ ಸಂಕೀರ್ಣತೆ: ದೊಡ್ಡ ಪ್ರೀಮಿಯಂ ಮಾಡೆಲ್‌ಗಳನ್ನು ಸ್ವತಃ (in-house) ನಿರ್ವಹಿಸುವುದು ಕಷ್ಟ, ಆದ್ದರಿಂದ ಸಂಸ್ಥೆಗಳು ಬಾಹ್ಯ API ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಬೇಕಾಗುತ್ತದೆ, ಇದು ಲೇಟೆನ್ಸಿ (latency) ಮತ್ತು ವೆಂಡರ್-ಲಾಕ್ (vendor-lock) ಕಾಳಜಿಗಳನ್ನು ಉಂಟುಮಾಡಬಹುದು.

ಈ ಅಂಶಗಳಿಂದಾಗಿ, ಅಗ್ಗದ ಮಾಡೆಲ್‌ಗಳು ಪ್ರೀಮಿಯಂ ಮಾಡೆಲ್‌ಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಬದಲಾಯಿಸುವ ಸಾಧ್ಯತೆಯಿಲ್ಲ. ಬದಲಾಗಿ, ಅವು ದೈನಂದಿನ ಕೆಲಸಗಳಿಗೆ ಡಿಫಾಲ್ಟ್ ಆಗಿ ಬಳಕೆಯಾಗುತ್ತವೆ, ಆದರೆ ಪ್ರೀಮಿಯಂ ಮಾಡೆಲ್‌ಗಳು ತಮ್ಮ ಹೆಚ್ಚಿನ ವೆಚ್ಚವನ್ನು ಸಮರ್ಥಿಸಿಕೊಳ್ಳಬಹುದಾದ "ನಿರ್ಧಾರದ ಹಂತದಲ್ಲಿ" (decision layer) ಉಳಿಯುತ್ತವೆ.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು

  • ರೂಟಿಂಗ್‌ಗಾಗಿ ಟೂಲಿಂಗ್: ರೂಟಿಂಗ್ ಲೇಯರ್ ಹೆಚ್ಚು ಕೇಂದ್ರಬಿಂದುವಾಗುತ್ತಿದ್ದಂತೆ, ಲೇಟೆನ್ಸಿ, ವೆಚ್ಚ ಮತ್ತು ಕಾನ್ಫಿಡೆನ್ಸ್ ಥ್ರೆಶೋಲ್ಡ್‌ಗಳ ಆಧಾರದ ಮೇಲೆ ಮಾಡೆಲ್ ಆಯ್ಕೆಯನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸುವ SDKಗಳು ಮತ್ತು ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳ ಅಲೆ ಬರಬಹುದು.

ಕಾರ್ಯದ ಮಟ್ಟದ ಯಶಸ್ಸನ್ನು ಅಳೆಯುವ, ರಿಟ್ರೈಗಳನ್ನು (retries) ಟ್ರ್ಯಾಕ್ ಮಾಡುವ ಮತ್ತು "ವ್ಯಾಲ್ಯೂಮ್" ಅನ್ನು "ನಿರ್ಧಾರ"ದಿಂದ ಸ್ಪಷ್ಟವಾಗಿ ಪ್ರತ್ಯೇಕಿಸುವ ಡೆವಲಪರ್‌ಗಳು ಉದಯೋನ್ಮುಖ ಮೂಲಸೌಕರ್ಯ ಮನೋಭಾವದಿಂದ ಲಾಭ ಪಡೆಯಲು ಉತ್ತಮ ಸ್ಥಿತಿಯಲ್ಲಿರುತ್ತಾರೆ.

ಸಾರಾಂಶ: AI ಸ್ಟ್ಯಾಕ್ ಕೇವಲ ಒಂದು ಮಾಡೆಲ್ ಆಯ್ಕೆಯಿಂದ ರೂಟಿಂಗ್ ಸಮಸ್ಯೆಯಾಗಿ ಬದಲಾಗುತ್ತಿದೆ, ಇಲ್ಲಿ ಅಗ್ಗದ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್‌ಗಳು ಹೆಚ್ಚಿನ ಕೆಲಸವನ್ನು ನಿರ್ವಹಿಸುತ್ತವೆ ಮತ್ತು ಪ್ರೀಮಿಯಂ ಮಾಡೆಲ್‌ಗಳನ್ನು ಹೆಚ್ಚಿನ ಪ್ರಭಾವ ಬೀರುವ ನಿರ್ಧಾರಗಳಿಗಾಗಿ ಮೀಸಲಿಡಲಾಗುತ್ತದೆ. ಆ ರೂಟಿಂಗ್ ಅನ್ನು ಕರಗತ ಮಾಡಿಕೊಳ್ಳುವುದು AI ಬಿಲ್ಡರ್‌ಗಳಿಗೆ ಮುಂದಿನ ಸ್ಪರ್ಧಾತ್ಮಕ ಶಕ್ತಿಯಾಗಲಿದೆ.