𝗠𝗶𝗰𝗿𝗼𝘀𝗼𝗳𝘁 ನ AI ಪಣ ಫಲ ನೀಡುತ್ತಿದೆ

Microsoft ನ ಇತ್ತೀಚಿನ ಗಳಿಕೆಯ ವರದಿಯು Azure ವಾರ್ಷಿಕವಾಗಿ 28% ಬೆಳೆದಿದೆ ಎಂದು ತೋರಿಸುತ್ತದೆ. ಆ ಬೆಳವಣಿಗೆಯಲ್ಲಿ AI ಸೇವೆಗಳು 6 ಪಾಯಿಂಟ್‌ಗಳ ಕೊಡುಗೆ ನೀಡಿವೆ. ಇದು OpenAI ನಲ್ಲಿನ ಹೂಡಿಕೆ ಯಶಸ್ವಿಯಾಗಿದೆ ಎಂಬುದನ್ನು ಸಾಬೀತುಪಡಿಸುತ್ತದೆ.

Azure OpenAI ಇದರ ಮುಖ್ಯ ಚಾಲಕ ಶಕ್ತಿಯಾಗಿದೆ. ಇದು ಕಂಪನಿಗಳಿಗೆ ಎಂಟರ್‌ಪ್ರೈಸ್ ಸುರಕ್ಷತೆಯೊಂದಿಗೆ GPT-4 ಅನ್ನು ಬಳಸುವ ಅವಕಾಶ ನೀಡುತ್ತದೆ.

ಈ ಮಾದರಿಗಳನ್ನು (models) ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ இயக்குವುದು ತಾಂತ್ರಿಕ ಸವಾಲುಗಳನ್ನು ತರುತ್ತದೆ. ಒಂದು ತಂಡವು ರಿಕ್ವೆಸ್ಟ್ ಮಿತಿಗಳನ್ನು ತಲುಪಿತು ಮತ್ತು ತಮ್ಮ ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ಬದಲಾಯಿಸಬೇಕಾಯಿತು. ಅವರು ಏಕೈಕ ಲೋಡ್ ಬ್ಯಾಲೆನ್ಸರ್‌ನಿಂದ ಮೂರು ಪ್ರದೇಶಗಳಲ್ಲಿ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳನ್ನು ಶಾರ್ಡಿಂಗ್ (sharding) ಮಾಡುವ ವಿಧಾನಕ್ಕೆ ಬದಲಾದರು. ಈ ಪರಿಹಾರವು ಲೇಟೆನ್ಸಿಯನ್ನು (latency) ಕಡಿಮೆ ಇರಿಸಲು ಸಹಾಯ ಮಾಡಿತು. ಅವರು ವೆಕ್ಟರ್ ಲುಕ್‌ಅಪ್‌ಗಳನ್ನು (vector lookups) 40% ಕಡಿಮೆ ಮಾಡಲು Redis ಕ್ಯಾಶ್ ಅನ್ನು ಸಹ ಬಳಸಿದರು.

Microsoft 365 Copilot ಮತ್ತೊಂದು ಬೆಳವಣಿಗೆಯ ಇಂಜಿನ್ ಆಗಿದೆ. ಇದರ ಬೆಲೆ ಪ್ರತಿ ಬಳಕೆದಾರರಿಗೆ ಪ್ರತಿ ತಿಂಗಳು $30 ಆಗಿದೆ. ವಾಣಿಜ್ಯ ಬಳಕೆದಾರರಲ್ಲಿ ಶೇ. 10 ರಷ್ಟು ಜನರು ಇದನ್ನು ಅಳವಡಿಸಿಕೊಂಡರೆ, Microsoft ವಾರ್ಷಿಕವಾಗಿ $14.4 ಬಿಲಿಯನ್ ಆದಾಯವನ್ನು ಗಳಿಸುತ್ತದೆ. ಇದು ಒಂದು ಬೃಹತ್ ಅವಕಾಶವಾಗಿದೆ.

ಇದನ್ನು ಜಾರಿಗೆ ತರಲು ಎಚ್ಚರಿಕೆಯ ಕೆಲಸ ಬೇಕಾಗುತ್ತದೆ. ಒಂದು ಜಾಗತಿಕ ಕನ್ಸಲ್ಟಿಂಗ್ ಸಂಸ್ಥೆಯು Copilot ಬಳಸಿದ ನಂತರ ಡಾಕ್ಯುಮೆಂಟ್ ಡ್ರಾಫ್ಟಿಂಗ್ ಸಮಯದಲ್ಲಿ ಶೇ. 15 ರಷ್ಟು ಕಡಿತವನ್ನು ಕಂಡಿತು. ಆದಾಗ್ಯೂ, ಲೈಸೆನ್ಸಿಂಗ್ ನಿರ್ವಹಿಸಲು ಅವರು ಕಸ್ಟಮ್ ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ಬರೆಯಬೇಕಾಯಿತು. ಅಲ್ಲದೆ, ಗ್ರಾಹಕರ ಮಾಹಿತಿಯನ್ನು ರಕ್ಷಿಸಲು ಅವರು ಕಟ್ಟುನಿಟ್ಟಾದ ಡೇಟಾ ನೀತಿಗಳನ್ನು ರೂಪಿಸಬೇಕಾಯಿತು.

GitHub Copilot ಕೂಡ ತನ್ನ ಸಾಮರ್ಥ್ಯವನ್ನು ತೋರಿಸುತ್ತಿದೆ. ಇದು 1.3 ಮಿಲಿಯನ್ ಪಾವತಿಸುವ ಚಂದಾದಾರರನ್ನು ಹೊಂದಿದೆ. ಹೊಸ ಎಂಟರ್‌ಪ್ರೈಸ್ ವರ್ಷನ್‌ಗಳು ದೊಡ್ಡ ಸಂಸ್ಥೆಗಳು ಕೋಡ್ ಅನ್ನು ಉತ್ತಮವಾಗಿ ನಿರ್ವಹಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ.

Microsoft ಒಂದು ಮುಖ್ಯ ಅಪಾಯವನ್ನು ಎದುರಿಸುತ್ತಿದೆ. ಅವರು OpenAI ಮೇಲೆ ಹೆಚ್ಚಿನ ಅವಲಂಬೆಯನ್ನು ಹೊಂದಿದ್ದಾರೆ. ಆ ಸಂಬಂಧ ಬದಲಾದರೆ, ಅದು ಅವರ ಆದಾಯದ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ. Microsoft ತನ್ನ Azure ಗೆ Llama 2 ಮತ್ತು Mistral ನಂತಹ ಇತರ ಮಾದರಿಗಳನ್ನು ಸೇರಿಸುವ ಮೂಲಕ ಇದನ್ನು ನಿರ್ವಹಿಸುತ್ತಿದೆ.

ಸಣ್ಣ ಮಾದರಿಗಳನ್ನು ಬಳಸುವುದು ಹಣವನ್ನು ಉಳಿಸಬಹುದು. ಒಂದು Llama 2 ಮಾದರಿಯು ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ $0.35 ವೆಚ್ಚವಾಗುತ್ತದೆ. ಅದೇ ಪ್ರಮಾಣಕ್ಕೆ GPT-4 ಗೆ $2.50 ವೆಚ್ಚವಾಗುತ್ತದೆ. ಸರಳ ಕೆಲಸಗಳಿಗೆ, ಹೆಚ್ಚಿನ ಲೇಟೆನ್ಸಿ ಇದ್ದರೂ ಸಹ ಅಗ್ಗದ ಮಾದರಿಯು ಉತ್ತಮವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ.

Microsoft ತನ್ನದೇ ಆದ Phi ಎಂಬ ಸಣ್ಣ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತಿದೆ. ಇದು ಹೊರಗಿನ ಪಾಲುದಾರರ ಮೇಲಿನ ಅವಲಂಬನೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.

Source: https://dev.to/lavkeshdwivedi/microsofts-ai-bet-pays-off-2df2

Optional learning community: https://t.me/GyaanSetuAi