Apple ತನ್ನ ಪರಿಸರ ವ್ಯವಸ್ಥೆಗೆ (ecosystem) ಸುಧಾರಿತ ಮಾಡೆಲ್ ಕಂಪ್ರೆಷನ್ ತಂತ್ರಜ್ಞಾನವನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಲು Khosla Ventures ಬೆಂಬಲಿತ ಸ್ಟಾರ್ಟ್‌ಅಪ್ ಆದ PrismML ನೊಂದಿಗೆ ಪ್ರಾಥಮಿಕ ಚರ್ಚೆಗಳಲ್ಲಿರುವ ವರದಿಯಾಗಿದೆ. ಈ ಕ್ರಮವು ಅತ್ಯಾಧುನಿಕ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು (AI) ನೇರವಾಗಿ iPhone ನಲ್ಲಿ ತರುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ, ಇದು ಮೊಬೈಲ್ ಹಾರ್ಡ್‌ವೇರ್ ಮಿತಿಗಳು ಮತ್ತು ಆಧುನಿಕ Large Language Models (LLMs) ನ ಬೃಹತ್ ಕಂಪ್ಯೂಟೇಶನಲ್ ಅಗತ್ಯತೆಗಳ ನಡುವಿನ ಅಂತರವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.

On-Device AI ಮಿತಿಯನ್ನು ಪರಿಹರಿಸುವುದು

Apple ತನ್ನ iOS 18 ಮತ್ತು ಮರುರೂಪಿತ Siri ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡುತ್ತಿದ್ದಂತೆ, ಕಂಪನಿಯು ಒಂದು ಪ್ರಮುಖ ತಾಂತ್ರಿಕ ಸವಾಲನ್ನು ಎದುರಿಸುತ್ತಿದೆ: ಹೆಚ್ಚಿನ ಕಾರ್ಯಕ್ಷಮತೆಯ AI ಮಾಡೆಲ್‌ಗಳಿಗೆ ಸಾಮಾನ್ಯವಾಗಿ ಸ್ಮಾರ್ಟ್‌ಫೋನ್ ಸಾಮರ್ಥ್ಯಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಮತ್ತು ಪ್ರೊಸೆಸಿಂಗ್ ಪವರ್ ಅಗತ್ಯವಿರುತ್ತದೆ. PrismML ತಂತ್ರಜ್ಞಾನವನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುವ ಮೂಲಕ, Apple ಪ್ರೊಸೆಸಿಂಗ್ ಅನ್ನು ಕ್ಲೌಡ್‌ನಿಂದ ಸಾಧನದತ್ತ ಸ್ಥಳಾಂತರಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದೆ.

ಈ ಬದಲಾವಣೆಯು Apple ನ ಕಾರ್ಯತಂತ್ರದ ಸ್ಥಾನದೃಷ್ಟಿಯಿಂದ ಬಹಳ ಮುಖ್ಯವಾಗಿದೆ. On-device AI ವಿಳಂಬವನ್ನು (latency) ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ದುಬಾರಿ ಕ್ಲೌಡ್ ಕಂಪ್ಯೂಟಿಂಗ್ ವೆಚ್ಚಗಳನ್ನು ತಗ್ಗಿಸುತ್ತದೆ ಮತ್ತು ಸೂಕ್ಷ್ಮ ಬಳಕೆದಾರರ ಡೇಟಾ ಸಾಧನದಲ್ಲೇ ಇರುವುದನ್ನು ಖಚಿತಪಡಿಸುವ ಮೂಲಕ Apple ನ ಪ್ರಮುಖ ಗೌಪ್ಯತೆಯ (privacy) ಭರವಸೆಯನ್ನು ಬಲಪಡಿಸುತ್ತದೆ. ಇದಲ್ಲದೆ, ಇದು ಇಂಟರ್ನೆಟ್ ಸಂಪರ್ಕವಿಲ್ಲದಿದ್ದರೂ ಪ್ರಮುಖ AI ವೈಶಿಷ್ಟ್ಯಗಳು ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

PrismML ಬೃಹತ್ AI ಮಾಡೆಲ್‌ಗಳನ್ನು ಹೇಗೆ ಕುಗ್ಗಿಸುತ್ತದೆ

California Institute of Technology ನ ಸಂಶೋಧನೆಯಿಂದ ಉಗಮಿಸಿದ PrismML, ಮಾಡೆಲ್‌ನ ಆಂತರಿಕ ಮೌಲ್ಯಗಳನ್ನು ಸಂಗ್ರಹಿಸುವ ವಿಧಾನವನ್ನು ಸರಳಗೊಳಿಸುವ ಸುಧಾರಿತ ವಿಧಾನವನ್ನು ಬಳಸುತ್ತದೆ. ಸಾಂಪ್ರದಾಯಿಕ ವಿಧಾನಗಳು ಅಂಕಿಅಂಶಗಳನ್ನು 16 ಬಿಟ್‌ಗಳಿಂದ 4 ಬಿಟ್‌ಗಳಿಗೆ ಕಡಿಮೆ ಮಾಡಬಹುದು, ಆದರೆ PrismML ಇದನ್ನು ಮತ್ತೊಂದು ಹಂತಕ್ಕೆ ಕೊಂಡೊಯ್ದು, ಪ್ರತಿಯೊಂದು ಅಂಕಿಅಂಶವನ್ನು ಕೇವಲ ಒಂದು ಅಥವಾ ಮೂರು ಸಂಭವನೀಯ ಮೌಲ್ಯಗಳಿಗೆ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.

ಇದರ ದಕ್ಷತೆಯ ಲಾಭಗಳು ಗಮನಾರ್ಹವಾಗಿವೆ. Alibaba ನ ಓಪನ್-ಸೋರ್ಸ್ Qwen ಮಾಡೆಲ್ ಅನ್ನು ಬೃಹತ್ 54 GB ಯಿಂದ 4 GB ಕ್ಕಿಂತ ಕಡಿಮೆ ಮಾಡುವ ಮೂಲಕ PrismML ಇತ್ತೀಚೆಗೆ ಇದನ್ನು ಪ್ರದರ್ಶಿಸಿದೆ. ಈ ಕಂಪ್ರೆಷನ್ ಮಾಡೆಲ್‌ನ ಎಲ್ಲಾ 27 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು iPhone 15 ಅಥವಾ ಅದಕ್ಕಿಂತ ಹೊಸ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. CEO Babak Hassibi ಅವರ ಪ್ರಕಾರ, ಈ ಕಂಪ್ರೆಸ್ ಮಾಡಲಾದ ಮಾಡೆಲ್‌ಗಳು ಹಲವಾರು ಕಾರ್ಯಕ್ಷಮತೆಯ ಪ್ರಯೋಜನಗಳನ್ನು ನೀಡುತ್ತವೆ:

  • Memory Efficiency: 15 ಪಟ್ಟು ಹೆಚ್ಚು ಮೆಮೊರಿ ಉಳಿತಾಯ ಮಾಡುತ್ತದೆ.
  • Speed: ಆರು ರಿಂದ ಎಂಟು ಪಟ್ಟು ವೇಗವಾಗಿ ಚಲಿಸುತ್ತದೆ.
  • Power Consumption: ಆರು ಪಟ್ಟು ಕಡಿಮೆ ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ.

Hassibi ಅವರು ಕಾರ್ಯಕ್ಷಮತೆಯಲ್ಲಿ ಸಣ್ಣ ಮಟ್ಟದ ಇಳಿಕೆಯನ್ನು ಗಮನಿಸಿದ್ದಾರೆ—ವಿಶೇಷವಾಗಿ ವಾಸ್ತವಿಕ ಮಾಹಿತಿಯನ್ನು ನೆನಪಿಸಿಕೊಳ್ಳುವ ಸಾಮರ್ಥ್ಯದ (factual recall) ವಿಷಯದಲ್ಲಿ—ಆದರೆ ಮಾಡೆಲ್‌ಗಳು ತರ್ಕ ಮತ್ತು ಕೋಡಿಂಗ್ ಸಾಮರ್ಥ್ಯಗಳಲ್ಲಿ ಹೆಚ್ಚಿನ ಪ್ರಾವೀಣ್ಯತೆಯನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುತ್ತವೆ.

ಸೆಮಿಕಂಡಕ್ಟರ್ ಮತ್ತು ಹಾರ್ಡ್‌ವೇರ್ ಮಾರುಕಟ್ಟೆಗಳ ಮೇಲೆ ಪರಿಣಾಮಗಳು

Apple ನಂತಹ ದೈತ್ಯ ಕಂಪನಿಯು ಇಂತಹ ಕಂಪ್ರೆಷನ್ ತಂತ್ರಜ್ಞಾನವನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುವ ಸಾಧ್ಯತೆಯು ಹಾರ್ಡ್‌ವೇರ್ ತಯಾರಕರ ಚಿತ್ರಣವನ್ನೇ ಬದಲಿಸಬಹುದು. ಪ್ರಸ್ತುತ, Morgan Stanley ನಂತಹ ವಿಶ್ಲೇಷಕರು AI ಅನ್ನು ಬೆಂಬಲಿಸಲು Apple ನ ಮೆಮೊರಿ ವೆಚ್ಚಗಳು 2027 ರ ವೇಳೆಗೆ ಗಣನೀಯವಾಗಿ ಏರಬಹುದು ಎಂದು ಅಂದಾಜಿಸಿದ್ದಾರೆ, ಇದು iPhone ಬೆಲೆಗಳು ಹೆಚ್ಚಾಗಲು ಕಾರಣವಾಗಬಹುದು.

ಆದಾಗ್ಯೂ, PrismML ತಂತ್ರಜ್ಞಾನವು ಒಂದು ಮಾನದಂಡವಾದರೆ, ಸ್ಮಾರ್ಟ್‌ಫೋನ್‌ಗಳಲ್ಲಿ ಬೃಹತ್ ಮೆಮೊರಿ ಮಾಡ್ಯೂಲ್‌ಗಳ ಬೇಡಿಕೆ ಕಡಿಮೆಯಾಗಬಹುದು, ಆದರೆ ಹೆಚ್ಚಿನ ವೇಗ ಮತ್ತು ದಕ್ಷ ಸ್ಥಳೀಯ ಪ್ರೊಸೆಸಿಂಗ್ ಅಗತ್ಯತೆಗಳು ಹೆಚ್ಚಾಗಬಹುದು. PrismML, Google ನ Gemma ನಂತಹ ಇತರ ಪ್ರಮುಖ ಮಾಡೆಲ್‌ಗಳನ್ನು ಕಂಪ್ರೆಸ್ ಮಾಡುವತ್ತ ಸಾಗುತ್ತಿರುವಾಗ, ಅದರ ಗುರಿ ಸ್ಪಷ್ಟವಾಗಿದೆ: ಉನ್ನತ ಮಟ್ಟದ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಗ್ರಾಹಕ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ ಸ್ಥಳೀಯವಾಗಿ, ವೇಗವಾಗಿ ಮತ್ತು ಸುಲಭವಾಗಿ ಲಭ್ಯವಾಗುವಂತೆ ಮಾಡುವುದು.

ಪ್ರಮುಖ ಅಂಶಗಳು

  • Massive Compression: PrismML 54 GB AI ಮಾಡೆಲ್ ಅನ್ನು 4 GB ಕ್ಕಿಂತ ಕಡಿಮೆ ಮಾಡಬಲ್ಲದು, ಇದು iPhone 15 ನಂತಹ ಹೈ-ಎಂಡ್ ಸ್ಮಾರ್ಟ್‌ಫೋನ್‌ಗಳಲ್ಲಿ ಬಳಸಲು ಇದು ಸಾಧ್ಯವಾಗಿಸುತ್ತದೆ.
  • Efficiency Gains: ಈ ತಂತ್ರಜ್ಞಾನವು 15 ಪಟ್ಟು ಕಡಿಮೆ ಮೆಮೊರಿ ಬಳಕೆ ಮತ್ತು 6 ಪಟ್ಟು ಕಡಿಮೆ ಇಂಧನ ಬಳಕೆಯನ್ನು ಭರವಸೆ ನೀಡುತ್ತದೆ, ಇದು AI ಕಾರ್ಯಗಳ ಸಮಯದಲ್ಲಿ ಬ್ಯಾಟರಿ ಜೀವಿತಾವಧಿಯನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳಲು ಅತ್ಯಗತ್ಯವಾಗಿದೆ.
  • Privacy and Speed: AI ಅನ್ನು ಕ್ಲೌಡ್‌ನಿಂದ ಸಾಧನಕ್ಕೆ ವರ್ಗಾಯಿಸುವುದರಿಂದ ವಿಳಂಬವು ಕಡಿಮೆಯಾಗುತ್ತದೆ ಮತ್ತು ಬಳಕೆದಾರರ ಗೌಪ್ಯತೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ, ಇದು Apple ನ ಉತ್ಪನ್ನ ತತ್ವದ ಮೂಲಾಧಾರವಾಗಿದೆ.

ಅಪಾಯಗಳು ಮತ್ತು ತೆರೆದ ಪ್ರಶ್ನೆಗಳು

PrismML ನ ಫಲಿತಾಂಶಗಳು ಭರವಸೆಯಾಗಿವೆ ಆದರೆ ಇವು ಇನ್ನೂ ಆರಂಭಿಕ ಹಂತದಲ್ಲಿವೆ.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು

  • Official confirmation: Apple ಇನ್ನೂ ಯಾವುದೇ ಪಾಲುದಾರಿಕೆಯನ್ನು ಘೋಷಿಸಿಲ್ಲ, ಆದ್ದರಿಂದ on-device LLM ಗಳ ಬಗ್ಗೆ ಯಾವುದೇ ಪತ್ರಿಕಾ ಪ್ರಕಟಣೆ ಅಥವಾ iOS 18 beta ನೋಟ್ಸ್ ಪ್ರಮುಖ ಸಂಕೇತವಾಗಲಿದೆ.

ಒಟ್ಟಾರೆಯಾಗಿ ಹೇಳುವುದಾದರೆ: PrismML ಕಂಪ್ರೆಷನ್ ತಂತ್ರಜ್ಞಾನವು ಮೆಮೊರಿ ಅಥವಾ ಬ್ಯಾಟರಿಯನ್ನು ವ್ಯರ್ಥ ಮಾಡದೆ iPhone ಗಳಲ್ಲಿ ನಿಜವಾದ ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲ್‌ಗಳನ್ನು (large language models) ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅನುವು ಮಾಡಿಕೊಡಬಹುದು, ಇದು ವೇಗವಾದ ಮತ್ತು ಖಾಸಗಿ AI ಅನುಭವಗಳನ್ನು ನೀಡುತ್ತದೆ.