𝗚𝗼𝗼𝗴𝗹𝗲 𝗚𝗲𝗺𝗺𝗮 𝟰 𝟭𝟮𝗕: ನಿಮ್ಮ ಸಾಧನದಲ್ಲಿ AI

Google, Gemma 4 12B ಅನ್ನು ತಯಾರಿಸಿದೆ. ನೀವು ಈ AI ಅನ್ನು ನಿಮ್ಮ ಸ್ವಂತ ಲ್ಯಾಪ್‌ಟಾಪ್‌ನಲ್ಲಿ ಬಳಸಬಹುದು. ಇದಕ್ಕೆ ಕ್ಲೌಡ್ ಅಗತ್ಯವಿಲ್ಲ.

ಈ ಬದಲಾವಣೆಯು ನಿಮಗೆ ಮೂರು ರೀತಿಯಲ್ಲಿ ಸಹಾಯ ಮಾಡುತ್ತದೆ:

  • ಇದು ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
  • ಇದು ವಿಳಂಬವನ್ನು (lag) ತಡೆಯುತ್ತದೆ.
  • ಇದು ನಿಮ್ಮ ಡೇಟಾವನ್ನು ಗೌಪ್ಯವಾಗಿಡುತ್ತದೆ.

ನಿಮಗೆ 16GB RAM ಅಗತ್ಯವಿದೆ. Google ಈ ಮಾಡೆಲ್ ಅನ್ನು ಚಿಕ್ಕದಾಗಿ ಮಾಡಿದೆ. ಅವರು pruning ಮತ್ತು quantization ತಂತ್ರಗಳನ್ನು ಬಳಸಿದ್ದಾರೆ. ಇದು ನಿಮ್ಮ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ AI ಅನ್ನು ಹೊಂದಿಸುತ್ತದೆ.

ಈ ಮಾಡೆಲ್ ಕೇವಲ ಪಠ್ಯಕ್ಕೆ (text) ಸೀಮಿತವಾಗಿಲ್ಲ. ಇದು ಚಿತ್ರಗಳನ್ನು (images) ಕೂಡ ಓದಬಲ್ಲದು. ಒಂದೇ ವ್ಯವಸ್ಥೆಯು ಎರಡನ್ನೂ ಮಾಡುತ್ತದೆ. ಇದು AI ಅನ್ನು ಹೆಚ್ಚಿನ ಕೆಲಸಗಳಿಗೆ ಉಪಯುಕ್ತವಾಗಿಸುತ್ತದೆ.

Google, Apache 2.0 ಲೈಸೆನ್ಸ್ ಅನ್ನು ಬಳಸಿದೆ. ನೀವು ಇದನ್ನು ನಿಮ್ಮ ವ್ಯವಹಾರಕ್ಕಾಗಿ ಬಳಸಬಹುದು. ನೀವು ಕೋಡ್ ಅನ್ನು ಬದಲಾಯಿಸಬಹುದು ಮತ್ತು ಅದನ್ನು ಇತರರೊಂದಿಗೆ ಹಂಚಿಕೊಳ್ಳಬಹುದು.

ಕೆಲವು ಅಪಾಯಗಳಿವೆ:

  • ನಿಮ್ಮ ಲ್ಯಾಪ್‌ಟಾಪ್ ಅತಿಯಾಗಿ ಕಾಯಬಹುದು (overheats).
  • AI ಬದಲಾಗದೆ ಹಾಗೆಯೇ ಇರುತ್ತದೆ. ಇದು ಕ್ಲೌಡ್ ಅಪ್‌ಡೇಟ್‌ಗಳನ್ನು ಪಡೆಯಲು ಸಾಧ್ಯವಾಗುವುದಿಲ್ಲ.
  • ಮಾರ್ಪಡಿಸಿದ ಮಾಡೆಲ್‌ಗಳು ನಿಮ್ಮ ಸುರಕ್ಷತೆಗೆ ಅಪಾಯ ತರಬಹುದು.

ನಿಮಗೆ RAM ಮತ್ತು ಕೂಲಿಂಗ್ (cooling) ನಡುವೆ ಉತ್ತಮ ಸಮತೋಲನ ಬೇಕು. ಇದು AI ಅನ್ನು ಸ್ಥಿರವಾಗಿರಿಸುತ್ತದೆ.

Source: https://dev.to/natcher/googles-new-ai-model-gemma-4-12b-enables-on-device-processing-with-minimal-hardware-requirements-2902 Optional learning community: https://t.me/GyaanSetuAi