𝗚𝗼𝗼𝗴𝗹𝗲 𝗚𝗲𝗺𝗺𝗮 𝟰 𝟭𝟮𝗕: உங்கள் சாதனத்திலேயே AI

Google, Gemma 4 12B-ஐ உருவாக்கியுள்ளது. இந்த AI-ஐ உங்கள் சொந்த லேப்டாப்பிலேயே இயக்கலாம். இதற்கு கிளவுட் (cloud) தேவையில்லை.

இந்த மாற்றம் உங்களுக்கு மூன்று வழிகளில் உதவுகிறது:

  • இது செலவுகளைக் குறைக்கிறது.
  • இது தாமதத்தைத் (lag) தவிர்க்கிறது.
  • இது உங்கள் தரவின் தனியுரிமையைப் பாதுகாக்கிறது.

இதற்கு 16GB RAM தேவைப்படும். Google இந்த மாடலைச் சிறியதாக உருவாக்கியுள்ளது. அவர்கள் pruning மற்றும் quantization நுட்பங்களைப் பயன்படுத்தியுள்ளனர். இது உங்கள் வன்பொருளில் (hardware) AI-ஐச் சரியாகப் பொருத்துகிறது.

இந்த மாடல் உரையைத் (text) தாண்டி பலவற்றை கையாளும். இது படங்களையும் (images) வாசிக்கும். ஒரே அமைப்பு இரண்டையும் செய்கிறது. இது AI-ஐ அதிக வேலைகளுக்குப் பயனுள்ளதாக மாற்றுகிறது.

Google, Apache 2.0 உரிமத்தைப் பயன்படுத்தியுள்ளது. நீங்கள் இதை உங்கள் வணிகத்திற்காகப் பயன்படுத்தலாம். குறியீட்டை (code) மாற்றியமைக்கலாம். மற்றவர்களுடன் பகிர்ந்து கொள்ளலாம்.

இதில் சில அபாயங்களும் உள்ளன:

  • உங்கள் லேப்டாப் அதிக வெப்பமடையலாம்.
  • AI அப்படியே இருக்கும். கிளவுட் அப்டேட்கள் (cloud updates) இதற்கு கிடைக்காது.
  • மாற்றியமைக்கப்பட்ட மாடல்கள் உங்கள் பாதுகாப்பிற்கு அச்சுறுத்தலாக அமையலாம்.

உங்களுக்குத் தேவையான RAM மற்றும் குளிர்விக்கும் வசதி (cooling) ஆகியவற்றிற்கு இடையே ஒரு சரியான சமநிலை தேவை. இது AI-ஐ நிலையானதாக மாற்றும்.

Source: https://dev.to/natcher/googles-new-ai-model-gemma-4-12b-enables-on-device-processing-with-minimal-hardware-requirements-2902 Optional learning community: https://t.me/GyaanSetuAi