Google Gemma 4 12B: તમારા ડિવાઇસ પર AI
Google એ Gemma 4 12B બનાવ્યું છે. તમે આ AI તમારા પોતાના લેપટોપ પર ચલાવી શકો છો. તમારે ક્લાઉડની જરૂર નથી.
આ ફેરફાર તમને ત્રણ રીતે મદદ કરે છે:
- તે ખર્ચ ઘટાડે છે.
- તે વિલંબ (lag) અટકાવે છે.
- તે તમારા ડેટાને ખાનગી રાખે છે.
તમારે 16GB RAM ની જરૂર પડશે. Google એ આ મોડેલને નાનું બનાવ્યું છે. તેઓએ pruning અને quantization નો ઉપયોગ કર્યો છે. આનાથી AI તમારા હાર્ડવેર પર સમાઈ જાય છે.
આ મોડેલ ટેક્સ્ટ કરતાં વધુ વસ્તુઓ હેન્ડલ કરી શકે છે. તે ઈમેજ પણ વાંચી શકે છે. એક જ સિસ્ટમ બંને કામ કરી શકે છે. આનાથી AI વધુ કાર્યો માટે ઉપયોગી બને છે.
Google એ Apache 2.0 લાયસન્સનો ઉપયોગ કર્યો છે. તમે તેનો ઉપયોગ તમારા વ્યવસાય માટે કરી શકો છો. તમે કોડમાં ફેરફાર કરી શકો છો. તમે તેને અન્ય લોકો સાથે શેર કરી શકો છો.
તેમાં કેટલાક જોખમો છે:
- તમારું લેપટોપ વધુ ગરમ થઈ શકે છે.
- AI એ જ રહે છે. તે ક્લાઉડ અપડેટ્સ મેળવી શકતું નથી.
- મોડિફાઇડ મોડેલ્સ તમારી સુરક્ષા માટે જોખમ ઊભું કરી શકે છે.
તમારે RAM અને કૂલિંગ વચ્ચે યોગ્ય સંતુલન રાખવાની જરૂર છે. આ AI ને સ્થિર બનાવે છે.
Source: https://dev.to/natcher/googles-new-ai-model-gemma-4-12b-enables-on-device-processing-with-minimal-hardware-requirements-2902 Optional learning community: https://t.me/GyaanSetuAi