Google Gemma 4 12B: 내 기기에서 실행되는 AI
Google이 Gemma 4 12B를 개발했습니다. 이 AI는 클라우드 없이 개인 노트북에서 직접 실행할 수 있습니다.
이러한 변화는 세 가지 측면에서 도움이 됩니다:
- 비용을 절감합니다.
- 지연 현상을 방지합니다.
- 데이터 프라이버시를 보호합니다.
16GB의 RAM이 필요합니다. Google은 모델의 크기를 줄이기 위해 가지치기(pruning)와 양자화(quantization) 기술을 사용했습니다. 이를 통해 사용자의 하드웨어에서도 AI를 구동할 수 있습니다.
이 모델은 텍스트 이상의 작업을 처리합니다. 이미지도 읽을 수 있습니다. 하나의 시스템으로 두 가지를 모두 수행할 수 있어, 더 다양한 작업에 AI를 활용할 수 있습니다.
Google은 Apache 2.0 라이선스를 사용했습니다. 비즈니스 용도로 사용할 수 있으며, 코드를 수정하거나 다른 사람과 공유할 수 있습니다.
몇 가지 위험 요소가 있습니다:
- 노트북 과열
- AI 모델의 고정 (클라우드 업데이트를 받지 못함)
- 수정된 모델로 인한 보안 위험
AI를 안정적으로 사용하려면 RAM과 냉각 성능 사이의 적절한 균형이 필요합니다.
Source: https://dev.to/natcher/googles-new-ai-model-gemma-4-12b-enables-on-device-processing-with-minimal-hardware-requirements-2902 Optional learning community: https://t.me/GyaanSetuAi