𝗚𝗼𝗼𝗴𝗹𝗲 𝗚𝗲𝗺𝗺𝗮 𝟰 𝟭𝟮𝗕: 𝗗𝗲𝘃𝗶𝗰𝗲 𝘀𝗮𝗻 𝗻𝗼 𝗔𝗜
GoogleはGemma 4 12Bを開発しました。このAIは、自身のノートPC上で実行できます。クラウドは必要ありません。
この変化には、3つのメリットがあります:
- コストを抑えられる。
- 遅延を防げる。
- データのプライバシーを維持できる。
16GBのRAMが必要です。Googleはモデルを軽量化しました。プルーニング(pruning)と量子化(quantization)を用いることで、お手持ちのハードウェアにAIを収まるようにしています。
このモデルはテキストだけでなく、画像も読み取ることができます。一つのシステムで両方を処理できるため、より幅広い用途でAIを活用できます。
GoogleはApache 2.0ライセンスを採用しています。ビジネスでの利用、コードの改変、そして他者との共有が可能です。
いくつかのリスクもあります:
- ノートPCがオーバーヒートする。
- AIが固定されたままになる。クラウド経由のアップデートを受けられない。
- 改変されたモデルはセキュリティのリスクを伴う。
RAMと冷却機能の適切なバランスが必要です。これにより、AIを安定して動作させることができます。
Source: https://dev.to/natcher/googles-new-ai-model-gemma-4-12b-enables-on-device-processing-with-minimal-hardware-requirements-2902 Optional learning community: https://t.me/GyaanSetuAi