𝗚𝗼𝗼𝗴𝗹𝗲 𝗚𝗲𝗺𝗺𝗮 𝟰 𝟭𝟮𝗕: آپ کے ڈیوائس پر AI
Google نے Gemma 4 12B بنایا ہے۔ آپ اس AI کو اپنے لیپ ٹاپ پر چلا سکتے ہیں۔ آپ کو کلاؤڈ کی ضرورت نہیں ہے۔
یہ تبدیلی آپ کی تین طریقوں سے مدد کرتی ہے:
- یہ اخراجات کم کرتی ہے۔
- یہ تاخیر (lag) کو روکتی ہے۔
- یہ آپ کے ڈیٹا کو نجی رکھتی ہے۔
آپ کو 16GB RAM کی ضرورت ہے۔ Google نے اس ماڈل کو چھوٹا بنایا ہے۔ انہوں نے pruning اور quantization کا استعمال کیا ہے۔ اس سے یہ AI آپ کے ہارڈ ویئر پر فٹ ہو جاتا ہے۔
یہ ماڈل ٹیکسٹ سے زیادہ چیزوں کو سنبھال سکتا ہے۔ یہ تصاویر بھی پڑھ سکتا ہے۔ ایک ہی سسٹم دونوں کام کرتا ہے۔ یہ AI کو مزید کاموں کے لیے مفید بناتا ہے۔
Google نے Apache 2.0 لائسنس کا استعمال کیا ہے۔ آپ اسے اپنے کاروبار کے لیے استعمال کر سکتے ہیں۔ آپ کوڈ میں تبدیلی کر سکتے ہیں۔ آپ اسے دوسروں کے ساتھ شیئر کر سکتے ہیں۔
کچھ خطرات بھی ہیں:
- آپ کا لیپ ٹاپ زیادہ گرم ہو سکتا ہے۔
- AI ایک ہی حالت میں رہتا ہے۔ یہ کلاؤڈ اپ ڈیٹس سے محروم رہتا ہے۔
- تبدیل شدہ ماڈلز آپ کی سیکیورٹی کے لیے خطرہ بن سکتے ہیں۔
آپ کو RAM اور کولنگ کے درمیان ایک اچھے توازن کی ضرورت ہے۔ یہ AI کو مستحکم بناتا ہے۔
Source: https://dev.to/natcher/googles-new-ai-model-gemma-4-12b-enables-on-device-processing-with-minimal-hardware-requirements-2902 Optional learning community: https://t.me/GyaanSetuAi