گوگل کا Gemma لینگویج ماڈل، جسے کم کر کے 28.9 ملین پیرامیٹرز تک لایا گیا ہے، اب ایک ESP32-S3 مائیکرو کنٹرولر پر چلتا ہے جس کی قیمت تقریباً 8 ڈالر ہے۔ ایک آزاد ڈویلپر نے اس کا 'پروف آف کانسیپٹ' (proof-of-concept) تیار کیا ہے، جو یہ ظاہر کرتا ہے کہ ایک مکمل خصوصیات والا LLM ایسے سستے ہارڈ ویئر پر بھی چل سکتا ہے جسے کسی بھی IoT گیجٹ کے اندر چھپایا جا سکتا ہے۔
یہ طریقہ کیسے کام کرتا ہے
جیسا کہ ذرائع بتاتے ہیں، Gemma کے کمپریشن ٹولز ماڈل کے ویٹس (weights) اور ایگزیکیوشن گراف کو اس وقت تک سکیڑتے ہیں جب تک وہ ESP32 کی RAM اور معمولی فلیش اسٹوریج میں سما نہ جائیں۔ یہ چپ، جو کم قیمت سینسرز اور پہننے کے قابل (wearables) آلات کے لیے پسندیدہ ہے، ماڈل کو مکمل طور پر آف لائن چلاتی ہے—اس کے لیے کلاؤڈ کنکشن کی ضرورت نہیں ہوتی۔
یہ IoT سیکیورٹی کے لیے خطرے کی گھنٹی کیوں ہے
- آف لائن انفرنس (Offline inference) ڈیٹا کو ڈیوائس پر ہی رکھتا ہے، جس سے سرور سائیڈ کے لاگز ختم ہو جاتے ہیں لیکن دفاع کرنے والوں کے لیے نگرانی کا موقع بھی ختم ہو جاتا ہے۔
- سستا اور ہر جگہ دستیاب ہارڈ ویئر حملہ آوروں کو ایسے پیچیدہ AI کو ان گیجٹس میں شامل کرنے کی اجازت دیتا ہے جو عام صارفین یا صنعتی ماحول میں آسانی سے گھل مل جاتے ہیں۔
- پیچ (Patch) اور اپ ڈیٹ کی تھکن – ESP32 ڈیوائسز اکثر ایسے فرم ویئر پر چلتی ہیں جنہیں شاذ و نادر ہی ریفریش کیا جاتا ہے، جس سے ایک کمزور AI ماڈیول ایک انتظامی ڈراؤنے خواب میں بدل جاتا ہے۔
ممکنہ فوائد اور توازن
ایج (edge) پر AI چلانے سے صارف کی رازداری محفوظ رہتی ہے کیونکہ خام سینسر ڈیٹا کبھی بھی سرور پر نہیں بھیجا جاتا۔ تاہم، اسی پرائیویسی شیلڈ کا غلط استعمال بھی کیا جا سکتا ہے۔
دفاع کرنے والوں کے لیے آگے کیا ہے
8 ڈالر کی چپ پر 28 ملین پیرامیٹر والا LLM چلانے کی صلاحیت، جو کبھی صرف کلاؤڈ تک محدود تھی، اسے ایک پوشیدہ اور ہمہ گیر خطرے میں بدل دیتی ہے۔ اداروں کو ایج AI کو محض ایک سہولت کے طور پر نہیں بلکہ سیکیورٹی کی ایک نئی سرحد کے طور پر دیکھنا چاہیے۔