Google का Gemma लैंग्वेज मॉडल, जिसे घटाकर 28.9 मिलियन पैरामीटर्स कर दिया गया है, अब लगभग $8 में बिकने वाले ESP32-S3 माइक्रोकंट्रोलर पर चलता है। एक स्वतंत्र डेवलपर ने इसका प्रूफ-ऑफ-कांसेप्ट तैयार किया है, जो यह दर्शाता है कि एक पूर्ण-सुविधाओं वाला LLM ऐसे सस्ते हार्डवेयर पर भी चल सकता है जिसे किसी भी IoT गैजेट के अंदर छिपाया जा सके।
यह तकनीक कैसे काम करती है
जैसा कि स्रोत में बताया गया है, Gemma के कंप्रेशन टूल्स मॉडल के weights और execution graph को तब तक सिकोड़ते हैं जब तक कि वे ESP32 की RAM और सीमित flash storage में फिट न हो जाएं। यह चिप, जो कम लागत वाले सेंसर और wearables के लिए काफी लोकप्रिय है, मॉडल को पूरी तरह से ऑफलाइन चलाती है—इसके लिए किसी क्लाउड कनेक्शन की आवश्यकता नहीं होती है।
यह IoT सुरक्षा के लिए खतरे की घंटी क्यों है
- ऑफलाइन इन्फरेंस (Offline inference) डेटा को डिवाइस पर ही रखता है, जिससे सर्वर-साइड लॉग्स तो मिट जाते हैं, लेकिन सुरक्षा करने वालों के लिए निगरानी का एक महत्वपूर्ण बिंदु भी खत्म हो जाता है।
- सस्ता और सर्वव्यापी हार्डवेयर हमलावरों को ऐसे गैजेट्स में परिष्कृत AI डालने की अनुमति देता है जो सामान्य उपभोक्ता या औद्योगिक परिवेश में आसानी से घुल-मिल जाते हैं।
- पैच और अपडेट की थकान (Patch and update fatigue) – ESP32 डिवाइस अक्सर ऐसे firmware पर चलते हैं जिन्हें शायद ही कभी अपडेट किया जाता है, जिससे एक असुरक्षित AI मॉड्यूल एक लॉजिस्टिक दुस्वप्न बन जाता है।
संभावित लाभ और इसका दूसरा पहलू
एज (edge) पर AI चलाने से उपयोगकर्ता की गोपनीयता सुरक्षित रहती है क्योंकि रॉ सेंसर डेटा कभी भी सर्वर पर नहीं भेजा जाता है। हालांकि, गोपनीयता का यही कवच दुरुपयोग का कारण भी बन सकता है।
सुरक्षा करने वालों के लिए आगे की राह
$8 की चिप पर 28-मिलियन-पैरामीटर वाले LLM को चलाने की क्षमता, जो कभी केवल क्लाउड तक सीमित थी, उसे एक छिपे हुए और व्यापक खतरे में बदल देती है। संगठनों को edge AI को केवल एक सुविधा के रूप में नहीं, बल्कि सुरक्षा की एक नई सीमा के रूप में देखना चाहिए।