கூகுளின் Gemma மொழி மாதிரி, 28.9 மில்லியன் அளவுருக்களாக (parameters) சுருக்கப்பட்டு, தற்போது சுமார் $8 விலையில் விற்கப்படும் ESP32-S3 மைக்ரோகண்ட்ரோலரில் இயங்குகிறது. ஒரு தனிப்பட்ட மென்பொருள் உருவாக்குநர் இதற்கான சான்றினை (proof-of-concept) உருவாக்கியுள்ளார்; இதன் மூலம் ஒரு முழுமையான வசதிகள் கொண்ட LLM, எந்தவொரு IoT கருவிக்குள்ளும் மறைத்து வைக்கும் அளவுக்கு மலிவான வன்பொருளில் (hardware) இயங்க முடியும் என்பது நிரூபிக்கப்பட்டுள்ளது.

இந்த நுட்பம் எவ்வாறு செயல்படுகிறது

மூலப்பொருள் விளக்குவது போல, Gemma-வின் சுருக்கக் கருவிகள் (compression tools), மாதிரியின் எடைகள் (weights) மற்றும் செயலாக்க வரைபடத்தை (execution graph) ESP32-ன் RAM மற்றும் குறைந்த அளவிலான ஃபிளாஷ் சேமிப்பகத்திற்குள் (flash storage) பொருந்தும் வகையில் சுருக்குகின்றன. குறைந்த விலை சென்சார்கள் மற்றும் அணியக்கூடிய சாதனங்களுக்கு (wearables) மிகவும் பிடித்தமான இந்த சிப், மாதிரியை முற்றிலும் ஆஃப்லைனில் (offline) இயக்குகிறது—இதற்கு கிளவுட் இணைப்பு தேவையில்லை.

இது ஏன் IoT பாதுகாப்பிற்கு எச்சரிக்கை மணியாக முழங்குகிறது

  • ஆஃப்லைன் இன்ஃபரன்ஸ் (Offline inference) தரவை சாதனத்திலேயே வைத்திருப்பதால், சர்வர் பக்க பதிவுகள் (server-side logs) அழிந்துவிடுகின்றன; அதே சமயம் இது பாதுகாப்புப் பணியாளர்களுக்குத் தரவைக் கண்காணிக்கும் வாய்ப்பையும் பறிக்கிறது.
  • மலிவான மற்றும் எங்கும் கிடைக்கும் வன்பொருள் (Cheap, ubiquitous hardware), தாக்குதல் நடத்துபவர்கள் சாதாரண நுகர்வோர் அல்லது தொழில்முறைச் சூழல்களில் எளிதில் கலந்துவிடக்கூடிய அதிநவீன AI-யை சிறிய கருவிகளில் உட்பொதிக்க அனுமதிக்கிறது.
  • பேட்ச் மற்றும் அப்டேட் சோர்வு (Patch and update fatigue) – ESP32 சாதனங்கள் பெரும்பாலும் அரிதாகவே புதுப்பிக்கப்படும் ஃபார்ம்வேரை (firmware) பயன்படுத்துகின்றன, இது ஒரு பாதிப்புக்குள்ளாகக்கூடிய AI தொகுதியை (module) ஒரு நிர்வாக ரீதியான பெரும் சவாலாக மாற்றுகிறது.

சாத்தியமான நன்மைகளும் அதன் மறுபக்கமும்

எட்ஜ் (edge) தொழில்நுட்பத்தில் AI-யை இயக்குவது பயனரின் தனியுரிமையைப் பாதுகாக்கிறது, ஏனெனில் மூல சென்சார் தரவு (raw sensor data) ஒருபோதும் சர்வருக்கு அனுப்பப்படுவதில்லை. இருப்பினும், இதே தனியுரிமைப் பாதுகாப்புத் தடையை தவறாகப் பயன்படுத்தவும் முடியும்.

பாதுகாப்புப் பணியாளர்களுக்கு அடுத்து என்ன?

$8 சிப்பில் 28 மில்லியன் அளவுருக்கள் கொண்ட LLM-ஐ இயக்கும் திறன், ஒரு காலத்தில் கிளவுடிற்கு மட்டுமேயானதாக இருந்த வசதியை, மறைந்திருக்கும் ஒரு பரவலான அச்சுறுத்தலாக மாற்றுகிறது. நிறுவனங்கள் எட்ஜ் AI-யை வெறும் வசதியாக மட்டும் பார்க்காமல், ஒரு பாதுகாப்பு எல்லையாகக் கருத வேண்டும்.