நியூரல் நெட்வொர்க் கம்ப்ரஷன் பற்றிய ஒரு கண்ணோட்டம்
பெரிய AI மாதிரிகள் அதிக நினைவகத்தை எடுத்துக்கொள்கின்றன. அவை மொபைல் சாதனங்களில் மெதுவாக இயங்குகின்றன. அவற்றை கிளவுடில் ஹோஸ்ட் செய்வதற்கு அதிக செலவாகிறது.
நியூரல் நெட்வொர்க் கம்ப்ரஷன் இந்த சிக்கல்களைத் தீர்க்கிறது. இது துல்லியத்தை அதிகம் இழக்காமல், மாதிரிகளைச் சிறியதாகவும் வேகமாகவும் மாற்றுகிறது.
நீங்கள் இந்த மூன்று முக்கிய முறைகளைத் தெரிந்து கொள்ள வேண்டும்:
- Pruning: இது தேவையற்ற இணைப்புகள் அல்லது நியூரான்களை நீக்குகிறது. இது மாதிரியின் அதிகம் உதவாத பகுதிகளை வெட்டி நீக்குகிறது.
- Quantization: இது மாதிரியில் பயன்படுத்தப்படும் எண்களின் துல்லியத்தைக் குறைக்கிறது. சிக்கலான தசம எண்களுக்குப் பதிலாக, இது எளிய எண்களைப் பயன்படுத்துகிறது. இது மிகப்பெரிய அளவிலான இடத்தைச் சேமிக்கிறது.
- Knowledge Distillation: இது ஒரு பெரிய மாதிரியைப் போலவே செயல்பட ஒரு சிறிய மாதிரியைப் பயிற்றுவிக்கிறது. சிறிய மாதிரி பெரிய மாதிரியிடமிருந்து கற்றுக்கொள்கிறது. இது குறைந்த வளங்களைக் கொண்டு ஒத்த முடிவுகளைப் பெறுகிறது.
இந்த முறைகளைப் பயன்படுத்துவது எட்ஜ் சாதனங்களில் AI-ஐப் பயன்படுத்த உதவுகிறது. இதன் மூலம் நீங்கள் சிறந்த வேகத்தையும் குறைந்த செலவையும் பெறலாம்.
Source: https://dev.to/paperium/an-overview-of-neural-network-compression-1hp0
Optional learning community: https://t.me/GyaanSetuAi