𝗣𝗿𝗼𝘅𝗶𝗺𝗮𝗹 𝗦𝘁𝗼𝗰𝗵𝗮𝘀𝘁𝗶𝗰 𝗗𝘂𝗮𝗹 𝗖𝗼𝗼𝗿𝗱𝗶𝗻𝗮𝘁𝗲 𝗔𝘀𝗰𝗲𝗻𝘁
मशीन लर्निंग मॉडेल्सना जटिल गणिती समस्या सोडवण्यासाठी कार्यक्षम पद्धतींची आवश्यकता असते. ऑप्टिमायझेशन (Optimization) हा या प्रक्रियेचा गाभा आहे.
Proximal Stochastic Dual Coordinate Ascent (PSDCA) या पद्धतीमुळे या समस्या अधिक वेगाने सोडवण्यास मदत होते. ही पद्धत मोठ्या प्रमाणावरील डेटासेटसाठी (large scale datasets) उत्तम प्रकारे काम करते.
हे कसे कार्य करते ते येथे दिले आहे:
- हे एका वेळी समस्येचा एक छोटा भाग अपडेट करते.
- उपाय शोधण्यासाठी हे ड्युअल व्हेरिएबल्सचा (dual variables) वापर करते.
- हे प्रॉक्सिमल ऑपरेटर्सद्वारे (proximal operators) मर्यादांचे (constraints) व्यवस्थापन करते.
- यामुळे मेमरी आणि प्रोसेसिंग वेळेची बचत होते.
जेव्हा डेटा खूप मोठा होतो, तेव्हा अनेकदा पारंपारिक पद्धती अपयशी ठरतात. PSDCA यादृच्छिकपणे (randomly) कोऑर्डिनेट्स निवडून वेग कायम राखते. या दृष्टिकोनामुळे सर्वोत्तम उत्तर मिळवण्यासाठी आवश्यक असलेले एकूण काम कमी होते.
जर तुम्ही प्रचंड मोठ्या डेटासेटवर काम करत असाल आणि तुम्हाला स्थिर कन्वर्जन्स (stable convergence) हवे असेल, तर ही पद्धत वापरा.
Source: https://dev.to/paperium/proximal-stochastic-dual-coordinate-ascent-1de5
Optional learning community: https://t.me/GyaanSetuAi