AI निर्णयाची जागा घेऊ शकत नाही
आर्थिक संशोधन आणि जोखीम देखरेखीमध्ये (risk monitoring) AI चा वापर वाढत आहे.
डेव्हलपर्ससमोर एक विशिष्ट आव्हान आहे. समस्या ही नाही की AI डेटावर प्रक्रिया करू शकते की नाही. ती करू शकते. खरी समस्या ही आहे की मॉडेलला काय माहित नाही, हे वापरकर्त्यांना समजते का.
बाजारपेठेत, अनिश्चितता हा वातावरणाचा एक भाग आहे. मॉडेल जुन्या डेटामधील पॅटर्न शोधते. भविष्य भूतकाळासारखेच असेल, असे ते आश्वासन देऊ शकत नाही. AI ने मानवी निर्णयाला आधार दिला पाहिजे, त्याची जागा घेतली नाही पाहिजे.
आर्थिक डेटा सतत बदलत असतो. व्याजदर बदलतात. लिक्विडिटी (Liquidity) बदलते. कोरिलेशन्स (Correlations) तुटतात. एका बाजारपेठेच्या वातावरणात प्रशिक्षित केलेले मॉडेल अनेकदा पुढच्या वातावरणात अपयशी ठरते.
डेव्हलपर्सनी लक्षात ठेवले पाहिजे: मॉडेलची अचूकता कधीही कायमस्वरूपी नसते. तुम्ही एकदा मॉडेल तैनात (deploy) करून ते कायमस्वरूपी काम करेल अशी अपेक्षा करू शकत नाही. तुम्हाला सतत देखरेख (monitoring) आणि प्रमाणीकरण (validation) करण्याची आवश्यकता आहे.
अंदाज वर्तवणे म्हणजे जोखीम व्यवस्थापन (risk management) नव्हे.
अनेक लोक अंदाजाला अंतिम ध्येय मानतात. ही चूक आहे. एका चांगल्या प्रणालीने विचारले पाहिजे: जर हा अंदाज चुकला तर काय होईल?
मजबूत इंजिनिअरिंग म्हणजे अपयशासाठी डिझाइन करणे. प्रणालींनी अनिश्चितता दर्शवली पाहिजे. गणिताला सत्य समजण्याची चूक वापरकर्त्यांकडून होऊ नये, यासाठी त्यांनी काळजी घेतली पाहिजे.
अचूकता म्हणजे सत्य नव्हे.
अस्थिरता (volatility) कमी असल्यामुळे मॉडेल कमी जोखीम स्कोअर दाखवू शकते. परंतु जर लिक्विडिटी कमी असेल, तर तो सिग्नल अपूर्ण आहे. मानवी संदर्भ (context) आवश्यक असतो. AI ने प्रत्येक उत्तरामागील गृहितके (assumptions) आणि जोखीम दर्शवल्या पाहिजेत.
आर्थिक AI टूल्स तयार करताना ही चेकलिस्ट वापरा:
- डेटाची गुणवत्ता: डेटा स्वच्छ आणि वेळेवर आहे का?
- डेटाचा पूर्वग्रह (Data bias): प्रशिक्षण डेटा एखाद्या विशिष्ट काळाचा कल दर्शवतो का?
- मॉडेल ड्रिफ्ट (Model drift): तुम्ही लाँच नंतर कामगिरीवर देखरेख ठेवता का?
- स्पष्टीकरणक्षमता (Explainability): मॉडेलने हे उत्तर का दिले, हे वापरकर्ते पाहू शकतात का?
- स्ट्रेस टेस्टिंग (Stress testing): मार्केट क्रॅश दरम्यान प्रणाली कशी वागते?
- जोखीम संवाद (Risk communication): UI अनिश्चितता स्पष्टपणे दर्शवते का?
- मानवी पुनरावलोकन (Human review): निर्णय घेण्यापूर्वी तज्ज्ञ आउटपुट तपासतात का?
चांगले AI अतिआत्मविश्वास कमी करणारे असावे. गृहितके कुठे कमकुवत आहेत हे पाहण्यास त्याने वापरकर्त्यांना मदत केली पाहिजे. त्याने प्रश्नांची गुणवत्ता सुधारली पाहिजे.
AI हे भविष्यवेत्ता (oracle) नाही. ते एक संशोधन सहाय्यक (research assistant) आहे.
ते वेगाने डेटावर प्रक्रिया करू शकते. ते परिणाम किंवा नैतिकतेची जबाबदारी घेऊ शकत नाही. ती जबाबदारी तुमच्याकडेच राहते.
अशा प्रणाली तयार करा ज्या लोकांना अनिश्चितता समजून घेण्यास मदत करतील. अशा प्रकारेच AI उपयुक्त ठरते.
ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi