हमने मॉडल्स पर भरोसा करना छोड़ दिया। फिर हमने अपने खुद के आंकड़ों पर भी भरोसा करना छोड़ दिया।
मैंने बेहतर AI मॉडल्स के पीछे भागना बंद कर दिया। मुझे लगा कि एक अधिक शक्तिशाली मॉडल मेरे सिस्टम को ठीक कर देगा। ऐसा नहीं हुआ। समस्या मॉडल में नहीं थी। समस्या सिस्टम में थी।
फिर मुझे कुछ और भी बुरा एहसास हुआ। मैं अपने खुद के मापों (measurements) पर भी भरोसा नहीं कर सकता था।
मैंने तीन अलग-अलग विफलताएं देखीं:
- एक टेस्ट सुइट (test suite) जो गलत वातावरण को मापते हुए पास हो गया।
- एक गेट (gate) जिसने काम को रोक दिया लेकिन गलत आंकड़े दिए।
- एक एजेंट जिसने गलत संख्या (count) रिपोर्ट की।
प्रत्येक विफलता सफलता जैसी लग रही थी जब तक कि मैंने करीब से नहीं देखा। सत्यापन (verification) के लिए मेरे उपकरण मुझसे झूठ बोल रहे थे।
मेरी पहली प्रवृत्ति (instinct) सभी अनिश्चितताओं पर प्रतिबंध लगाने की थी। मैं हर संभाव्य (probabilistic) तत्व को हटाना चाहता था। मैं चाहता था कि सब कुछ नियतात्मक (deterministic) हो।
वह एक गलती थी।
यदि आप सभी अनिश्चितताओं को हटा देते हैं, तो आप AI का मूल्य ही समाप्त कर देते हैं। AI का उद्देश्य विचार प्रस्तावित करना और समाधान खोजना है। आप एक कठोर नियम से यह प्राप्त नहीं कर सकते।
समाधान अनिश्चितता पर प्रतिबंध लगाना नहीं है। समाधान उसे सही स्थान पर रखना है।
एक सिस्टम को दो अलग-अलग सीटों की आवश्यकता होती है:
प्रस्तावित करने वाली सीट (The Proposing Seat) यह सीट खोजती है और सुझाव देती है। इसे अनियतता (nondeterminism) की आवश्यकता होती है। यदि कोई मॉडल गलत समाधान का सुझाव देता है, तो इसकी लागत कम होती है क्योंकि उसने अभी तक कुछ भी तय नहीं किया है।
निर्णय लेने वाली सीट (The Judging Seat) यह सीट तय करती है कि कोई टेस्ट पास हुआ है या कोई नियम पूरा हुआ है। इस सीट को नियतात्मक (deterministic) होना चाहिए। इसे पुनरुत्पादित (reproducible) और जांचने योग्य होना चाहिए।
मेरे सिस्टम में विफलताएं इसलिए हुईं क्योंकि मैंने निर्णय लेने वाली सीट पर गलत चीजें रख दी थीं। मैंने अनिश्चित प्रक्रियाओं को अंतिम निर्णय लेने दिए।
नियम सरल है:
- अनिश्चित हिस्सों को खोजने दें।
- नियतात्मक हिस्सों को निर्णय लेने दें।
पूरे सिस्टम को निश्चित बनाने की कोशिश न करें। इसके बजाय, यह सुनिश्चित करें कि आपके निर्णायक (judges) ठोस हों। एक गलत नियतात्मक निर्णायक, एक संभाव्य निर्णायक की तुलना में अधिक खतरनाक होता है। एक गलत निर्णायक एक निरंतर त्रुटि पैदा करता है जिस पर आप अंततः सवाल उठाना बंद कर देते हैं।
विश्वास देने वाली प्रत्येक परत को पहले मापा जाना चाहिए। वह माप किसी ऐसी नियतात्मक चीज़ पर आधारित होना चाहिए जिसे आप स्वयं देख सकें।
आप अपने AI सिस्टम में प्रस्ताव देने और निर्णय लेने के बीच रेखा कैसे खींचते हैं? आप नियतता (determinism) पर कहाँ जोर देते हैं?
Source: https://dev.to/josephyeo/we-stopped-trusting-models-then-we-stopped-trusting-our-own-numbers-1611
Optional learning community: https://t.me/GyaanSetuAi