मार्गरेट एटवुड की चेतावनी: AI अभी भी "Garbage In, Garbage Out" में क्यों फंसा हुआ है

प्रशंसित लेखिका मार्गरेट एटवुड ने हाल ही में लार्ज लैंग्वेज मॉडल्स (LLMs) की तीखी आलोचना की है, जिसमें उन्होंने सटीकता और डेटा अखंडता (data integrity) के साथ चल रहे निरंतर संघर्ष को रेखांकित किया है। उनका अनुभव वर्तमान AI युग के एक मौलिक सत्य को उजागर करता है: यहाँ तक कि सबसे उन्नत मॉडल भी अपने प्रशिक्षण डेटा (training data) की गुणवत्ता से सीमित हैं।

Claude का प्रयोग: 'Hallucinations' से मिली एक सीख

पुर्तगाल के पोर्टो में बेबेल लिटरेरी एंड कल्चरल फेस्टिवल में बोलते हुए, Handmaid’s Tale की लेखिका ने Anthropic के Claude का उपयोग करने के अपने एकमात्र अनुभव का खुलासा किया। ब्रिटिश डिटेक्टिव सीरीज Father Brown के बारे में जानकारी प्राप्त करने के लिए चैटबॉट का उपयोग करने के एटवुड के प्रयास में विफलता हाथ लगी, जो "hallucination" की अवधारणा को पूरी तरह से स्पष्ट करती है।

एटवुड के अनुसार, मॉडल ने गलत जानकारी दी, जो प्रभावी रूप से उपयोगकर्ता से "झूठ" बोल रहा था। उन्होंने उल्लेख किया कि LLM ने संभवतः टेलीविजन समीक्षाओं की विशाल मात्रा को सरसरी तौर पर पढ़ा और उनसे नमूने लिए होंगे, लेकिन चूंकि ऑनलाइन आलोचना में आमतौर पर स्पॉइलर (spoilers) से बचा जाता है, इसलिए मॉडल अपने ट्रेनिंग सेट के पैटर्न से गुमराह हो गया। यह तकनीकी बारीकी डेवलपर्स के लिए एक मुख्य चुनौती को उजागर करती है: LLMs संभाव्यता आधारित इंजन (probabilistic engines) हैं जो तथ्यात्मक सत्यापन के बजाय पैटर्न मिलान को प्राथमिकता देते हैं, जिससे अक्सर आत्मविश्वासपूर्ण लेकिन त्रुटिपूर्ण परिणाम मिलते हैं।

डेटा की दुविधा: Garbage In, Garbage Out

एटवुड की आलोचना कंप्यूटिंग के एक कालजयी सिद्धांत पर केंद्रित है: "garbage in, garbage out"। उन्होंने बताया कि LLMs को स्क्रैप किए गए, पहले से प्रकाशित और संभावित रूप से पुराने डेटा पर प्रशिक्षित किया जाता है। जब किसी मॉडल को ऐसा डेटा दिया जाता है जो अधूरा, पक्षपाती या तार्किक रूप से असंगत हो, तो परिणामी आउटपुट में अनिवार्य रूप से वे खामियां दिखाई देंगी।

व्यापक AI परिदृश्य के लिए, यह एक अनुस्मारक है कि मॉडल पैरामीटर्स का विस्तार करना डेटा की गुणवत्ता का विकल्प नहीं है। जैसे-जैसे डेवलपर्स तर्क करने की क्षमताओं (reasoning capabilities) को बढ़ाने के लिए बड़े डेटासेट पर जोर दे रहे हैं, उन डेटासेट के भीतर का "शोर" (noise)—जैसे कि एटवुड द्वारा उल्लेखित समीक्षाओं में प्लॉट स्पॉइलर की कमी—ऐसी व्यवस्थित त्रुटियां पैदा कर सकता है जिनसे Claude जैसे परिष्कृत आर्किटेक्चर भी आसानी से नहीं उबर सकते।

नैतिक चिंता: अवसरवाद बनाम रचनात्मकता

तकनीकी सीमाओं से परे, एटवुड ने AI अपनाने के मानवीय पहलू पर भी बात की। उन्होंने उन लोगों को "अवसरवादी" करार दिया जो वास्तविक सृजन या शोध की कठोरता से बचने के लिए AI पर अत्यधिक निर्भर रहते हैं। उन्होंने चेतावनी दी कि अप्राप्य (undetectable) AI-जनित सामग्री का उपयोग करके "धोखाधड़ी" करने का प्रलोभन उन उद्योगों के लिए एक बढ़ती चिंता है जो मानवीय बुद्धि और सूक्ष्मता पर निर्भर हैं।

संस्थापकों और तकनीकी पेशेवरों के लिए, यह अंतर महत्वपूर्ण है। हालांकि AI एक शक्तिशाली उत्पादकता उपकरण के रूप में काम कर सकता है, लेकिन एटवुड का यह अवलोकन कि "यहाँ तक कि जो लोग इसे व्यावसायिक कारणों से उपयोग करते हैं, उन्हें भी इसकी जाँच करनी पड़ती है," इस बात पर जोर देता है कि मानवीय निरीक्षण (human oversight) AI वर्कफ़्लो का एक अनिवार्य हिस्सा बना हुआ है। पूरी तरह से स्वायत्त, त्रुटिहीन AI का युग अभी भी एक दूर का सपना है, और सत्य की जिम्मेदारी उपयोगकर्ता की ही रहती है।

मुख्य बातें

• डेटा अखंडता सर्वोपरि है: "garbage in, garbage out" का सिद्धांत LLMs के लिए सबसे बड़ी बाधा बना हुआ है, क्योंकि मॉडल अपने प्रशिक्षण डेटा की गुणवत्ता और पूर्णता से सीमित होते हैं।
• Hallucination का जाल: Anthropic के Claude जैसे उन्नत मॉडल भी सरल तथ्यात्मक जानकारी प्राप्त करने में विफल हो सकते हैं यदि उनके प्रशिक्षण डेटा में अंतर्निहित पैटर्न भ्रामक हों।
• मानवीय निरीक्षण की आवश्यकता: AI को मानवीय विशेषज्ञता और आलोचनात्मक सोच के विकल्प के रूप में नहीं, बल्कि निरंतर सत्यापन की आवश्यकता वाले एक उपकरण के रूप में देखा जाना चाहिए।