सिग्नल की मेरेडिथ व्हिटेकर के अनुसार, AI चैटबॉट्स आपके दोस्त क्यों नहीं हैं

जैसे-जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) हमारे दैनिक डिजिटल वर्कफ़्लो में तेज़ी से एकीकृत हो रहे हैं, मानवीय बातचीत और मशीन की प्रतिक्रिया के बीच की रेखा धुंधली होती जा रही है। सिग्नल की प्रेसिडेंट मेरेडिथ व्हिटेकर उपयोगकर्ताओं को एक सख्त चेतावनी दे रही हैं: परिष्कृत सांख्यिकीय मॉडलिंग (sophisticated statistical modeling) को वास्तविक साथ या सचेत बुद्धिमत्ता समझने की भूल न करें।

LLMs में चेतना का भ्रम

ब्लूमबर्ग के साथ हाल ही में हुए एक साक्षात्कार में, मेरेडिथ व्हिटेकर ने OpenAI के ChatGPT और Anthropic के Claude जैसे AI मॉडल्स को मानवीय रूप देने (anthropomorphize) की बढ़ती प्रवृत्ति पर चर्चा की। उन्होंने इस बात पर ज़ोर दिया कि अपनी संवादात्मक तरलता के बावजूद, इन प्रणालियों में चेतना और स्वायत्तता (agency) का अभाव है। व्हिटेकर ने कहा, "ये आपके दोस्त नहीं हैं। ये सचेत प्राणी नहीं हैं। ये सचेत वार्ताकार नहीं हैं," और उपयोगकर्ताओं को याद दिलाया कि चैटबॉट्स मूल रूप से एक अनुक्रम (sequence) में अगले टोकन की भविष्यवाणी करने के लिए डिज़ाइन किए गए परिष्कृत इंजन हैं।

व्हिटेकर की चिंता दार्शनिक परिभाषाओं से परे मानवीय रचनात्मकता पर AI के संज्ञानात्मक प्रभाव तक फैली हुई है। हालांकि वह दस्तावेज़ फ़ॉर्मेटिंग जैसे छोटे कार्यों के लिए AI टूल्स का उपयोग करने की बात स्वीकार करती हैं, लेकिन वह उच्च-स्तरीय तर्क (high-level reasoning) के लिए उनका उपयोग करने से इनकार करती हैं। उनका तर्क है कि विचारों के सृजन (ideation) के लिए AI पर निर्भर रहने से मानवीय विचार प्रक्रिया के "सीमित" होने का जोखिम रहता है, क्योंकि ये मॉडल "जो पहले से मौजूद है उसका औसत निकालकर" काम करते हैं, जिससे संभावित रूप से मौलिक और गैर-व्युत्पन्न (non-derivative) सोच दब सकती है।

"एजेंटिक" (Agentic) AI की गोपनीयता की कीमत

बातचीत ने तब अधिक गंभीर मोड़ लिया जब "AI Agents" के उदय पर चर्चा हुई—ये ऐसी प्रणालियाँ हैं जिन्हें उपयोगकर्ता की ओर से स्वायत्त रूप से कार्य करने के लिए डिज़ाइन किया गया है। व्हिटेकर ने विशेष रूप से Microsoft AI के CEO मुस्तफा सुलेमान के एक अनुमान का खंडन किया, जिन्होंने सुझाव दिया था कि Microsoft Copilot जैसे उपकरण अंततः छुट्टियों की खरीदारी जैसे जटिल व्यक्तिगत कार्यों का प्रबंधन कर सकते हैं।

व्हिटेकर ने ऐसी "एजेंटिक" क्षमताओं में निहित भारी गोपनीयता संबंधी समझौतों (privacy trade-offs) की ओर इशारा किया। किसी AI के लिए उपयोगकर्ता की खरीदारी या शेड्यूल का प्रबंधन करने के लिए, उसे अत्यधिक संवेदनशील डेटा तक व्यापक पहुंच की आवश्यकता होती है, जिसमें शामिल हैं:

• व्यक्तिगत क्रेडिट कार्ड की जानकारी और ब्राउज़िंग इतिहास।
• Signal जैसे ऐप्स के माध्यम से रीयल-टाइम संचार।
• निजी कैलेंडर और घर के पते।

सुरक्षा के दृष्टिकोण से, व्हिटेकर इस स्तर के एकीकरण को एक बड़ी भेद्यता के रूप में देखती हैं। उन्होंने उल्लेख किया कि किसी AI को पारिवारिक ग्रुप चैट की निगरानी करने या उपयोगकर्ता की ओर से भाई-बहनों को संदेश भेजने की अनुमति देना, अनिवार्य रूप से उपयोगकर्ता के सबसे निजी डिजिटल जीवन में एक "बैकडोर" के समान होगा।

AI इकोसिस्टम के लिए निहितार्थ

व्हिटेकर का रुख तकनीकी उद्योग में बढ़ते तनाव को उजागर करता है: "एजेंटिक" उपयोगिता की दौड़ बनाम गोपनीयता और संज्ञानात्मक स्वायत्तता का मौलिक अधिकार। जैसे-जैसे डेवलपर्स ऐसे मॉडलों की ओर बढ़ रहे हैं जो कई एप्लिकेशन में काम कर सकते हैं, उद्योग के सामने एक महत्वपूर्ण प्रश्न है: क्या हम पूर्ण निगरानी का एक केंद्रीकृत बिंदु बनाए बिना निर्बाध AI सहायता प्राप्त कर सकते हैं? डेवलपर्स और संस्थापकों के लिए, यह "गोपनीयता-प्रथम" AI आर्किटेक्चर बनाने की आवश्यकता पर जोर देता है जो व्यापक, सभी-पहुंच एकीकरण के बजाय स्थानीय प्रोसेसिंग और सख्त डेटा साइलो को प्राथमिकता देते हैं।

मुख्य निष्कर्ष

• मानवीकरण से बचें: AI मॉडल सांख्यिकीय उपकरण हैं, चेतन प्राणी नहीं, और उन्हें "मित्रों" के रूप में मानना उनकी क्षमताओं और जोखिमों के बारे में गलतफहमी पैदा कर सकता है।
• संज्ञानात्मक स्वायत्तता की रक्षा करें: विचार-मंथन और समस्या समाधान के लिए AI पर अत्यधिक निर्भरता "औसत की ओर प्रतिगमन" (regression to the mean) का कारण बन सकती है, जहाँ मानवीय रचनात्मकता औसत डेटासेट के कारण दब सकती है।
• एजेंटिक गोपनीयता अंतराल: स्वायत्त AI एजेंटों के लिए किए जा रहे प्रयासों को व्यक्तिगत डेटा तक अभूतपूर्व पहुंच की आवश्यकता होती है, जिससे महत्वपूर्ण सुरक्षा बैकडोर और गोपनीयता संबंधी भेद्यताएँ पैदा होती हैं।