𝗔𝗜 𝗖𝗵𝗮𝘁𝗯𝗼𝘁𝘀 𝗛𝗼𝗹𝗼𝗰𝗮𝘂𝘀𝘁 𝗞𝗲 𝗞𝗵𝗮𝗻𝗱𝗮𝗻 𝗞𝗼 𝗕𝗮𝗱𝗵𝗮𝘃𝗮 𝗗𝗲 𝗥𝗮𝗵𝗲 𝗛𝗮𝗶𝗻
UNESCO और संयुक्त राष्ट्र ने एक चेतावनी जारी की है। जनरेटिव AI लोगों को होलोकॉस्ट के खंडन और गलत इतिहास फैलाने में मदद कर रहा है।
बुरे तत्व बड़ी मात्रा में फर्जी सामग्री बनाने के लिए AI का उपयोग करते हैं। वे इसका उपयोग फर्जी चश्मदीद गवाहों के विवरण और बदली हुई ऐतिहासिक तस्वीरों को बनाने के लिए करते हैं।
वर्तमान सुरक्षा नियम अक्सर विफल हो जाते हैं। उपयोगकर्ता सरल प्रॉम्प्ट के माध्यम से फिल्टर को बायपास करने के तरीके ढूंढ लेते हैं। वे सीधे तौर पर खंडन करने के लिए नहीं कहते। इसके बजाय, वे AI से ऐसी काल्पनिक कहानियाँ लिखने के लिए कहते हैं जो ऐतिहासिक तथ्यों पर सवाल उठाती हैं।
रिपोर्ट में कई प्रमुख जोखिमों पर प्रकाश डाला गया है:
- AI मॉडल प्रशिक्षण डेटा (training data) के आधार पर शब्दों का अनुमान लगाते हैं। यदि उस डेटा में षड्यंत्र सिद्धांत (conspiracy theories) शामिल हैं, तो AI गलत दावे पेश करता है।
- ऑटोमेटेड स्क्रिप्ट एक साथ हजारों फर्जी लेख तैयार कर देती हैं।
- "सॉफ्ट डिनायल" (Soft denial) नरसंहार के पैमाने को कम करने के लिए तटस्थ भाषा का उपयोग करता है। मशीनों के लिए इसे पकड़ना कठिन होता है।
- डीपफेक (Deepfakes) झूठ को असली दिखाने के लिए क्लोन की गई आवाजों और वीडियो का उपयोग करते हैं।
- इमेज जनरेटर ऐसी घटनाओं की फोटो-रियलिस्टिक तस्वीरें बनाते हैं जो कभी हुई ही नहीं।
भाषाई अंतराल भी मौजूद हैं। सुरक्षा नियम अक्सर अंग्रेजी में मजबूत होते हैं लेकिन अरबी, फ्रेंच या जर्मन जैसी भाषाओं में कमजोर होते हैं। इससे गलत सूचना वैश्विक स्तर पर फैलती है।
UNESCO चाहता है कि टेक कंपनियां अधिक जिम्मेदारी लें। उनका सुझाव है कि कंपनियों को उन आउटपुट के लिए उत्तरदायी ठहराया जाना चाहिए जो प्रमाणित ऐतिहासिक तथ्यों के विपरीत हों।
कुछ कंपनियां आधिकारिक अभिलेखागार (archives) के विरुद्ध तथ्यों की जांच करने के लिए विशेष प्रणालियों का उपयोग करती हैं। हालांकि, यह अभी तक एक मानक अभ्यास नहीं है।
हमें बेहतर डिजिटल साक्षरता की आवश्यकता है। आपको यह समझना चाहिए कि AI मॉडल कैसे काम करते हैं और वे सूचनाओं को कैसे आकार देते हैं।
Source: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e
Optional learning community: https://t.me/GyaanSetuAi