AI चॅटबॉट्स होलोकॉस्ट नाकारण्यास प्रोत्साहन देत आहेत

युनेस्को (UNESCO) आणि संयुक्त राष्ट्रांनी (United Nations) इशारा दिला आहे. जनरेटिव्ह AI (Generative AI) लोकांना होलोकॉस्ट नाकारण्यासाठी आणि खोटा इतिहास पसरवण्यासाठी मदत करत आहे.

वाईट हेतू असलेले घटक मोठ्या प्रमाणात बनावट मजकूर तयार करण्यासाठी AI चा वापर करतात. ते बनावट प्रत्यक्षदर्शी वृत्तांत आणि ऐतिहासिक छायाचित्रांमध्ये फेरफार करण्यासाठी याचा वापर करतात.

सध्याचे सुरक्षा नियम अनेकदा अपयशी ठरतात. वापरकर्ते साध्या प्रॉम्प्ट्सद्वारे (prompts) फिल्टर्स बायपास करण्याचे मार्ग शोधतात. ते थेट नकार मागत नाहीत, तर त्याऐवजी ऐतिहासिक तथ्यांवर प्रश्नचिन्ह निर्माण करणाऱ्या काल्पनिक कथा लिहिण्यास AI ला सांगतात.

अहवालात अनेक प्रमुख धोके अधोरेखित केले आहेत:

  • AI मॉडेल्स त्यांच्या ट्रेनिंग डेटाच्या आधारे शब्दांचा अंदाज लावतात. जर त्या डेटामध्ये षडयंत्राचे सिद्धांत (conspiracy theories) समाविष्ट असतील, तर AI चुकीचे दावे करते.
  • ऑटोमेटेड स्क्रिप्ट्स एकाच वेळी हजारो बनावट लेख तयार करतात.
  • "सॉफ्ट डिनायल" (Soft denial) मध्ये नरसंहाराचे प्रमाण कमी लेखण्यासाठी तटस्थ भाषेचा वापर केला जातो. हे यंत्रांना (machines) ओळखणे कठीण असते.
  • डीपफेक्स (Deepfakes) खोट्या गोष्टी वास्तववादी वाटण्यासाठी क्लोन केलेल्या आवाजांचा आणि व्हिडिओंचा वापर करतात.
  • इमेज जनरेटर्स कधीही न घडलेल्या घटनांचे अत्यंत वास्तववादी (photorealistic) फोटो तयार करतात.

भाषेतील तफावत देखील अस्तित्वात आहे. सुरक्षा नियम इंग्रजीमध्ये अनेकदा कडक असतात, परंतु अरबी, फ्रेंच किंवा जर्मन सारख्या भाषांमध्ये ते कमकुवत असतात. यामुळे चुकीची माहिती जागतिक स्तरावर पसरण्यास मदत होते.

युनेस्कोला तंत्रज्ञान कंपन्यांनी अधिक जबाबदारी घेण्याची अपेक्षा आहे. सिद्ध झालेल्या ऐतिहासिक तथ्यांच्या विरोधात असणाऱ्या आउटपुट्ससाठी कंपन्या जबाबदार असाव्यात, असे त्यांनी सुचवले आहे.

काही कंपन्या अधिकृत आर्काइव्ह्सशी (archives) तथ्यांची पडताळणी करण्यासाठी विशेष प्रणाली वापरतात. तथापि, ही अद्याप एक प्रमाणित पद्धत नाही.

आपल्याला अधिक चांगल्या डिजिटल साक्षरतेची गरज आहे. AI मॉडेल्स कसे काम करतात आणि ते माहिती कशी घडवतात, हे समजून घेणे आवश्यक आहे.

स्रोत: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

पर्यायी लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi