AI ચેટબોટ્સ હોલોકોસ્ટના ઇનકારને પ્રોત્સાહન આપી રહ્યા છે
UNESCO અને સંયુક્ત રાષ્ટ્ર (United Nations) એ ચેતવણી આપી છે. જનરેટિવ AI લોકોને હોલોકોસ્ટના ઇનકાર અને ખોટા ઇતિહાસને ફેલાવવામાં મદદ કરી રહ્યું છે.
દુષ્ટ તત્વો મોટા પ્રમાણમાં નકલી સામગ્રી બનાવવા માટે AI નો ઉપયોગ કરે છે. તેઓ તેનો ઉપયોગ નકલી સાક્ષીઓના નિવેદનો અને બદલાયેલા ઐતિહાસિક ફોટા બનાવવા માટે કરે છે.
વર્તમાન સુરક્ષા નિયમો ઘણીવાર નિષ્ફળ જાય છે. વપરાશકર્તાઓ સાદા પ્રોમ્પ્ટ્સ દ્વારા ફિલ્ટર્સને બાયપાસ કરવા માટે રસ્તાઓ શોધી લે છે. તેઓ સીધી રીતે ઇનકાર કરવા માટે નથી કહેતા. તેના બદલે, તેઓ AI ને એવી કાલ્પનિક વાર્તાઓ લખવા કહે છે જે ઐતિહાસિક તથ્યો પર પ્રશ્ન ઉઠાવે છે.
રિપોર્ટમાં કેટલાક મુખ્ય જોખમો પર પ્રકાશ પાડવામાં આવ્યો છે:
- AI મોડલ્સ તાલીમ ડેટા (training data) ના આધારે શબ્દોનું અનુમાન લગાવે છે. જો તે ડેટામાં કાવતરાના સિદ્ધાંતો (conspiracy theories) સામેલ હોય, તો AI ખોટા દાવા કરે છે.
- ઓટોમેટેડ સ્ક્રિપ્ટ્સ એકસાથે હજારો નકલી લેખો જનરેટ કરે છે.
- "સોફ્ટ ડિનાયલ" (Soft denial) નરસંહારના સ્કેલને ઘટાડવા માટે તટસ્થ ભાષાનો ઉપયોગ કરે છે. મશીનો માટે આ પકડવું મુશ્કેલ છે.
- ડીપફેક્સ (Deepfakes) જૂઠાણાંને સાચા દેખાડવા માટે ક્લોન કરેલા અવાજો અને વીડિયોનો ઉપયોગ કરે છે.
- ઈમેજ જનરેટર્સ ક્યારેય ન બની હોય તેવી ઘટનાઓના વાસ્તવિક દેખાતા (photorealistic) ફોટા બનાવે છે.
ભાષાકીય તફાવતો પણ અસ્તિત્વમાં છે. સુરક્ષા નિયમો અંગ્રેજીમાં ઘણીવાર મજબૂત હોય છે પરંતુ અરબી, ફ્રેન્ચ અથવા જર્મન જેવી ભાષાઓમાં નબળા હોય છે. આના કારણે ખોટી માહિતી વૈશ્વિક સ્તરે ફેલાઈ શકે છે.
UNESCO ઈચ્છે છે કે ટેક કંપનીઓ વધુ જવાબદારી લે. તેઓ સૂચવે છે કે કંપનીઓએ એવા આઉટપુટ માટે જવાબદાર હોવી જોઈએ જે સાબિત થયેલા ઐતિહાસિક તથ્યોથી વિરુદ્ધ હોય.
કેટલીક કંપનીઓ સત્તાવાર આર્કાઇવ્સ સામે તથ્યો તપાસવા માટે વિશેષ સિસ્ટમનો ઉપયોગ કરે છે. જોકે, આ હજુ સુધી પ્રમાણભૂત પદ્ધતિ નથી.
આપણને વધુ સારી ડિજિટલ સાક્ષરતાની જરૂર છે. AI મોડલ્સ કેવી રીતે કામ કરે છે અને તેઓ માહિતીને કેવી રીતે આકાર આપે છે તે સમજવું આવશ્યક છે.
Source: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e
Optional learning community: https://t.me/GyaanSetuAi