𝗔𝗜 𝗖𝗵𝗮𝘁𝗯𝗼𝘁𝘀 𝗙𝘂𝗲𝗹 𝗛𝗼𝗹𝗼𝗰𝗮𝘂𝘀𝘁 𝗗𝗲𝗻𝗶𝗮𝗹

യുനെസ്കോയും (UNESCO) ഐക്യരാഷ്ട്രസഭയും മുന്നറിയിപ്പ് നൽകി. ജനറേറ്റീവ് AI ആളുകൾ ഹോളോകോസ്റ്റ് നിഷേധവും തെറ്റായ ചരിത്രവും പ്രചരിപ്പിക്കാൻ സഹായിക്കുന്നു.

ദുരുപയോഗം ചെയ്യുന്നവർ വലിയ അളവിൽ വ്യാജ ഉള്ളടക്കങ്ങൾ നിർമ്മിക്കാൻ AI ഉപയോഗിക്കുന്നു. വ്യാജ സാക്ഷിമൊഴികളും മാറ്റം വരുത്തിയ ചരിത്രപരമായ ചിത്രങ്ങളും നിർമ്മിക്കാൻ അവർ ഇത് ഉപയോഗിക്കുന്നു.

നിലവിലുള്ള സുരക്ഷാ നിയമങ്ങൾ പലപ്പോഴും പരാജയപ്പെടുന്നു. ലളിതമായ പ്രോംപ്റ്റുകളിലൂടെ ഫിൽട്ടറുകളെ മറികടക്കാൻ ഉപയോക്താക്കൾ വഴികൾ കണ്ടെത്തുന്നു. അവർ നേരിട്ട് നിഷേധം ആവശ്യപ്പെടുന്നില്ല. പകരം, ചരിത്രപരമായ വസ്തുതകളെ ചോദ്യം ചെയ്യുന്ന സാങ്കൽപ്പിക കഥകൾ എഴുതാൻ അവർ AI-യോട് ആവശ്യപ്പെടുന്നു.

റിപ്പോർട്ട് പ്രധാനപ്പെട്ട ചില അപകടസാധ്യതകൾ ചൂണ്ടിക്കാട്ടുന്നു:

  • പരിശീലന ഡാറ്റയെ (training data) അടിസ്ഥാനമാക്കി AI മോഡലുകൾ വാക്കുകൾ പ്രവചിക്കുന്നു. ആ ഡാറ്റയിൽ ഗൂഢാലോചന സിദ്ധാന്തങ്ങൾ ഉൾപ്പെട്ടിട്ടുണ്ടെങ്കിൽ, AI തെറ്റായ അവകാശവാദങ്ങൾ ഉത്പാദിപ്പിക്കുന്നു.
  • ഓട്ടോമേറ്റഡ് സ്ക്രിപ്റ്റുകൾ ഒരേസമയം ആയിരക്കണക്കിന് വ്യാജ ലേഖനങ്ങൾ നിർമ്മിക്കുന്നു.
  • വംശഹത്യയുടെ വ്യാപ്തി കുറച്ചു കാണിക്കാൻ "സോഫ്റ്റ് ഡിനയൽ" (Soft denial) എന്ന രീതിയിൽ നിഷ്പക്ഷമായ ഭാഷ ഉപയോഗിക്കുന്നു. ഇത് തിരിച്ചറിയാൻ യന്ത്രങ്ങൾക്ക് പ്രയാസമാണ്.
  • കള്ളങ്ങൾ സത്യമാണെന്ന് തോന്നിപ്പിക്കാൻ ഡീപ്ഫേക്കുകൾ (Deepfakes) ക്ലോൺ ചെയ്ത ശബ്ദങ്ങളും വീഡിയോകളും ഉപയോഗിക്കുന്നു.
  • ഒരിക്കലും നടക്കാത്ത സംഭവങ്ങളുടെ യഥാർത്ഥമെന്ന് തോന്നുന്ന ചിത്രങ്ങൾ ഇമേജ് ജനറേറ്ററുകൾ നിർമ്മിക്കുന്നു.

ഭാഷാപരമായ വിടവുകളും നിലവിലുണ്ട്. സുരക്ഷാ നിയമങ്ങൾ ഇംഗ്ലീഷിൽ ശക്തമാണെങ്കിലും അറബിക്, ഫ്രഞ്ച് അല്ലെങ്കിൽ ജർമ്മൻ പോലുള്ള ഭാഷകളിൽ ദുർബലമാണ്. ഇത് തെറ്റായ വിവരങ്ങൾ ആഗോളതലത്തിൽ പടരാൻ കാരണമാകുന്നു.

സാങ്കേതിക കമ്പനികൾ കൂടുതൽ ഉത്തരവാദിത്തം ഏറ്റെടുക്കണമെന്ന് യുനെസ്കോ ആഗ്രഹിക്കുന്നു. തെളിയിക്കപ്പെട്ട ചരിത്രപരമായ വസ്തുതകൾക്ക് വിരുദ്ധമായ വിവരങ്ങൾ നൽകുന്നതിന് കമ്പനികൾ ഉത്തരവാദികളായിരിക്കണമെന്ന് അവർ നിർദ്ദേശിക്കുന്നു.

ചില കമ്പനികൾ ഔദ്യോഗിക ആർക്കൈവുകളുമായി വസ്തുതകൾ ഒത്തുനോക്കാൻ പ്രത്യേക സംവിധാനങ്ങൾ ഉപയോഗിക്കുന്നുണ്ട്. എന്നിരുന്നാലും, ഇത് ഇതുവരെ ഒരു സാധാരണ രീതിയായി മാറിയിട്ടില്ല.

നമുക്ക് മെച്ചപ്പെട്ട ഡിജിറ്റൽ സാക്ഷരത ആവശ്യമാണ്. AI മോഡലുകൾ എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്നും അവ വിവരങ്ങളെ എങ്ങനെ രൂപപ്പെടുത്തുന്നുവെന്നും നിങ്ങൾ മനസ്സിലാക്കണം.

സ്രോതസ്സ്: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

ഓപ്ഷണൽ ലേണിംഗ് കമ്മ്യൂണിറ്റി: https://t.me/GyaanSetuAi