AI સંશોધકોએ લગભગ 150 ઓછા ટ્રાફિક ધરાવતી ન્યૂઝ સાઇટ્સના નેટવર્ક દ્વારા લાર્જ લેંગ્વેજ મોડલ (LLM) ટ્રેનિંગ ડેટામાં પ્રો-ક્રેમલિન (pro-Kremlin) વિભાવનાઓથી ભરપૂર કરવાનો એક સુવ્યવસ્થિત પ્રયાસ શોધી કાઢ્યો છે. આ સાઇટ્સ, જે સામૂહિક રીતે 'પ્રાવદા નેટવર્ક' (Pravda network) તરીકે ઓળખાય છે, તે વર્ષે અંદાજે ત્રીસ લાખ લેખ પ્રકાશિત કરે છે, અને તેમનું કન્ટેન્ટ હવે Common Crawl ડેટાસેટમાં જોવા મળે છે જે અનેક વ્યાવસાયિક AI સિસ્ટમ્સને સજ્જ કરે છે.

ડિસઇન્ફોર્મેશન પાઇપલાઇન કેવી રીતે કામ કરે છે

પ્રાવદા નેટવર્કનો હેતુ માનવ વાચકોને આકર્ષવાનો નથી. તેના બદલે, દરેક સાઇટ પુનરાવર્તિત લેખ પ્રકાશિત કરે છે જે મર્યાદિત વિષયવસ્તુને વારંવાર રજૂ કરે છે. સર્ચ એન્જિન અને વેબ ક્રોલર્સ (web crawlers) જે કીવર્ડ્સને પ્રાધાન્ય આપે છે તેનાથી ટેક્સ્ટને ભરીને, આ સાઇટ્સ ડેટા કલેક્શન દરમિયાન AI મોડલ તેને શોધવાની શક્યતા વધારે છે.

અહીં બે પોઇઝનિંગ (poisoning) પદ્ધતિઓ કાર્યરત છે:

  • Retrieval-time poisoning – જ્યારે કોઈ AI આસિસ્ટન્ટ વેબ પરથી લાઈવ માહિતી મેળવે છે, ત્યારે તે પ્રમાણિત સ્ત્રોતોની સાથે પ્રાવદાનો લેખ પણ બતાવી શકે છે. જાણીતા હાનિકારક ડોમેન્સને બ્લોક કરવાથી આ જોખમને ઘટાડી શકાય છે.
  • Training-time poisoning – જો આ લેખો મોડલને પ્રી-ટ્રેન (pre-train) કરવા માટે વપરાતા મોટા ડેટા સંગ્રહમાં (corpora) ભળી જાય, તો તે ખોટા દાવાઓ મોડલના આંતરિક જ્ઞાનનો ભાગ બની જાય છે. એકવાર આ થઈ ગયા પછી આવું કન્ટેન્ટ દૂર કરવું ઘણું મુશ્કેલ છે.

સંશોધકોએ પહેલેથી જ Common Crawl (જે અનેક AI મોડલ્સને ટ્રેન કરવા માટે વપરાતું જાહેર આર્કાઇવ છે) ની અંદર પ્રાવદાના લેખો શોધી કાઢ્યા છે. તેનો અર્થ એ છે કે આ પોઇઝનિંગ માત્ર કાલ્પનિક નથી; તેણે પહેલેથી જ એવા મોડલ્સના જ્ઞાનના આધારને બદલી નાખ્યો છે જેના પર આજે ઘણા વપરાશકર્તાઓ નિર્ભર છે.

તે શા માટે મહત્વનું છે

માત્ર એટલા માટે AI પર વિશ્વાસ ન કરો કારણ કે તે કહે છે કે "ઘણા સ્ત્રોતો સહમત છે." જો તમે AI ટૂલ્સ બનાવો છો, તો જાણીતી ડિસઇન્ફોર્મેશન સાઇટ્સ માટે બ્લોકલિસ્ટનો ઉપયોગ કરો. સત્ય માપવા માટે "ઉલ્લેખની સંખ્યા" (number of mentions) નો ઉપયોગ કરશો નહીં. જથ્થો એટલે ગુણવત્તા નહીં. AI તમને જે કંઈ પણ કહે છે તેની ચકાસણી કરો, ખાસ કરીને જો તે પક્ષપાતી લાગે તો.

ઇન્ટરનેટ એ આપણી ભવિષ્યની ટેકનોલોજી માટે ટ્રેનિંગ સેટ છે. વેબસાઇટ ધરાવતું કોઈપણ વ્યક્તિ આપણે જે મશીનો પર નિર્ભર છીએ તેને પક્ષપાતી બનાવવાનો પ્રયાસ કરી શકે છે.

ડેવલપર્સ અત્યારે શું કરી શકે છે

  • બ્લોકલિસ્ટ જાળવી રાખો – ક્રોલિંગ ફિલ્ટર્સમાં જાણીતા ડિસઇન્ફોર્મેશન ડોમેન્સ ઉમેરો; બ્લોકલિસ્ટ રિટ્રાઇવલ-ટાઇમ અને ટ્રેનિંગ-ટાઇમ બંને એક્સપોઝરને અટકાવે છે.
  • ફ્રીક્વન્સી હ્યુરિસ્ટિક્સ (frequency heuristics) વિશે ફરીથી વિચારો – ઉલ્લેખની સંખ્યાને સત્યતા સાથે જોડવાનું બંધ કરો. એક સાધારણ ફ્રીક્વન્સી-આધારિત મોડલમાં, ડઝનબંધ ઓછી ગુણવત્તાવાળી સાઇટ્સ પર વારંવાર દોહરાવવામાં આવેલો દાવો એક પ્રતિષ્ઠિત સ્ત્રોત કરતા વધુ પ્રભાવશાળી બની શકે છે.
  • પ્રોવેનન્સ ચેક્સ (provenance checks) લાગુ કરો – માહિતીને તેના મૂળ સ્ત્રોત સુધી ટ્રેસ કરો. જો સાંકળ નહિવત ટ્રાફિક ધરાવતી અને પ્રોપેગન્ડા ઇતિહાસ ધરાવતી સાઇટ પર પૂરી થતી હોય, તો તે આઉટપુટને રિવ્યુ માટે ફ્લેગ કરો.
  • પોસ્ટ-ટ્રેનિંગ સેનિટાઈઝેશન (post-training sanitization) અમલમાં મૂકો – રાજકીય રીતે સંવેદનશીલ વિષયોને સ્પર્શતા મોડલ આઉટપુટ પર ક્યુરેટેડ ઓડિટ ચલાવો. માનવ રિવ્યુઅર્સ એવા પદ્ધતિસરના પક્ષપાતને પકડી શકે છે જે ઓટોમેટેડ ફિલ્ટર્સ ચૂકી જાય છે.

વિરોધ પક્ષના મુદ્દાઓ અને પડકારો

સુરક્ષા અને સર્વસમાવેશકતા વચ્ચે સંતુલન જાળવવું એ હજુ પણ એક ખુલ્લી સમસ્યા છે.

ભવિષ્ય તરફ જોતા

પ્રાવદા નેટવર્ક દર્શાવે છે કે કેવી રીતે સરકારી એજન્ટો (state actors) AI ની આગામી પેઢીને આકાર આપવા માટે ઓપન વેબને હથિયાર તરીકે વાપરી શકે છે.

મુખ્ય વાત (Takeaway): AI ની અખંડિતતા તે જે ડેટા પરથી શીખે છે તેની સ્વચ્છતા પર નિર્ભર છે. ઓછા ટ્રાફિકવાળી અને પ્રોપેગન્ડાથી ભરેલી સાઇટ્સનો સુવ્યવસ્થિત પ્રવાહ પહેલેથી જ આપણે વિશ્વાસ કરીએ છીએ તેવા મોડલ્સમાં અસત્યતા દાખલ કરી શકે છે. આપણે જે મશીનો બનાવીએ છીએ તે ડિસઇન્ફોર્મેશનના અજાણતા વાહક ન બની જાય તે માટે ડેવલપર્સે સ્ત્રોતની પ્રતિષ્ઠાને માત્ર વિચારણાનો વિષય નહીં, પણ પ્રાથમિક ચિંતા તરીકે ગણવી જોઈએ.