યુરોપિયન યુનિયનની ડ્રાફ્ટ “Chat Control” નિયમનકારી પ્રક્રિયા કોઈપણ એવી સેવાઓ સુધી ફરજિયાત કન્ટેન્ટ-સ્ક્રીનિંગનો વિસ્તાર કરશે જે આંતરવ્યક્તિગત સંવાદ (interpersonal communication) વહન કરે છે – જેમાં હવે AI ચેટ ઇન્ટરફેસનો પણ સમાવેશ થાય છે. જો આ સ્વીકારવામાં આવે, તો કન્વર્સેશનલ AI ના પ્રદાતાઓ દરેક યુઝર પ્રોમ્પ્ટમાં ગેરકાયદેસર સામગ્રી શોધવા માટે સ્કેન કરવા માટે મજબૂર થઈ શકે છે, જેનાથી સ્વાસ્થ્ય, કાયદો અથવા વ્યવસાય વિશેના ખાનગી પ્રશ્નો એવા ડેટા પોઈન્ટ્સમાં ફેરવાઈ જશે જે સત્તાવાળાઓ આપમેળે તપાસશે.

આ કાયદો હવે AI સુધી કેમ પહોંચી રહ્યો છે

EU એ મૂળરૂપે ખાનગી મેસેજિંગ એપ્સમાં ગેરકાયદેસર સામગ્રી, ખાસ કરીને બાળ જાતીય શોષણ સંબંધિત સામગ્રી (child sexual-abuse material) ને રોકવાનો લક્ષ્ય રાખ્યો હતો. જોકે, તેની શબ્દાવલિ માત્ર SMS અથવા મેસેન્જર પ્લેટફોર્મ્સ પૂરતી મર્યાદિત નથી. તે “interpersonal communication” ને એટલી વ્યાપક રીતે વ્યાખ્યાયિત કરે છે કે જેમાં બે અથવા વધુ લોકો સંદેશાઓનું આદાન-પ્રદાન કરતા હોય તેવા કોઈપણ સાધનોનો સમાવેશ થાય છે, અને નિયમનકારોએ તે વ્યાખ્યામાં AI ચેટ વિન્ડોઝનો પણ સમાવેશ કર્યો છે.

કેટલાક સભ્ય દેશોના ટેકનિકલ મૂલ્યાંકનો નોંધે છે કે AI સંવાદોમાં સામાન્ય ટેક્સ્ટ કરતા ઘણીવાર વધુ સંવેદનશીલ વિગતો હોય છે – યુઝર્સ સલાહ મેળવવા માટે મોડેલ પાસે નિયમિતપણે તબીબી ઇતિહાસ, કાયદાકીય વ્યૂહરચનાઓ અથવા માલિકીના વ્યવસાયિક આયોજનો જણાવતા હોય છે. ફોન-ટુ-ફોન મેસેજ સ્કેન કરતા એ જ ઓટોમેટેડ ફિલ્ટર્સનો ઉપયોગ AI પ્રોમ્પ્ટ્સનું વિશ્લેષણ કરવા માટે કરી શકાય છે, અને અધિકારીઓને ચિંતા છે કે દુષ્ટ તત્વો (bad actors) મોટા પાયે ગેરકાયદેસર સામગ્રી બનાવવા માટે જનરેટિવ મોડેલ્સનો દુરુપયોગ કરી શકે છે.

AI ડેટા સાથે અત્યારે શું થઈ રહ્યું છે

નવા કાયદા વિના પણ, મોટી AI કંપનીઓ પહેલેથી જ યુઝર ઇનપુટ્સ એકત્રિત કરે છે અને રાખે છે. OpenAI ડિફોલ્ટ રીતે સંવાદો સંગ્રહિત કરે છે અને તેના મોડેલ્સને સુધારવા માટે તેનો ઉપયોગ કરે છે, સાથે જ ભાગીદારો સાથે અને જ્યારે જરૂર હોય ત્યારે કાયદા અમલીકરણ એજન્સીઓ સાથે ડેટા શેર કરે છે. Google AI ચેટ લોગ્સને તે જ પ્રોફાઇલમાં જોડે છે જેમાં યુઝરનો સર્ચ ઇતિહાસ અને લોકેશન ડેટા હોય છે, જે વ્યક્તિગત વર્તણૂકનું વધુ સચોટ ચિત્ર બનાવે છે. Anthropic, જોકે વધુ પ્રાઇવસી-કેન્દ્રિત હોવાનું માર્કેટિંગ કરવામાં આવે છે, તેમ છતાં તે યુઝર પ્રોમ્પ્ટ્સ રાખે છે અને ખુલાસા માટેના કાયદાકીય આદેશોનું પાલન કરે છે.

જો “Chat Control” AI સુધી વિસ્તરે છે, તો યુઝર અનુભવમાં મોટો ફેરફાર આવી શકે છે:

  • મોડેલ પ્રોસેસ કરે તે પહેલાં દરેક પ્રોમ્પ્ટ ઓટોમેટેડ સ્કેનર્સ દ્વારા ચલાવવામાં આવશે.
  • સિસ્ટમ AI ચેટ્સને યુઝરના હાલના મેસેજિંગ ઇતિહાસ સાથે ક્રોસ-રેફરન્સ કરી શકે છે, જેનાથી તેમના સંવાદોનું એકીકૃત વ્યુ બનાવી શકાય છે.
  • ચોક્કસ વિષયો – ઉદાહરણ તરીકે, રસાયણો બનાવવા માટેની સૂચનાઓ અથવા વિગતવાર કાયદાકીય વ્યૂહરચનાઓ – રીઅલ ટાઇમમાં ફ્લેગ કરી શકાય છે અને સત્તાવાળાઓને રિપોર્ટ કરી શકાય છે.

ડેવલપર્સ અને યુઝર્સ માટે જોખમો

ડેવલપર્સને નવા કમ્પ્લાયન્સ લેયરનો સામનો કરવો પડશે જે ઓપરેટિંગ ખર્ચ વધારી શકે છે અને મોડેલ અપડેટ્સને ધીમા પાડી શકે છે. તેમણે સ્કેનિંગ ટૂલ્સ ઇન્ટિગ્રેટ અથવા લાઇસન્સ લેવાની જરૂર પડશે, ઓડિટ ટ્રેલ્સ જાળવવા પડશે અને મિસ થયેલ ડિટેક્શન માટે દંડનું જોખમ ઉઠાવવું પડશે. નાની કંપનીઓ, ખાસ કરીને જેઓ ઓપન-સોર્સ મોડેલ્સ ઓફર કરે છે, તેમને આ બોજ અસહ્ય લાગી શકે છે અને તેઓ બજારમાંથી બહાર ફેંકાઈ શકે છે.

યુઝર્સ એવી પ્રાઇવસી ગુમાવી શકે છે જેને ઘણા લોકો પહેલેથી જ આવશ્યક માને છે. પ્રોમ્પ્ટ ડેટા અંગત વિચારો, વ્યક્તિગત સ્વાસ્થ્યની ચિંતાઓ અથવા ગુપ્ત વ્યવસાયિક વિચારો જાહેર કરી શકે છે. એકવાર તે માહિતી કેન્દ્રીય રિપોઝિટરીમાં આવી જાય, પછી તે દુરુપયોગ, અકસ્માતિક લીક અથવા વ્યાપક દેખરેખ (surveillance) માટે સંવેદનશીલ બની જાય છે. તે ડેટાનું રક્ષણ કરવું – સેટિંગ્સ મેનેજ કરવામાં અથવા વધારાના સિક્યુરિટી ટૂલ્સ ખરીદવામાં સમય વિતાવવો – હવે પ્રદાતાને બદલે વ્યક્તિગત જવાબદારી બની જશે.

નિયમનકારોનો વળતો દલીલ

નીતિ નિર્માતાઓ દલીલ કરે છે કે બાળકોને ઓનલાઇન સુરક્ષિત રાખવા માટે વપરાતી સમાન ટેકનોલોજીનો ઉપયોગ કાયદેસરના ઉપયોગને નુકસાન પહોંચાડ્યા વિના AI માટે પણ કરી શકાય છે. તેઓ નિર્દેશ કરે છે કે ગુનેગારો પહેલેથી જ ગેરકાયદેસર સામગ્રી ડ્રાફ્ટ કરવા માટે જનરેટિવ મોડેલ્સનો ઉપયોગ કરે છે, અને એકીકૃત સ્કેનિંગ ફ્રેમવર્ક આ છટકબારીને બંધ કરી દેશે. તેમનું લક્ષ્ય, તેઓ કહે છે, દરેક સંવાદ પર દેખરેખ રાખવાનું નથી પરંતુ કાયદાકીય સીમાઓ ઓળંગતા થોડા કિસ્સાઓને પકડવાનું છે.

તમારા પ્રોમ્પ્ટ્સને ખાનગી રાખવા માટે વ્યવહારુ પગલાં

જો કાયદો પસાર થાય તો પણ, યુઝર્સ સંવેદનશીલ બાબતો માટે ક્લાઉડ-આધારિત AI સેવાઓથી દૂર જઈને જોખમ ઘટાડી શકે છે. લોકલી રન થતા મોડેલ્સનું વધતું જતું ઇકોસિસ્ટમ ગ્રાહક-સ્તરના હાર્ડવેર પર આ શક્ય બનાવે છે:

  • તમારા પોતાના મશીન પર મોડેલ્સ ચલાવો. Llama 3.2 અને Mistral સ્ટાન્ડર્ડ ગેમિંગ PC પર ચાલી શકે છે. Ollama જેવા ટૂલ્સ ઇન્સ્ટોલેશન અને રિસોર્સ મેનેજમેન્ટને ઓટોમેટ કરે છે, જ્યારે Open WebUI ઇન્ટરેક્શન માટે ક્લીન ફ્રન્ટ-એન્ડ ઓફર કરે છે.
  • ટ્રેનિંગ ડેટા કલેક્શનમાંથી બહાર નીકળો (Opt out). મોટાભાગના પ્લેટફોર્મ્સ એક એવી સેટિંગ ઓફર કરે છે જે તમારા પ્રોમ્પ્ટ્સનો ઉપયોગ મોડેલ સુધારવા માટે થતો અટકાવે છે. જ્યાં પણ ઉપલબ્ધ હોય ત્યાં તેને એનેબલ કરો.
  • જૂના સંવાદો ડિલીટ કરો. રાખવામાં આવેલા ડેટાને મર્યાદિત કરવા માટે નિયમિતપણે તમારો ચેટ ઇતિહાસ સાફ કરો.
  • ગુપ્ત વિષયો માટે ક્લાઉડ AI ટાળો. તબીબી પ્રશ્નો, કાયદાકીય સલાહ અથવા કોઈપણ વ્યવસાયિક રીતે મહત્વપૂર્ણ ચર્ચા માટે ઓન-પ્રેમિસ (on-premise) મોડેલ્સનો ઉપયોગ કરો.

લોકલ મોડલ્સ કદાચ GPT-4 ની વ્યાપકતાની બરાબરી ન કરી શકે, પરંતુ તેઓ રોજિંદા લેખન, કોડિંગ સહાય અને સંશોધન કાર્યો સંભાળી શકે છે. તેનો મુખ્ય ફાયદો એ છે કે પ્રોમ્પ્ટ્સ ક્યારેય તમારા ઉપકરણની બહાર જતા નથી, જેનાથી ઓટોમેટિક સ્કેનિંગનું જોખમ દૂર થાય છે.

આગળ શું જોવું

આગામી મહિનાઓમાં EU ની કાયદાકીય પ્રક્રિયા સામે આવશે, જેમાં સમિતિઓ “interpersonal communication” ના વ્યાપની સમીક્ષા કરશે. ઉદ્યોગ જૂથો પહેલેથી જ મુક્તિ અથવા સ્પષ્ટ વ્યાખ્યાઓ માટે લોબિંગ કરી રહ્યા છે જે AI ચેટ સેવાઓને આમાંથી અલગ રાખશે. મુખ્ય AI પ્રદાતાઓનાં નિવેદનો પર નજર રાખો – તેઓ નવા પ્રાઇવસી કંટ્રોલ્સ રજૂ કરી શકે છે અથવા અદાલતમાં આ નિયમન સામે પડકાર પણ ફેંકી શકે છે.

જો નિયમ ડ્રાફ્ટ મુજબ પસાર થશે, તો AI વપરાશકર્તાઓ માટે પ્રાઇવસીનું ગણિત નાટકીય રીતે બદલાઈ જશે. ત્યાં સુધી, દરેક પ્રોમ્પ્ટને એ રીતે લો જાણે કોઈ ત્રીજી વ્યક્તિ તેને વાંચી શકે છે અને જ્યાં પણ શક્ય હોય ત્યાં 'લોકલ-ફર્સ્ટ' સોલ્યુશન્સ અપનાવો. તમારા પ્રશ્નો વ્યક્તિગત છે; તેમને સુરક્ષિત રાખવા એ પ્રાથમિકતા હોવી જોઈએ, માત્ર વિચાર્યા પછીનો વિચાર નહીં.