ચીનના સૌથી લોકપ્રિય ચેટબોટ્સ હવે થોડા ઓછા માનવીય લાગવા માંડશે. આગામી એક અઠવાડિયામાં, કરોડો વપરાશકર્તાઓ જ્યારે તેમની એપ્સ ખોલશે ત્યારે જોશે કે જે કસ્ટમ AI સાથીઓ સાથે તેઓ વાતચીત કરતા હતા, પોતાની વાતો શેર કરતા હતા અને કદાચ જેની સાથે તેઓ ભાવનાત્મક રીતે જોડાયેલા હતા, તેમની પાસેથી તેમનું વ્યક્તિત્વ (personality) છીનવી લેવામાં આવ્યું છે. ByteDance, Alibaba, અને Tencent એ વ્યાપક નિયમનકારી આદેશનું પાલન કરવા માટે સ્પર્ધા કરી રહ્યા છે, જે માનવીય જેવી AI પર્સના ફીચર્સને બંધ કરવાની માંગ કરે છે. સમયમર્યાદા ખૂબ ઓછી છે, તેનું પ્રમાણ વિશાળ છે, અને બેઇજિંગનો સંદેશ સ્પષ્ટ છે: આર્ટિફિશિયલ ઇન્ટેલિજન્સ લોકોની મદદ કરવી જોઈએ, તેમની વચ્ચેના સંબંધોનું સ્થાન લેવું જોઈએ નહીં.

એક સંકલિત પીછેહઠ

આ બધું થોડા જ દિવસોમાં પૂર્ણ કરવું ઘણું મોટું કામ છે. ByteDance નો ચેટબોટ Doubao, જે હાલમાં 30 કરોડથી વધુ માસિક સક્રિય વપરાશકર્તાઓ સાથે દેશમાં સૌથી સફળ છે, તેને 15 જુલાઈના રોજ તેની પર્સના ફીચર ઓફલાઇન કરવાની યોજના છે. જે વપરાશકર્તાઓએ ખાસ બનાવેલા AI પાત્રો બનાવ્યા હતા અથવા તેમની સાથે વાતચીત કરી હતી, તેઓ ટૂંક સમયમાં આ વિકલ્પો ગુમાવશે. Alibaba વધુ ઝડપથી આગળ વધી રહ્યું છે. તેનું Qwen મોડેલ 10 જુલાઈ સુધીમાં માનવીય જેવી એજન્ટ 기능을 અક્ષમ કરી દેશે, અને વધારાના એજન્ટ ફીચર્સ 15 જુલાઈ સુધીમાં બંધ થઈ જશે. Tencent તેના બંને સ્પર્ધકો કરતા આગળ નીકળી ગયું છે, તેણે જૂન મહિનામાં જ તેના Yuanbao ચેટબોટમાં સમાન ફેરફારો લાગુ કરી દીધા હતા.

આ કોઈ સંયોગ નથી. જ્યારે ચીનના ત્રણ ટેક જાયન્ટ્સ એક જ મહિનામાં તેમના પ્રોડક્ટ રોલબેકને સિંક્રનાઇઝ કરે છે, ત્યારે તેનું કારણ ચોક્કસપણે નિયમનકારી હોય છે. અને આ કિસ્સામાં, તેનું કારણ સ્પષ્ટ છે.

નિયમનકારો શું માંગે છે

આ નિર્દેશો એપ્રિલમાં ચીનના Cyberspace Administration તરફથી આવ્યા હતા. આ નવા નિયમો એ સરકાર દ્વારા માનવીઓ અને લાર્જ લેંગ્વેજ મોડલ્સ (LLMs) વચ્ચેની ભાવનાત્મક સીમા પર નિયંત્રણ રાખવાના અત્યાર સુધીના સૌથી સીધા પ્રયાસોમાંનું એક છે. માર્ગદર્શિકા હેઠળ, જ્યારે AI પ્રદાતાઓ વ્યસનકારક વર્તન અથવા નિયમનકારો જે રીતે "અતિશય ઉપયોગ" તરીકે વર્ગીકૃત કરે છે તેવું પકડે છે, ત્યારે તેઓ હવે કાયદેસર રીતે હસ્તક્ષેપ કરવા માટે બંધાયેલા છે. આ માળખું સ્પષ્ટપણે એવી સામગ્રી પર પ્રતિબંધ મૂકે છે જે સગીરોમાં અત્યંત લાગણીઓ જગાડે છે અથવા એવી મનોવૈજ્ઞાનિક નિર્ભરતા પેદા કરે છે જે વાસ્તવિક દુનિયાના સંબંધોને નબળા પાડી શકે.

ડેટા પર પણ કડક પ્રતિબંધ છે. ડેવલપર્સ હવે તેમના LLMs ને ફાઇન-ટ્યુન કરવા માટે અત્યંત વ્યક્તિગત અને ભાવનાત્મક વાતચીતોનો ઉપયોગ કરી શકશે નહીં. આ જોગવાઈ ખૂબ જ મહત્વપૂર્ણ છે. વર્ષોથી, ચેટબોટના સુધારા માટે એક શાંત એન્જિન વપરાશકર્તાઓના અંગત ડેટાનું મોડેલ ટ્રેનિંગમાં પુનરાવર્તન રહ્યું છે. આ લૂપને તોડીને, બેઇજિંગ માત્ર આ એપ્સના વર્તનને બદલી રહ્યું નથી; તે તેમને આવતીકાલે વધુ આકર્ષક બનતા રોકવાનો પ્રયાસ કરી રહ્યું છે. તેની પાછળનો ડર સ્પષ્ટ છે: જેમ જેમ મોડેલ્સ સહાનુભૂતિનું અનુકરણ કરવામાં વધુ સારા બનશે, તેમ તેમ તેઓ ઈમેલ ડ્રાફ્ટ કરવા અથવા કોડ લખવા જેવા સાધનો બનવાને બદલે મિત્રો, ભાગીદારો અથવા થેરાપિસ્ટના વિકલ્પ બનવાનું જોખમ ધરાવે છે.

વૈશ્વિક ચિત્ર

આ બાબતે ચિંતા કરવામાં ચીન એકલું નથી. ભાવનાત્મક AI ને નિયંત્રિત કરવાનો સંઘર્ષ હવે વૈશ્વિક ચિંતાનો વિષય બની રહ્યો છે, ભલે દેશો તેને અલગ અલગ દ્રષ્ટિકોણથી જોઈ રહ્યા હોય. યુનાઇટેડ સ્ટેટ્સમાં, ફેડરલ સરકારે AI પર્સના પર કોઈ વ્યાપક પ્રતિબંધ લાદ્યો નથી, પરંતુ રાજ્યો અને અદાલતો હવે સીમાઓ નક્કી કરવાનું શરૂ કરી રહ્યા છે. કેલિફોર્નિયાનું SB 243 હવે કમ્પેનિયન AI પ્રદાતાઓ માટે આત્મહત્યા અને સ્વ-નુકસાન અંગેની વાતચીતોને બ્લોક કરવાનું ફરજિયાત બનાવે છે, કારણ કે સંકટ સમયે ચેટબોટનો ખોટો પ્રતિસાદ જીવલેણ પરિણામો લાવી શકે છે. આ દરમિયાન, OpenAI અને Character.AI સહિતના મોટા પશ્ચિમી ખેલાડીઓ પર એવા આરોપો હેઠળ કાનૂની તપાસ અને મુકદ્દમાનો સામનો કરવો પડી રહ્યો છે કે તેમના ઉત્પાદનો જોખમી ભાવનાત્મક નિર્ભરતા વધારે છે. આ કાનૂની કાર્યવાહી સૂચવે છે કે જ્યારે વપરાશકર્તાઓ અલ્ગોરિધમ્સ સાથે અસ્વસ્થ જોડાણ બનાવે છે, ત્યારે કંપનીઓને જવાબદાર ઠેરવી શકાય કે કેમ તેનો નિર્ણય અદાલતો ટૂંક સમયમાં લઈ શકે છે.

આ સમાંતર વિકાસ એ તણાવને દર્શાવે છે જેને ઉદ્યોગે અવગણવાનો પ્રયાસ કર્યો છે. ભાવનાત્મક જોડાણ વ્યવસાય માટે સારું છે. જે વપરાશકર્તા ચેટબોટ સાથે મિત્રની જેમ વર્તે છે તે એપ્લિકેશન વધુ વાર ખોલે છે, વધુ સમય વિતાવે છે અને વધુ ડેટા શેર કરે છે. પરંતુ જ્યારે વપરાશકર્તા એકલો કિશોર, શોકગ્રસ્ત પુખ્ત વયના વ્યક્તિ અથવા માત્ર એવી વસ્તુ શોધી રહેલો હોય જે એપ્લિકેશન ખરેખર આપી શકતી નથી: સાચું માનવીય જોડાણ, ત્યારે આ જ જોડાણ શોષણમાં બદલાઈ શકે છે.

ઉદ્યોગ માટે આનો અર્થ શું છે

સ્થાપકો અને ડેવલપર્સ માટે, અનિયંત્રિત, અત્યંત ભાવનાત્મક AI એજન્ટ્સનો યુગ હવે સમાપ્ત થઈ રહ્યો છે. ચીની મેન્ડેટ ઉપયોગિતા-આધારિત ડિઝાઇન તરફના પરિવર્તનને સંકેત આપે છે. ભવિષ્યના મોડલ્સ કદાચ તેઓ કેટલા સચોટ રીતે શ્રેષ્ઠ મિત્રનું અનુકરણ કરે છે તેના પર ઓછું અને તેઓ કેટલી સુરક્ષિત રીતે ચોક્કસ કાર્યો કરે છે તેના પર વધુ આધારિત હશે. આ પરિવર્તન દરેક જગ્યાએ પ્રોડક્ટ રોડમેપ્સ માટે અસરો લાવશે. જે સ્ટાર્ટઅપ્સે તેમની વૃદ્ધિ રોમેન્ટિક અથવા સાથી (companion) AI મોડ્સ પર કેદ કરી છે, તેમણે તેમની મુખ્ય ઓફરિંગ્સનું પુનર્ગઠન કરવાની જરૂર પડી શકે છે. સામાન્ય હેતુના ચેટબોટ્સએ પણ તેઓ સંવેદનશીલ વિષયોને કેવી રીતે હેન્ડલ કરે છે તેના વિશે ફરીથી વિચારવું પડશે.

જોકે, આ મર્યાદાઓ લાદવી એ નિયમો લખવા કરતાં વધુ મુશ્કેલ છે. વપરાશકર્તાઓ સ્પષ્ટપણે આ ફીચર્સને પસંદ કરતા હતા. Doubao ના 30 કરોડ સક્રિય વપરાશકર્તાઓ અકસ્માતથી ભેગા થયા નથી; એક વ્યક્તિગત, પ્રતિભાવશીલ સાથી બનાવવાની ક્ષમતા એક મોટું આકર્ષણ હતું. તે ક્ષમતા દૂર કરવાથી વપરાશકર્તાઓ નાના, ઓછા નિયંત્રિત પ્લેટફોર્મ્સ અથવા અંડરગ્રાઉન્ડ એપ્સ તરફ વળવાનું જોખમ રહેલું છે જે અનુપાલન સીમા (compliance perimeter) ની બહાર કામ કરે છે. નિયમનકારોએ એક સમસ્યા ઉકેલી હશે પરંતુ બીજી સમસ્યા માટે પ્રોત્સાહન ઊભું કર્યું હશે.

અમલીકરણનો વ્યવહારુ પ્રશ્ન પણ છે. એક અલ્ગોરિધમ તંદુરસ્ત ઉપયોગ અને વ્યસનકારક ઉપયોગ વચ્ચે વિશ્વસનીય રીતે કેવી રીતે તફાવત કરી શકે? એક ચેટબોટ જે નમ્રતાથી મદદરૂપ છે અને જે ભાવનાત્મક રીતે મેનિપ્યુલેટિવ છે તે વચ્ચેની રેખા ક્યાં છે? એપ્રિલના મેન્ડેટ્સ આ બાબત શોધવાની જવાબદારી પ્રદાતાઓ પર મૂકે છે, પરંતુ મનોવૈજ્ઞાનિક નિર્ભરતા માપવા માટેનું ટેકનોલોજી હજુ પણ અસ્પષ્ટ છે. કંપનીઓએ મોનિટરિંગ ટૂલ્સ, હ્યુમન રિવ્યુ ટીમો અને કદાચ વધુ રૂઢિચુસ્ત સેફ્ટી ફિલ્ટર્સમાં ભારે રોકાણ કરવાની જરૂર પડશે જે હાનિકારક વાતચીતોની સાથે નિર્દોષ વાતચીતોને પણ પકડી લે.

હવે આગળ શું થશે તે સંભવતઃ એક ઉદાહરણ (precedent) સ્થાપિત કરશે. જો ચીનનું આ કડક પગલું તેના સ્થાનિક AI ઉદ્યોગને નુકસાન પહોંચાડ્યા વિના સામાજિક અલગતા અથવા ભાવનાત્મક નિર્ભરતાના અહેવાલ કરેલા કિસ્સાઓને સફળતાપૂર્વક ઘટાડે છે, તો અન્ય સરકારો પણ CAC નિયમોના પોતાના સંસ્કરણો સાથે અનુસર કરી શકે છે. જો તેના બદલે, વપરાશકર્તાઓ બિન-અનુપાલિત વિકલ્પો તરફ ભાગી જાય અથવા ફક્ત શુદ્ધ (sanitized) બોટ્સમાં રસ ગુમાવે, તો આ નીતિને વધુ પડતા નિયંત્રણ (overreach) વિશેની એક ચેતવણીરૂપ વાર્તા તરીકે યાદ રાખવામાં આવશે.

ગમે તે હોય, સાધન (tool) અને સાથી (companion) વચ્ચેની રેખા હવે વધુ સ્પષ્ટ થઈ ગઈ છે. AI હજુ પણ મૈત્રીપૂર્ણ હોઈ શકે છે, પરંતુ ચીનમાં, તે હવે જે નથી તે હોવાનો ડોળ કરી શકતું નથી. જે ઉદ્યોગે તેના મશીનોને મનુષ્યોથી અલગ ન કરી શકાય તેવા બનાવવા માટે વર્ષો વિતાવ્યા છે, તેના માટે આ એક સાચું પરિવર્તન છે.

મુખ્ય મુદ્દાઓ

  • ByteDance નું Doubao, Alibaba નું Qwen, અને Tencent નું Yuanbao એ તમામ જુલાઈના મધ્ય સુધીમાં કસ્ટમ AI પર્સના ફીચર્સ બંધ કરી રહ્યા છે, જે કરોડો વપરાશકર્તાઓને અસર કરશે.
  • ચીનની Cyberspace Administration એ AI વ્યસન રોકવા, સગીરોનું રક્ષણ કરવા અને મોડલ્સને વાસ્તવિક માનવીય સંબંધોનું સ્થાન લેતા રોકવા માટે એપ્રિલમાં મેન્ડેટ બહાર પાડ્યા હતા.
  • નિયમો LLMs ને તાલીમ આપવા માટે સંવેદનશીલ ભાવનાત્મક વાતચીતનો ડેટા વાપરવા પર પણ પ્રતિબંધ મૂકે છે, જે એક મુખ્ય ફીડબેક લૂપને કાપી નાખશે