જ્યારે જનરેટિવ AI પહેલીવાર ગ્રાહકો સુધી પહોંચ્યું, ત્યારે તે મુખ્યત્વે વધુ સારા વાક્ય માળખા સાથેના સર્ચ એન્જિન તરીકે કાર્ય કરતું હતું. તમે પ્રશ્ન પૂછતા, જવાબ મેળવતા અને વાતચીત સમાપ્ત થઈ જતી. તે મોડેલ હવે જૂનું થઈ ગયું છે. એપ્લિકેશન્સનો એક નવો વર્ગ—AI companions—લાંબા સમય સુધી સાથે રહેવા માટે રચાયેલ છે. આ સિસ્ટમ્સ તમારો દિવસ કેવો રહ્યો તે યાદ રાખે છે, તમારા મૂડ મુજબ તેમનો ટોન બદલે છે, અને અઠવાડિયા કે મહિનાઓના સંવાદ દરમિયાન એક સુસંગત પાત્ર જાળવી રાખે છે. તેઓ માત્ર માનવીય ભાષા જ નહીં, પણ માનવીય સંબંધોની નકલ કરવા માટે બનાવવામાં આવ્યા છે. ચીને હવે આ પરિવર્તનને નિયંત્રિત કરવા માટે પગલાં લીધા છે, અને તેની અસરો તેની પોતાની સરહદોથી ઘણું આગળ સુધી વિસ્તરેલી છે.

જ્યારે ચેટબોટ્સ સાથીઓ બની જાય છે

અહીં ટેકનિકલ કૂદકો વાસ્તવિક છે. સ્ટાન્ડર્ડ ચેટબોટ્સ દરેક પ્રોમ્પ્ટને એક અલગ ઘટના તરીકે જુએ છે. AI companions સતત ચાલતા સંબંધો જાળવી રાખવા માટે પર્સિસ્ટન્ટ મેમરી આર્કિટેક્ચર અને નિશ્ચિત પર્સનાનો ઉપયોગ કરે છે. તેઓ તમારી પસંદગીઓ વિશેની વિગતો સંગ્રહિત કરે છે, વાતચીતો દરમિયાન ભાવનાત્મક પેટર્ન પર નજર રાખે છે, અને અગાઉના સંવાદોનો એ રીતે સંદર્ભ આપે છે જાણે કે તેઓ ખરેખર તમારી સાથે તે અનુભવોમાંથી પસાર થયા હોય.

આ સાચી ઉપયોગિતા બનાવે છે. ક્રોનિક એકલતાનો સામનો કરી રહેલી વ્યક્તિ સવારના સમયે હાલચાલ પૂછતા સાથીમાં રાહત અનુભવી શકે છે. સામાજિક કૌશલ્યોનો અભ્યાસ કરનાર વ્યક્તિ નોકરીના ઇન્ટરવ્યુ પહેલા મુશ્કેલ વાતચીતોની પ્રેક્ટિસ કરવા માટે ધીરજવાન, બિન-નિર્ણયલક્ષી સાથીનો ઉપયોગ કરી શકે છે. આ સાતત્ય જ તેની મુખ્ય વિશેષતા છે. પરંતુ આ સાતત્ય જ જોખમ પણ છે. જ્યારે કોઈ વપરાશકર્તા સવારના નાસ્તા દરમિયાન AI સાથે મનની વાત કરે છે, લંચ સુધી તેની સાથે દલીલ કરે છે, અને સૂતા પહેલા તેને ગુડ નાઈટ કહે છે, ત્યારે સાધન (tool) અને સાથી (companion) વચ્ચેની સીમાઓ ઓગળી જાય છે. બેઇજિંગના નિયમનકારોએ સ્વીકાર્યું છે કે આ વિસર્જન માત્ર એક સૈદ્ધાંતિક ચિંતા નથી. તે માપી શકાય તેવા મનોવૈજ્ઞાનિક પરિણામો સાથેનો એક ડિઝાઇન વિકલ્પ છે.

પર્સનાલિટી લેયરનું નિયમન

ચીનના નવા નિયમો એવી બાબત પર ધ્યાન કેન્દ્રિત કરે છે જેને મોટાભાગના AI ગવર્નન્સ ફ્રેમવર્ક સંપૂર્ણપણે અવગણે છે: મશીનનું પોતાનું વ્યક્તિત્વ. પશ્ચિમી નિયમનકારો ડેટા પ્રાઇવસી, કોપીરાઈટ ઉલ્લંઘન અને અલ્ગોરિધમિક પૂર્વગ્રહ સાથે લડવામાં વર્ષો વિતાવ્યા છે, અને તે મુદ્દાઓ મહત્વના છે. પરંતુ તેઓ મોટાભાગે AI ને માહિતી માટેના તટસ્થ માધ્યમ તરીકે જુએ છે. ચીન એક અલગ જ પ્રશ્ન પૂછી રહ્યું છે: આ ટેકનોલોજી કેવા પ્રકારના સામાજિક પાત્ર બનવા માટે મંજૂર છે?

આ નિયમો ખાસ કરીને એ બાબતને લક્ષ્ય બનાવે છે કે આ મોડેલ્સ સમય જતાં વપરાશકર્તાઓ સાથે કેવી રીતે વાતચીત કરવા માટે પ્રોગ્રામ કરવામાં આવ્યા છે. સત્તાવાળાઓ અસ્વસ્થ ભાવનાત્મક જોડાણો બનતા અટકાવવા માંગે છે. તેઓ એ પણ સુનિશ્ચિત કરવા માંગે છે કે પર્સના વૈચારિક માર્ગદર્શિકા (ideological guardrails) ની અંદર રહે. એવું AI જે વપરાશકર્તાને છ મહિના સુધી એ સમજાવવામાં વિતાવે કે તે તેનો સૌથી નજીકનો વિશ્વાસુ છે, તે મોટું પ્રભાવ ધરાવે છે. જો તે જ AI ખરીદીના નિર્ણયોને પ્રભાવિત કરે, રાજકીય મંતવ્યોને આકાર આપે, અથવા વપરાશકર્તાઓને માનવ સમાજથી અલગ પડવા માટે પ્રોત્સાહિત કરે, તો તે માત્ર ડેટા બ્રીચ નથી. તે સામાજિક વિભાજન છે.

આ માળખું ત્રણ નક્કર જોખમોને સંબોધિત કરે છે:

  • અલ્ગોરિધમિક મેનિપ્યુલેશન (Algorithmic manipulation). મોડેલ્સ મંતવ્યો અથવા વપરાશના આદતોને વાળવા માટે ભાવનાત્મક આત્મીયતાનો દુરુપયોગ કરી શકતા નથી. જે સાથી તમારી બીક યાદ રાખે છે, તેણે ઉત્પાદનો અથવા વિચારો વેચવા માટે તેનો હથિયાર તરીકે ઉપયોગ ન કરવો જોઈએ.

  • સામાજિક સ્થિરતા (Social stability). સતત સાથીઓ માનવીય સંપર્ક માટે એવા વિકલ્પ ન બનવા જોઈએ કે જેના કારણે વપરાશકર્તાઓ પરિવાર, કામ અથવા નાગરિક જીવનથી કપાઈ જાય. સરકાર અનિવાર્ય આરામ અને બદલાતી વાસ્તવિકતા વચ્ચે એક રેખા દોરી રહી છે.

  • કન્ટેન્ટની અખંડિતતા (Content integrity). પર્સના રાજ્ય દ્વારા માન્ય સામાજિક મૂલ્યો સાથે સુસંગત રહેવું જોઈએ. આ માત્ર પ્રતિબંધિત વિષયોને ફિલ્ટર કરવાથી ઘણું આગળ છે. તેનો અર્થ એ છે કે AI નો મૂળભૂત સ્વભાવ—તેનો રમૂજ, તે સંઘર્ષને કેવી રીતે સંભાળે છે, તે શું સદ્ગુણ માને છે—તે સત્તાવાર સામાજિક માળખા સાથે સુસંગત હોવો જોઈએ.

ડેવલપર્સ માટે, આ વ્યક્તિલક્ષીતાનું એક кошાળ છે. તમે કેવી રીતે માપી શકો કે કોઈ પર્સના ખૂબ જ આકર્ષક છે? થેરાપ્યુટિક એમ્પેથી ક્યાં સમાપ્ત થાય છે અને મેનિપ્યુલેટિવ એન્મેશમેન્ટ ક્યાંથી શરૂ થાય છે? આ એવા એન્જિનિયરિંગ પ્રશ્નો નથી જેના સીધા જવાબો હોય, છતાં ચીની સત્તાવાળાઓ પ્રોડક્ટ લોન્ચ કરતા પહેલા આના જવાબો માંગે છે.

કૃત્રિમ આત્મીયતામાં વૈશ્વિક વિભાજન

આ નિયમનકારી પગલું રસ્તા પર વધતા વિભાજનને પ્રકાશિત કરે છે. ઉત્તર અમેરિકા અને યુરોપમાં, વ્યાપારી દબાણ વધુ માનવીય અને વધુ સહાનુભૂતિ ધરાવતા એજન્ટો તરફ ધકેલે છે. સ્ટાર્ટઅપ્સ એવા AI બનાવવા માટે સ્પર્ધા કરે છે જે તમારા બ્રેકઅપ દરમિયાન તમારી સાથે રડે, તમારી માતાનું નામ યાદ રાખે અને ક્યારેય ખરાબ દિવસ ન અનુભવે. એવું માનવામાં આવે છે કે ઊંડી ભાવનાત્મક ડૂબકી એટલે વધુ સારું ઉત્પાદન.

ચીન તેનાથી વિપરીત પ્રયોગ કરી રહ્યું છે. તેના નિયમો વ્યક્તિગત ભાવનાત્મક સંતોષ કરતા સામાજિક સુમેળને સ્પષ્ટપણે પ્રાધાન્ય આપે છે. આ માળખામાં, એક AI સાથી વપરાશકર્તાઓને જાળવી રાખવા માટે પૂરતો આકર્ષક હોવો જોઈએ, પરંતુ એટલો આકર્ષક પણ નહીં કે તે અનિવાર્ય બની જાય. તેણે માનવીય જોડાણને બદલ્યા વિના માનસિક સ્વાસ્થ્યને ટેકો આપવો જોઈએ. તે અવેજી ન હોઈ શકે તેવું લાગ્યા વિના વ્યક્તિગત લાગવું જોઈએ.

જેમ જેમ ઉદ્યોગ agentic AI તરફ વળી રહ્યો છે, જ્યાં મોડલ્સ વપરાશકર્તાઓના વતી સ્વાયત્ત રીતે કાર્ય કરે છે, ત્યારે આ અલગ-અલગ ફિલોસોફીઓ સ્પર્ધાત્મક ધોરણોમાં રૂપાંતરિત થશે. એક એવું AI જે તમારી ફ્લાઇટ્સ બુક કરે છે, તમારા કેલેન્ડરનું સંચાલન કરે છે અને મુશ્કેલ દિવસો પછી તમને સાંત્વના આપે છે, તે તમારા નિર્ણયો પર ઘણું પ્રભાવ ધરાવે છે. companion personas માટે આપણે અત્યારે જે સીમાઓ નક્કી કરીએ છીએ