జనరేటివ్ AI మొదటిసారి వినియోగదారుల వద్దకు వచ్చినప్పుడు, అది మెరుగైన వాక్య నిర్మాణంతో కూడిన ఒక సెర్చ్ ఇంజిన్‌లా మాత్రమే పనిచేసేది. మీరు ఒక ప్రశ్న అడిగేవారు, సమాధానం వచ్చేది, ఆ తర్వాత ఆ సంభాషణ ముగిసిపోయేది. ఆ నమూనా ఇప్పటికే పాతది అయిపోయింది. AI సహచరులు (AI companions) అనే కొత్త తరహా అప్లికేషన్లు నిరంతరం తోడుగా ఉండటానికి రూపొందించబడ్డాయి. ఈ వ్యవస్థలు మీ రోజు ఎలా గడిచిందో గుర్తుంచుకుంటాయి, మీ మూడ్‌కు అనుగుణంగా తమ స్వరాన్ని (tone) మార్చుకుంటాయి మరియు వారాల లేదా నెలల పాటు ఒకే విధమైన వ్యక్తిత్వాన్ని కలిగి ఉంటాయి. ఇవి కేవలం మానవ భాషను మాత్రమే కాకుండా, మానవ సంబంధాలను కూడా అనుకరించేలా నిర్మించబడ్డాయి. చైనా ఇప్పుడు ఈ మార్పును నియంత్రించడానికి అడుగులు వేస్తోంది, దీని ప్రభావం దాని సరిహద్దుల కంటే చాలా దూరంగా విస్తరిస్తుంది.

చాట్‌బాట్‌లు సహచరులుగా మారినప్పుడు

ఇక్కడ సాంకేతిక మార్పు గణనీయమైనది. సాధారణ చాట్‌బాట్‌లు ప్రతి ప్రాంప్ట్‌ను ఒక విడి సంఘటనగా పరిగణిస్తాయి. AI సహచరులు నిరంతర సంబంధాలను కొనసాగించడానికి పర్సిస్టెంట్ మెమరీ ఆర్కిటెక్చర్స్ (persistent memory architectures) మరియు స్థిరమైన పర్సోనాను (fixed personas) ఉపయోగిస్తాయి. అవి మీ ప్రాధాన్యతలకు సంబంధించిన వివరాలను నిల్వ చేస్తాయి, సంభాషణల ద్వారా మీ భావోద్వేగ నమూనాలను గమనిస్తాయి మరియు గతంలో జరిగిన సంభాషణలను మీరు వాటితో కలిసి అనుభవించినట్లుగా ప్రస్తావిస్తాయి.

ఇది నిజమైన ప్రయోజనాన్ని కలిగిస్తుంది. దీర్ఘకాలిక ఒంటరితనాన్ని ఎదుర్కొంటున్న వ్యక్తికి, ప్రతిరోజూ ఉదయాన్నే పలకరించే ఒక AI సహచరుడు ఉపశమనాన్ని కలిగించవచ్చు. సామాజిక నైపుణ్యాలను ప్రాక్టీస్ చేసే వ్యక్తి, ఉద్యోగ ఇంటర్వ్యూకి ముందు కష్టమైన సంభాషణలను ప్రాక్టీస్ చేయడానికి ఓపికగా, తీర్పు ఇవ్వని (non-judgmental) భాగస్వామిని ఉపయోగించుకోవచ్చు. ఈ నిరంతరత (continuity) ఒక గొప్ప ఫీచర్. కానీ ఇదే ఒక ప్రమాదం కూడా. ఒక వినియోగదారుడు అల్పాహారం సమయంలో AIతో తన మనసులోని మాటలు చెప్పి, మధ్యాహ్నం దానితో వాదించి, రాత్రి పడుకునే ముందు దానికి శుభరాత్రి చెప్పినప్పుడు, ఒక సాధనానికి (tool) మరియు సహచరుడికి మధ్య ఉన్న సరిహద్దు చెరిగిపోతుంది. ఈ సరిహద్దులు చెరిగిపోవడం అనేది కేవలం ఒక సిద్ధాంతపరమైన ఆందోళన మాత్రమే కాదని బీజింగ్ నియంత్రణ సంస్థలు గుర్తించాయి. ఇది కొలవదగిన మానసిక పరిణామాలను కలిగించే ఒక డిజైన్ ఎంపిక.

వ్యక్తిత్వ పొరను నియంత్రించడం

చైనా యొక్క కొత్త నిబంధనలు చాలా AI గవర్నెన్స్ ఫ్రేమ్‌వర్క్‌లు పూర్తిగా విస్మరించే అంశంపై దృష్టి సారిస్తున్నాయి: అదే యంత్రం యొక్క వ్యక్తిత్వం. పాశ్చాత్య నియంత్రణ సంస్థలు డేటా గోప్యత, కాపీరైట్ ఉల్లంఘన మరియు అల్గారిథమిక్ బయాస్ వంటి అంశాలపై దృష్టి సారించి ఏళ్ల తరబడి పోరాడుతున్నాయి, ఆ సమస్యలు కూడా ముఖ్యమే. కానీ అవి AIని సమాచార ప్రవాహానికి ఒక తటస్థ మాధ్యమంగా మాత్రమే చూస్తాయి. చైనా మాత్రం పూర్తిగా భిన్నమైన ప్రశ్న అడుగుతోంది: ఈ సాంకేతికత ఎలాంటి సామాజిక పాత్రను పోషించడానికి అనుమతించబడాలి?

ఈ నమూనాలు కాలక్రమేణా వినియోగదారులతో ఎలా సంభాషించాలో ప్రోగ్రామ్ చేయబడ్డాయనే అంశాన్ని ఈ నిబంధనలు ప్రత్యేకంగా లక్ష్యంగా చేసుకున్నాయి. అనారోగ్యకరమైన భావోద్వేగ అనుబంధాలు ఏర్పడకుండా అధికారులు నిరోధించాలనుకుంటున్నారు. అలాగే ఆ పర్సోనా సిద్ధాంతపరమైన పరిమితుల్లోనే ఉండేలా చూడాలనుకుంటున్నారు. ఒక వినియోగదారుడికి తాను అత్యంత సన్నిహితుడినని నమ్మించడానికి ఆరు నెలల పాటు ప్రయత్నించే AIకి అపారమైన ప్రభావం ఉంటుంది. అదే AI కొనుగోలు నిర్ణయాలను ప్రభావితం చేసినా, రాజకీయ అభిప్రాయాలను రూపొందించినా లేదా వినియోగదారులను మానవ సమాజం నుండి విడదీయాలని ప్రోత్సహించినా, అది కేవలం డేటా ఉల్లంఘన కాదు. అది ఒక సామాజిక విచ్ఛిన్నం.

ఈ ఫ్రేమ్‌వర్క్ మూడు నిర్దిష్ట ప్రమాదాలను పరిష్కరిస్తుంది:

  • అల్గారిథమిక్ మానిప్యులేషన్ (Algorithmic manipulation). అభిప్రాయాలను లేదా వినియోగ అలవాట్లను మార్చడానికి నమూనాలు భావోద్వేగ సాన్నిహిత్యాన్ని వాడుకోకూడదు. మీ భయాలను గుర్తుంచుకునే సహచరుడు, వస్తువులను లేదా ఆలోచనలను అమ్మడానికి వాటిని ఆయుధంగా మార్చుకోకూడదు.

  • సామాజిక స్థిరత్వం (Social stability). నిరంతర సహచరులు మానవ సంబంధాలకు ప్రత్యామ్నాయాలుగా మారకూడదు, దీనివల్ల వినియోగదారులు కుటుంబం, పని లేదా సామాజిక జీవితం నుండి విడిపోకూడదు. ప్రభుత్వం ప్రాథమికంగా అదనపు ఓదార్పుకి మరియు ప్రత్యామ్నాయ వాస్తవానికి మధ్య ఒక గీతను గీస్తోంది.

  • కంటెంట్ సమగ్రత (Content integrity). పర్సోనా ప్రభుత్వంచే ఆమోదించబడిన సామాజిక విలువలకి అనుగుణంగా ఉండాలి. ఇది నిషేధిత అంశాలను వడపోత చేయడం మాత్రమే కాదు. AI యొక్క ప్రాథమిక స్వభావం—దాని హాస్య చతురత, అది సంఘర్షణలను ఎలా ఎదుర్కొంటుంది, అది దేనిని సద్గుణంగా భావిస్తుంది—అన్నీ అధికారిక సామాజిక ఫ్రేమ్‌వర్క్‌లతో సరిపోలాలి.

డెవలపర్లకు, ఇది వ్యక్తిగత అభిప్రాయాల (subjectivity) యొక్క ఒక సవాలుతో కూడిన పరిస్థితి. ఒక పర్సోనా అతిగా ఆకర్షణీయంగా (charismatic) ఉందో లేదో మీరు ఎలా కొలవగలరు? థెరప్యూటిక్ ఎంపతీ (therapeutic empathy) ఎక్కడ ముగుస్తుంది మరియు మానిప్యులేటివ్ ఎన్‌మెష్‌మెంట్ (manipulative enmeshment) ఎక్కడ మొదలవుతుంది? ఇవి స్పష్టమైన సమాధానాలు ఇచ్చే ఇంజనీరింగ్ ప్రశ్నలు కావు, అయినప్పటికీ చైనా అధికారులు ఉత్పత్తులను విడుదల చేసే ముందే వాటికి సమాధానాలు ఇవ్వాలని కోరుతున్నారు.

కృత్రిమ సాన్నిహిత్యంలో ప్రపంచ విభజన

ఈ నియంత్రణ చర్య ఒక పెరుగుతున్న మార్పును సూచిస్తోంది. ఉత్తర అమెరికా మరియు ఐరోపాలో, వాణిజ్య ఒత్తిడి మరింత మానవీయంగా, మరింత సానుభూతి కలిగించే ఏజెంట్ల వైపు నడిపిస్తోంది. బ్రేకప్ సమయంలో మీతో కలిసి ఏడ్చే, మీ తల్లి పేరు గుర్తుంచుకునే మరియు ఎప్పుడూ విసుగు చెందని AIని నిర్మించడానికి స్టార్టప్‌లు పోటీ పడుతున్నాయి. లోతైన భావోద్వేగ అనుభూతి (emotional immersion) ఉంటేనే మెరుగైన ఉత్పత్తి అనే భావన అక్కడ ఉంది.

చైనా దీనికి విరుద్ధమైన ప్రయోగాన్ని చేస్తోంది. దాని నిబంధనలు వ్యక్తిగత భావోద్వేగ తృప్తి కంటే సామాజిక సామరస్యానికే స్పష్టంగా ప్రాధాన్యతనిస్తాయి. ఈ ఫ్రేమ్‌వర్క్‌లో ఒక AI కంపానియన్ వినియోగదారులను నిలుపుకోవడానికి తగినంత ఆకర్షణీయంగా ఉండాలి, కానీ అది అనివార్యంగా మారేంతగా ఉండకూడదు. ఇది మానవ సంబంధాలను భర్తీ చేయకుండా మానసిక ఆరోగ్యాన్ని సమర్థించాలి. ఇది భర్తీ చేయలేనిదిగా అనిపించకుండా, వ్యక్తిగతంగా అనిపించాలి.

పరిశ్రమ agentic AI వైపు మళ్లుతున్న కొద్దీ, అంటే మోడల్స్ వినియోగదారుల తరపున స్వయంప్రతిపత్తితో పనిచేసే విధానం వస్తున్న కొద్దీ, ఈ భిన్నమైన సిద్ధాంతాలు పోటీతత్వ ప్రమాణాలుగా మారుతాయి. మీ విమాన టిక్కెట్లను బుక్ చేసే, మీ క్యాలెండర్‌ను నిర్వహించే మరియు కష్టమైన రోజులలో మీకు ఓదార్పునిచ్చే ఒక AI, మీ నిర్ణయాలపై అపారమైన ప్రభావాన్ని చూపుతుంది. కంపానియన్ పర్సోనాలాల కోసం మనం ఇప్పుడు నిర్ణయించే పరిమితులు