China’s most popular chatbots are about to feel a little less human. Over the next week, hundreds of millions of users w

చైనాలోని అత్యంత ప్రజాదరణ పొందిన చాట్‌బాట్‌లు ఇకపై కొంచెం తక్కువ మానవీయంగా అనిపించబోతున్నాయి. వచ్చే వారం లోపు, వందల మిలియన్ల మంది వినియోగదారులు తమ యాప్‌లను తెరిచినప్పుడు, తాము సందేశాలు పంపుతున్న, రహస్యాలు పంచుకుంటున్న మరియు బహుశా మానసిక అనుబంధాన్ని పెంచుకుంటున్న కస్టమ్ AI తోడుదండ్రులు తమ వ్యక్తిత్వాన్ని కోల్పోయినట్లు గమనిస్తారు. మానవీయ లక్షణాలు కలిగిన AI పర్సోనా ఫీచర్లను నిలిపివేయాలని కోరుతున్న ఒక సమగ్ర నియంత్రణ ఉత్తర్వును పాటించడానికి ByteDance, Alibaba మరియు Tencent పోటీ పడుతున్నాయి. గడువు చాలా తక్కువగా ఉంది, దీని పరిధి చాలా పెద్దది, మరియు బీజింగ్ నుండి వస్తున్న సందేశం స్పష్టంగా ఉంది: కృత్రిమ మేధస్సు (AI) ప్రజలకు సహాయం చేయాలి కానీ, వారు ఒకరితో ఒకరు కలిగి ఉండే సంబంధాలకు ప్రత్యామ్నాయంగా మారకూడదు.

ఒక సమన్వయంతో కూడిన ఉపసంహరణ

కొన్ని రోజుల్లోనే ఇంత పని పూర్తి చేయడం చాలా కష్టమైన విషయం. ByteDance యొక్క చాట్‌బాట్ మరియు ప్రస్తుతం నెలకు 300 మిలియన్లకు పైగా యాక్టివ్ వినియోగదారులతో దేశంలోనే అత్యంత విజయవంతమైన Doubao, జూలై 15న తన పర్సోనా ఫీచర్‌ను ఆఫ్‌లైన్‌లోకి తీసుకెళ్లాల్సి ఉంది. ప్రత్యేకంగా రూపొందించిన AI పాత్రలతో సంభాషించిన లేదా వాటిని సృష్టించిన వినియోగదారులు త్వరలో ఆ ఆప్షన్లు కనిపించకుండా పోవడాన్ని గమనిస్తారు. Alibaba ఇంకా వేగంగా అడుగులు వేస్తోంది. దాని Qwen మోడల్ జూలై 10 నాటికి మానవీయ ఏజెంట్లను నిలిపివేస్తుంది, మరియు అదనపు ఏజెంట్ ఫీచర్లు జూలై 15 నాటికి నిలిపివేయబడతాయి. Tencent తన ప్రత్యర్థుల కంటే ముందే, జూన్ నెలలోనే తన Yuanbao చాట్‌బాట్‌కు ఇలాంటి మార్పులను అమలు చేసింది.

ఇది యాదృచ్ఛికం కాదు. చైనాలోని మూడు టెక్ దిగ్గజాలు ఒకే నెలలో తమ ఉత్పత్తుల ఫీచర్లను ఉపసంహరించుకోవడం అనేది ఖచ్చితంగా నియంత్రణపరమైన కారణాల వల్లనే జరుగుతుంది. ఈ సందర్భంలో, ఆ కారణం స్పష్టంగా ఉంది.

నియంత్రణ సంస్థల డిమాండ్లు

ఈ ఆదేశాలు ఏప్రిల్‌లో చైనా సైబర్‌స్పేస్ అడ్మినిస్ట్రేషన్ నుండి వచ్చాయి. మానవులు మరియు లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs) మధ్య ఉండే భావోద్వేగ సరిహద్దులను నియంత్రించడానికి ఒక ప్రధాన ప్రభుత్వం చేస్తున్న అత్యంత ప్రత్యక్ష ప్రయత్నాలలో ఇది ఒకటి. ఈ మార్గదర్శకాల ప్రకారం, వ్యసనపూరిత ప్రవర్తనలను లేదా నియంత్రణ సంస్థలు "అతిగా ఉపయోగించడం" అని వర్గీకరించిన అంశాలను గుర్తించినప్పుడు, AI ప్రొవైడర్లు జోక్యం చేసుకోవడం చట్టపరంగా తప్పనిసరి. మైనర్లలో తీవ్రమైన భావోద్వేగాలను ప్రేరేపించే లేదా వాస్తవ ప్రపంచ సంబంధాలకు "చోటు లేకుండా చేసేంత" తీవ్రమైన మానసిక ఆధారితత్వాన్ని పెంచే కంటెంట్‌ను ఈ ఫ్రేమ్‌వర్క్ స్పష్టంగా నిషేధిస్తుంది.

డేటాపై కూడా కఠినమైన ఆంక్షలు ఉన్నాయి. డెవలపర్లు తమ LLMలను మెరుగుపరచడానికి (fine-tune) అత్యంత వ్యక్తిగతమైన, భావోద్వేగపూరిత సంభాషణలను ఇకపై ఉపయోగించుకోలేరు. ఈ నిబంధన చాలా లోతైన ప్రభావం చూపుతుంది. సంవత్సరాలుగా, చాట్‌బాట్ మెరుగుదలకు ఒక నిశ్శబ్ద ఇంజిన్‌గా పనిచేస్తున్నది వినియోగదారుల వ్యక్తిగత డేటాను మోడల్ శిక్షణకు (model training) తిరిగి అందించే ప్రక్రియ. ఆ ప్రక్రియను నిలిపివేయడం ద్వారా, బీజింగ్ ఈ రోజు ఈ యాప్‌లు ఎలా ప్రవర్తించాలనేది మాత్రమే కాకుండా, రేపు అవి మరింత ఆకర్షణీయంగా మారకుండా కూడా ప్రయత్నిస్తోంది. దీని వెనుక ఉన్న భయం స్పష్టంగా ఉంది: మోడల్స్ సానుభూతిని (empathy) అనుకరించడంలో మెరుగుపడుతున్న కొద్దీ, అవి ఈమెయిల్స్ రాయడానికి లేదా కోడ్ రాయడానికి ఉపయోగపడే సాధనాలుగా కాకుండా, స్నేహితులు, భాగస్వాములు లేదా థెరపిస్టులకు ప్రత్యామ్నాయాలుగా మారే ప్రమాదం ఉంది.

ప్రపంచ దృశ్యం

దీని గురించి ఆందోళన చెందుతున్నది చైనా మాత్రమే కాదు. దేశాలు వేర్వేరు కోణాల్లో చూస్తున్నప్పటికీ, ఎమోషనల్ AIని నియంత్రించే పోరాటం ప్రపంచవ్యాప్త అంశంగా మారుతోంది. అమెరికాలో, ఫెడరల్ ప్రభుత్వం AI పర్సోనాలపై పూర్తి నిషేధాన్ని విధించలేదు, కానీ రాష్ట్రాలు మరియు కోర్టులు పరిమితులను విధించడం ప్రారంభించాయి. కాలిఫోర్నియా యొక్క SB 243 ఇప్పుడు కంపాన్యన్ AI ప్రొవైడర్లు ఆత్మహత్య మరియు స్వయం హానికి సంబంధించిన సంభాషణలను నిరోధించాలని కోరుతోంది, ఎందుకంటే సంక్షోభ సమయంలో చాట్‌బాట్ తప్పుగా స్పందిస్తే ప్రాణాంతక పరిణామాలు ఎదురయ్యే అవకాశం ఉందని గుర్తించింది. ఈలోగా, OpenAI మరియు Character.AI వంటి ప్రధాన పాశ్చాత్య సంస్థలు తమ ఉత్పత్తులు ప్రమాదకరమైన భావోద్వేగ ఆధారితత్వాన్ని పెంచుతున్నాయనే ఆరోపణలపై దావాలు మరియు పెరుగుతున్న చట్టపరమైన పరిశీలనలను ఎదుర్కొంటున్నాయి. వినియోగదారులు అల్గారిథమ్‌లతో అనారోగ్యకరమైన అనుబంధాలను ఏర్పరుచుకున్నప్పుడు కంపెనీలను బాధ్యులను చేయవచ్చా లేదా అనేది కోర్టులు త్వరలో నిర్ణయించవచ్చని ఈ దావాలు సూచిస్తున్నాయి.

ఈ సమాంతర పరిణామాలు పరిశ్రమ విస్మరించాలని ప్రయత్నించిన ఒక ఉద్రిక్తతను బయటపెడుతున్నాయి. భావోద్వేగ అనుబంధం (Emotional engagement) వ్యాపారానికి మంచిది. చాట్‌బాట్‌ను స్నేహితుడిలా చూసే వినియోగదారు యాప్‌ను తరచుగా తెరుస్తారు, ఎక్కువ సమయం గడుపుతారు మరియు ఎక్కువ డేటాను పంచుకుంటారు. కానీ ఆ వినియోగదారు ఒంటరి టీనేజర్ అయినా, దుఃఖంలో ఉన్న పెద్దవారైనా, లేదా యాప్ నిజంగా అందించలేని 'నిజమైన మానవ సంబంధం' కోసం వెతుకుతున్న ఎవరైనా అయినప్పుడు, అదే అనుబంధం దోపిడీగా మారవచ్చు.

పరిశ్రమకు దీని అర్థం ఏమిటి

వ్యవస్థాపకులు మరియు డెవలపర్ల కోసం, నియంత్రణ లేని, అత్యంత భావోద్వేగపూరితమైన AI ఏజెంట్ల యుగం ముగిసిపోతోంది. చైనా ఆదేశాలు ఉపయోగితా-ఆధారిత (utility-driven) డిజైన్ వైపు మళ్లడాన్ని సూచిస్తున్నాయి. భవిష్యత్తు మోడల్స్ ఒక మంచి స్నేహితుడిలా ఎంత నమ్మకంగా నటిస్తాయి అనే దానికంటే, అవి ఎంత సురక్షితంగా నిర్దిష్ట పనులను చేస్తాయనే దానిపైనే ఎక్కువగా ఆధారపడి ఉంటాయి. ఈ మార్పు ప్రపంచవ్యాప్తంగా ఉన్న ప్రొడక్ట్ రోడ్‌మ్యాప్‌లపై ప్రభావం చూపుతుంది. రొమాంటిక్ లేదా కంపానియన్ AI మోడ్‌లపై తమ వృద్ధిని ఆధారపరుచుకున్న స్టార్టప్‌లు తమ ప్రధాన సేవలను పునర్నిర్మించాల్సి రావచ్చు. సాధారణ చాట్‌బాట్‌లు కూడా సున్నితమైన అంశాలను ఎలా డీల్ చేయాలనే దానిపై తిరిగి ఆలోచించాల్సి ఉంటుంది.

అయితే, ఈ పరిమితులను విధించడం అనేది నియమాలను వ్రాయడం కంటే కష్టమైన పని. వినియోగదారులు స్పష్టంగా ఈ ఫీచర్లను ఇష్టపడ్డారు. Doubao యొక్క 300 మిలియన్ల యాక్టివ్ వినియోగదారులు అనుకోకుండా పెరగలేదు; వ్యక్తిగతీకరించిన, స్పందించే తోడుగా (companion) మార్చుకోగలిగే సామర్థ్యం ఒక ప్రధాన ఆకర్షణగా నిలిచింది. ఆ సామర్థ్యాన్ని తొలగించడం వల్ల వినియోగదారులు తక్కువ నియంత్రణ ఉన్న చిన్న ప్లాట్‌ఫారమ్‌లు లేదా నిబంధనలకు లోబడి లేని అండర్‌గ్రౌండ్ యాప్‌ల వైపు వెళ్లే ప్రమాదం ఉంది. నియంత్రణ సంస్థలు ఒక సమస్యను పరిష్కరిస్తూనే, మరొక సమస్యకు దారితీసేలా చేయవచ్చు.

అమలు పరంగా కూడా ఒక ఆచరణాత్మక ప్రశ్న ఉంది. ఒక అల్గారిథమ్ ఆరోగ్యకరమైన వినియోగానికి మరియు వ్యసనంగా మారే వినియోగానికి మధ్య తేడాను నమ్మదగిన రీతిలో ఎలా గుర్తించగలదు? మర్యాదపూర్వకంగా సహాయపడే చాట్‌బాట్‌కు మరియు భావోద్వేగాలను తప్పుగా వాడుకునే (emotionally manipulative) చాట్‌బాట్‌కు మధ్య గీత ఎక్కడ ఉంటుంది? ఏప్రిల్ ఆదేశాలు దీనిని గుర్తించే బాధ్యతను ప్రొవైడర్లపై వేయగా, మానసిక ఆధారితతను (psychological dependency) కొలిచే సాంకేతికత ఇంకా స్పష్టంగా లేదు. కంపెనీలు మానిటరింగ్ టూల్స్, హ్యూమన్ రివ్యూ టీమ్స్ మరియు హానికరమైన సంభాషణలతో పాటు సాధారణ సంభాషణలను కూడా పట్టుకునే మరింత కఠినమైన సేఫ్టీ ఫిల్టర్ల కోసం భారీగా పెట్టుబడి పెట్టాల్సి ఉంటుంది.

తర్వాత ఏం జరుగుతుందనేది ఒక నమూనాగా (precedent) నిలిచే అవకాశం ఉంది. చైనా యొక్క ఈ చర్యలు దాని స్వదేశీ AI పరిశ్రమను దెబ్బతీయకుండా, సామాజిక ఒంటరితనం లేదా భావోద్వేగ ఆధారితత వంటి సమస్యలను విజయవంతంగా తగ్గిస్తే, ఇతర ప్రభుత్వాలు కూడా తమ స్వంత CAC నిబంధనలతో అనుసరించే అవకాశం ఉంది. ఒకవేళ, వినియోగదారులు నిబంధనలు పాటించని ప్రత్యామ్నాయాల వైపు వెళ్లినా లేదా శుద్ధి చేయబడిన (sanitized) బాట్‌లపై ఆసక్తిని కోల్పోయినా, ఈ విధానం అతిగా నియంత్రించడం (overreach) గురించి ఒక హెచ్చరికగా గుర్తుండిపోవచ్చు.

ఏది ఏమైనప్పటికీ, ఒక సాధనం (tool) మరియు తోడు (companion) మధ్య ఉన్న తేడా ఇప్పుడు మరింత స్పష్టమైంది. AI ఇంకా స్నేహపూర్వకంగా ఉండవచ్చు, కానీ చైనాలో అది తాను లేని వ్యక్తిలా నటించలేదు. యంత్రాలను మనుషులతో పోల్చలేనంతగా మార్చడానికి ఏళ్ల తరబడి ప్రయత్నిస్తున్న పరిశ్రమకు, ఇది ఒక నిజమైన మార్పు (reversal).

ముఖ్యమైన అంశాలు

• ByteDance యొక్క Doubao, Alibaba యొక్క Qwen, మరియు Tencent యొక్క Yuanbao అన్నీ కూడా జూలై మధ్య నాటికి కస్టమ్ AI పర్సోనా ఫీచర్లను నిలిపివేస్తున్నాయి, దీనివల్ల వందల మిలియన్ల మంది వినియోగదారులు ప్రభావితమవుతారు.
• AI వ్యసనాన్ని నివారించడానికి, మైనర్లను రక్షించడానికి మరియు మోడల్స్ నిజమైన మానవ సంబంధాలను భర్తీ చేయకుండా నిరోధించడానికి చైనా సైబర్‌స్పేస్ అడ్మినిస్ట్రేషన్ ఏప్రిల్‌లో ఈ ఆదేశాలను జారీ చేసింది.
• LLMs శిక్షణ కోసం సున్నితమైన భావోద్వేగ సంభాషణ డేటాను ఉపయోగించడాన్ని కూడా ఈ నిబంధనలు నిషేధిస్తున్నాయి, ఇది ఒక కీలకమైన ఫీడ్‌బ్యాక్ లూప్‌ను నిలిపివేస్తూ...