యూరోపియన్ యూనియన్ యొక్క డ్రాఫ్ట్ "Chat Control" నిబంధన, వ్యక్తుల మధ్య జరిగే కమ్యూనికేషన్ను అందించే ఏ సేవకైనా (ఇప్పుడు AI చాట్ ఇంటర్ఫేస్లతో సహా) తప్పనిసరి కంటెంట్-స్క్రీనింగ్ను విస్తరించాలని ప్రతిపాదిస్తోంది. ఇది ఆమోదించబడితే, కన్వర్సేషనల్ AI అందించే సంస్థలు ప్రతి వినియోగదారు ప్రాంప్ట్ను చట్టవిరుద్ధమైన సమాచారం కోసం స్కాన్ చేయాల్సి రావచ్చు. దీనివల్ల ఆరోగ్యం, చట్టం లేదా వ్యాపారం గురించి వినియోగదారులు అడిగే వ్యక్తిగత ప్రశ్నలు, అధికారులు స్వయంచాలకంగా పరిశీలించే డేటా పాయింట్లుగా మారిపోతాయి.
చట్టం ఇప్పుడు AIని ఎందుకు చేరుతోంది
ప్రైవేట్ మెసేజింగ్ యాప్లలో అక్రమ కంటెంట్ను, ముఖ్యంగా శిశు లైంగిక వేధింపులకు సంబంధించిన సమాచారాన్ని (CSAM) అరికట్టాలని EU మొదట లక్ష్యంగా పెట్టుకుంది. అయితే, దీనిలోని పదజాలం SMS లేదా మెసెంజర్ ప్లాట్ఫారమ్లకే పరిమితం కాలేదు. ఇది "వ్యక్తుల మధ్య జరిగే కమ్యూనికేషన్" (interpersonal communication) అనే పదాన్ని ఇద్దరు లేదా అంతకంటే ఎక్కువ మంది వ్యక్తులు సందేశాలను మార్పిడి చేసుకునే ఏ సాధనాన్ని అయినా కవర్ చేసేలా విస్తృతంగా నిర్వచించింది. రెగ్యులేటర్లు ఈ నిర్వచనాన్ని AI చాట్ విండోలకు కూడా వర్తింపజేస్తున్నారు.
అనేక సభ్య దేశాల సాంకేతిక అంచనాల ప్రకారం, AI సంభాషణలు సాధారణ టెక్స్ట్ల కంటే ఎక్కువ సున్నితమైన వివరాలను కలిగి ఉంటాయి – వినియోగదారులు సలహాల కోసం మోడల్తో తమ వైద్య చరిత్రలు, చట్టపరమైన వ్యూహాలు లేదా యాజమాన్య వ్యాపార ప్రణాళికలను తరచుగా పంచుకుంటారు. ఫోన్-టు-ఫోన్ సందేశాలను స్కాన్ చేసే అదే ఆటోమేటెడ్ ఫిల్టర్లను AI ప్రాంప్ట్లను విశ్లేషించడానికి ఉపయోగించవచ్చు. దీనివల్ల దురుద్దేశం ఉన్నవారు జనరేటివ్ మోడల్లను ఉపయోగించి భారీ స్థాయిలో చట్టవిరుద్ధమైన కంటెంట్ను సృష్టించే అవకాశం ఉందని అధికారులు ఆందోళన చెందుతున్నారు.
AI డేటాతో ఇప్పటికే జరుగుతున్నవి
కొత్త చట్టం రాకముందే, ప్రధాన AI సంస్థలు ఇప్పటికే వినియోగదారుల ఇన్పుట్లను సేకరించి నిల్వ చేస్తున్నాయి. OpenAI డిఫాల్ట్గా సంభాషణలను నిల్వ చేస్తుంది మరియు వాటిని తన మోడల్లను మెరుగుపరచడానికి ఉపయోగిస్తుంది; అదే సమయంలో భాగస్వాములతో మరియు అవసరమైనప్పుడు చట్ట అమలు సంస్థలతో డేటాను పంచుకుంటుంది. Google, వినియోగదారు యొక్క సెర్చ్ హిస్టరీ మరియు లొకేషన్ డేటాను కలిగి ఉన్న ప్రొఫైల్లోనే AI చాట్ లాగ్లను కూడా చేరుస్తుంది, తద్వారా వ్యక్తిగత ప్రవర్తన గురించి మరింత స్పష్టమైన చిత్రాన్ని రూపొందిస్తుంది. Anthropic, ప్రైవసీకి ప్రాధాన్యత ఇస్తామని మార్కెటింగ్ చేసినప్పటికీ, వినియోగదారు ప్రాంప్ట్లను నిల్వ చేస్తుంది మరియు సమాచారాన్ని వెల్లడించమని కోరే చట్టపరమైన ఆదేశాలకు లోబడి పనిచేస్తుంది.
ఒకవేళ "Chat Control" AIకి విస్తరిస్తే, వినియోగదారు అనుభవం గణనీయంగా మారవచ్చు:
- మోడల్ ప్రాసెస్ చేసే ముందే ప్రతి ప్రాంప్ట్ ఆటోమేటెడ్ స్కానర్ల ద్వారా వెళ్ళాలి.
- సిస్టమ్ AI చాట్లను వినియోగదారు యొక్క ప్రస్తుత మెసేజింగ్ హిస్టరీతో క్రాస్-రెఫరెన్స్ చేసి, వారి కమ్యూనికేషన్ల యొక్క సమగ్ర దృశ్యాన్ని రూపొందించవచ్చు.
- కొన్ని అంశాలు – ఉదాహరణకు, రసాయనాలను తయారు చేసే విధానాలు లేదా వివరణాత్మక చట్టపరమైన వ్యూహాలు – రియల్ టైమ్లో గుర్తించబడి అధికారులకు నివేదించబడవచ్చు.
డెవలపర్లు మరియు వినియోగదారులకు ఉన్న రిస్క్
డెవలపర్లు కొత్త నిబంధనల అమలు (compliance) ప్రక్రియను ఎదుర్కోవాల్సి ఉంటుంది, ఇది నిర్వహణ ఖర్చులను పెంచడమే కాకుండా మోడల్ అప్డేట్లను ఆలస్యం చేయవచ్చు. వారు స్కానింగ్ టూల్స్ను ఇంటిగ్రేట్ చేయాల్సి ఉంటుంది లేదా లైసెన్స్ తీసుకోవాల్సి ఉంటుంది, ఆడిట్ ట్రైల్స్ను నిర్వహించాలి మరియు ఏదైనా తప్పు జరిగితే జరిమానాలకు గురయ్యే ప్రమాదం ఉంటుంది. చిన్న సంస్థలు, ముఖ్యంగా ఓపెన్-సోర్స్ మోడల్లను అందించేవి, ఈ భారాన్ని భరించలేక మార్కెట్ నుండి తప్పుకోవాల్సి రావచ్చు.
వినియోగదారులు ఇప్పటికే అత్యవసరమని భావించే గోప్యతను కోల్పోయే ప్రమాదం ఉంది. ప్రాంప్ట్ డేటా ద్వారా వ్యక్తిగత ఆలోచనలు, ఆరోగ్య సమస్యలు లేదా రహస్య వ్యాపార ఆలోచనలు బయటపడవచ్చు. ఆ సమాచారం ఒక సెంట్రల్ రిపోజిటరీలో చేరిన తర్వాత, అది దుర్వినియోగం కావడానికి, ప్రమాదవశాత్తు లీక్ కావడానికి లేదా విస్తృత పర్యవేక్షణకు గురయ్యే అవకాశం ఉంటుంది. ఆ డేటాను రక్షించుకోవడం కోసం సెట్టింగ్లను నిర్వహించడం లేదా అదనపు సెక్యూరిటీ టూల్స్ కొనడం వంటి పనుల భారం సంస్థల నుండి వ్యక్తిగత వినియోగదారుల వైపు మళ్లుతుంది.
రెగ్యులేటర్ల వాదన
చట్టబద్ధమైన వినియోగానికి భంగం కలిగించకుండానే, ఆన్లైన్లో పిల్లలను రక్షించడానికి ఉపయోగించే అదే సాంకేతికతను AIకి కూడా వర్తింపజేయవచ్చని విధానకర్తలు వాదిస్తున్నారు. నేరగాళ్లు ఇప్పటికే చట్టవిరుద్ధమైన కంటెంట్ను రూపొందించడానికి జనరేటివ్ మోడల్లను ఉపయోగిస్తున్నారని మరియు ఏకీకృత స్కానింగ్ ఫ్రేమ్వర్క్ ద్వారా ఆ లూప్హోల్ను మూసివేయవచ్చని వారు పేర్కొంటున్నారు. వారి లక్ష్యం ప్రతి సంభాషణను పర్యవేక్షించడం కాదు, చట్టాన్ని అతిక్రమించే కొద్దిపాటి సందర్భాలను పట్టుకోవడం అని వారు చెబుతున్నారు.
మీ ప్రాంప్ట్లను ప్రైవేట్గా ఉంచుకోవడానికి ఆచరణాత్మక దశలు
చట్టం ఆమోదించబడినప్పటికీ, సున్నితమైన విషయాల కోసం క్లౌడ్ ఆధారిత AI సేవలకు దూరంగా ఉండటం ద్వారా వినియోగదారులు తమ డేటా బహిర్గతమయ్యే ప్రమాదాన్ని తగ్గించుకోవచ్చు. లోకల్గా నడిచే మోడల్స్ అందుబాటులోకి రావడం వల్ల వినియోగదారుల స్థాయి హార్డ్వేర్పైనే ఇది సాధ్యమవుతుంది:
- మీ స్వంత మెషీన్పై మోడల్స్ను రన్ చేయండి. Llama 3.2 మరియు Mistral వంటి మోడల్స్ సాధారణ గేమింగ్ PCలపై కూడా పనిచేయగలవు. Ollama వంటి టూల్స్ ఇన్స్టాలేషన్ మరియు రిసోర్స్ మేనేజ్మెంట్ను సులభతరం చేస్తాయి, అలాగే Open WebUI ఇంటరాక్షన్ కోసం ఒక క్లీన్ ఫ్రంట్-ఎండ్ అందిస్తుంది.
- శిక్షణ డేటా సేకరణ నుండి తప్పుకోండి (Opt out). మీ ప్రాంప్ట్లను మోడల్ను మెరుగుపరచడానికి ఉపయోగించకుండా ఆపే సెట్టింగ్ చాలా ప్లాట్ఫారమ్లలో ఉంటుంది. అది ఎక్కడ అందుబాటులో ఉంటే అక్కడ దానిని ఎనేబుల్ చేయండి.
- పాత సంభాషణలను తొలగించండి. నిల్వ చేయబడే డేటాను పరిమితం చేయడానికి క్రమం తప్పకుండా మీ చాట్ హిస్టరీని క్లియర్ చేయండి.
- రహస్య అంశాల కోసం క్లౌడ్ AIని నివారించండి. వైద్య ప్రశ్నలు, చట్టపరమైన సలహాలు లేదా వ్యాపారానికి సంబంధించిన ముఖ్యమైన చర్చల కోసం ఆన్-ప్రిమైస్ (on-premise) మోడల్లను మాత్రమే ఉపయోగించండి.
లోకల్ మోడల్స్ GPT-4 యొక్క విస్తృతిని అందుకోలేకపోవచ్చు, కానీ అవి రోజువారీ రచనలు, కోడింగ్ సహాయం మరియు పరిశోధన పనులను చక్కగా నిర్వహిస్తాయి. వీటి ప్రధాన ప్రయోజనం ఏమిటంటే, ప్రాంప్ట్లు మీ పరికరం నుండి బయటకు వెళ్లవు, దీనివల్ల ఆటోమేటిక్ స్కానింగ్ ప్రమాదం ఉండదు.
తదుపరి ఏమి గమనించాలి
రాబోయే నెలల్లో EU యొక్క శాసన ప్రక్రియ కొనసాగుతుంది, ఇందులో కమిటీలు “interpersonal communication” పరిధిని సమీక్షిస్తాయి. AI చాట్ సేవలను మినహాయించేలా లేదా స్పష్టమైన నిర్వచనాల కోసం పరిశ్రమల బృందాలు ఇప్పటికే లాబీయింగ్ చేస్తున్నాయి. ప్రధాన AI ప్రొవైడర్ల ప్రకటనలపై నిఘా ఉంచండి – వారు కొత్త ప్రైవసీ కంట్రోల్స్ను ప్రవేశపెట్టవచ్చు లేదా కోర్టులో ఈ నిబంధనలను సవాలు చేయవచ్చు.
ఒకవేళ ఈ నిబంధన రూపొందించిన విధంగానే ఆమోదించబడితే, AI వినియోగదారుల ప్రైవసీ పరమైన అంశాలు గణనీయంగా మారుతాయి. అప్పటి వరకు, ప్రతి ప్రాంప్ట్ను మూడవ వ్యక్తి చదవవచ్చని భావించి వ్యవహరించండి మరియు వీలైనంత వరకు local-first పరిష్కారాలను అనుసరించండి. మీ ప్రశ్నలు వ్యక్తిగతమైనవి; వాటిని రక్షించడం అనేది ప్రాధాన్యతగా ఉండాలి, కేవలం ఆలోచన తర్వాత వచ్చే విషయంలా ఉండకూడదు.