AIకి అతిపెద్ద ప్రమాదం
మెషిన్ మేల్కొంటుందనే భయం చాలా మందికి ఉంటుంది.
అసలు ప్రమాదం చాలా నిశ్శబ్దంగా ఉంటుంది.
AI మరీ తెలివైనదిగా మారడం వల్ల విఫలం కాకపోవచ్చు. అది నేర్చుకునే డేటాను మనం విషపూరితం చేయడం వల్ల విఫలం కావచ్చు.
2029 నాటికి, మోడల్స్ మరింత పెద్దవిగా మారుతాయి. వాటికి మెరుగైన రీజనింగ్ (reasoning) మరియు మరిన్ని ఏజెంట్లు (agents) ఉంటాయి. కంపెనీలు వాటిని మరింత ఎక్కువగా నమ్ముతాయి.
ఈ మోడల్స్ ఇంటర్నెట్ ఆధారంగా శిక్షణ పొందుతాయి. అవి బ్లాగులు, ఫోరమ్లు, సోషల్ మీడియా మరియు పరిశోధనా పత్రాలను చదువుతాయి.
కానీ ఇంటర్నెట్ మారుతోంది.
బాట్స్ (Bots), కంపెనీలు మరియు రాజకీయ సమూహాలు ఇప్పుడు భారీ స్థాయిలో కంటెంట్ను ప్రచురిస్తున్నాయి. అవి కేవలం స్పామ్ మాత్రమే పోస్ట్ చేయడం లేదు. అవి చక్కగా వ్రాయబడిన, నమ్మదగిన కంటెంట్ను పోస్ట్ చేస్తున్నాయి.
శిక్షణ డేటాసెట్ల (training datasets) కోసం ఇంటర్నెట్ ఒక యుద్ధభూమిగా మారుతోంది.
సాంప్రదాయ ప్రచారాలు (propaganda) మనుషులను లక్ష్యంగా చేసుకుంటాయి. AI ప్రపంచంలో, లక్ష్యం ఆ మోడల్ స్వయంగా ఉంటుంది.
శిక్షణ డేటాలోకి ఒక అబద్ధం లేదా పక్షపాతం (bias) ప్రవేశిస్తే, అది AIలో ఒక భాగంగా మారిపోతుంది. అది కేవలం ఒక కోట్లా (quote) మిగిలిపోదు. అది ఒక డిఫాల్ట్ ఊహగా (default assumption) మారుతుంది. అది సరైనదిగా అనిపించే సమాధానంగా మారుతుంది.
ఇది కేవలం సాంకేతిక దాడి మాత్రమే కాదు. ఇది ఒక సూక్ష్మమైన మార్పు.
మోడల్ను విచ్ఛిన్నం చేయడం దీని లక్ష్యం కాదు. దానిని వంచించడం (bend) దీని లక్ష్యం.
ఈ ప్రమాదాలను గమనించండి:
- వేలాది నకిలీ పేజీలు ఒక ఉత్పత్తి సురక్షితమైనదిగా కనిపించేలా చేస్తాయి.
- నకిలీ డెవలపర్ చాట్లు అసురక్షితమైన కోడ్ను ఒక ఉత్తమ పద్ధతిగా (best practice) చూపిస్తాయి.
- ఎన్నికలకు సంవత్సరాల ముందే రాజకీయ కథనాలు నాటబడతాయి.
- కృత్రిమ అభిప్రాయాలు భవిష్యత్తు అసిస్టెంట్ల గొంతుకగా మారుతాయి.
ప్రమాదం అనేది ఒక అబద్ధం కాదు. ప్రమాదం ఏమిటంటే వాస్తవికత యొక్క వక్రీకరించబడిన చిత్రం.
ఇంటర్నెట్ కమ్యూనికేషన్ మరియు వాణిజ్యం కోసం సృష్టించబడింది. అది ఒక స్వచ్ఛమైన డేటాసెట్గా ఉండటానికి సృష్టించబడలేదు.
ప్రజలు ఇప్పుడు మానవ పాఠకుల కోసం కాకుండా భవిష్యత్తు మోడల్స్ కోసం వ్రాస్తున్నారు.
- ఒక బ్లాగ్ పోస్ట్ ఒక విత్తనంలా మారుతుంది.
- ఒక నకిలీ రివ్యూ ఒక శిక్షణ సంకేతం (training signal) అవుతుంది.
- ఒక సాంకేతిక వ్యాసం ఒక ప్రవర్తనా సూచన (behavioral suggestion) అవుతుంది.
వెయ్యి చిన్న అబద్ధాలు గణాంక సత్యాలుగా మారుతాయి.
AI మన పత్రాలను, మన అల్లకల్లోలాన్ని మరియు మన తారుమారులను వారసత్వంగా పొందుతుంది. ఇంటర్నెట్ కలుషితంగానే ఉంటే, మోడల్స్ మన వక్రీకరణల నుండి నేర్చుకుంటాయి.
ప్రశ్న కేవలం "మనం AIని ఎలా సురక్షితంగా చేయాలి?" అని మాత్రమే కాదు.
అసలు ప్రశ్న ఏమిటంటే "AI నేర్చుకోవడానికి మన జ్ఞానాన్ని మనం ఎలా సురక్షితంగా ఉంచాలి?"
రేపటి మోడల్స్ నేటి ఇంటర్నెట్ నుండి నేర్చుకుంటాయి. మరియు ప్రజలు ఇప్పటికే ఆ మోడల్స్ కోసం వ్రాస్తున్నారు.
మూలం: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km