AIకి అతిపెద్ద ప్రమాదం

మెషిన్ మేల్కొంటుందనే భయం చాలా మందికి ఉంటుంది.

అసలు ప్రమాదం చాలా నిశ్శబ్దంగా ఉంటుంది. AI మరీ తెలివైనదిగా మారడం వల్ల విఫలం కాకపోవచ్చు. మనం దానికి అందించే సమాచారాన్ని విషపూరితం చేయడం వల్ల అది విఫలం కావచ్చు.

2029 సంవత్సరాన్ని ఊహించుకోండి. డెవలపర్లు భారీ context windows మరియు మెరుగైన reasoning సామర్థ్యంతో కొత్త మోడళ్లను శిక్షణ ఇస్తారు. ఈ మోడళ్లకు బోధించడానికి వారు ఇంటర్నెట్ యొక్క ఒక స్నాప్‌షాట్‌ను ఉపయోగిస్తారు. ఇందులో బ్లాగులు, ఫోరమ్‌లు, వార్తలు మరియు సోషల్ మీడియా ఉంటాయి.

కానీ ఇంటర్నెట్ మారుతోంది.

ఏళ్ల తరబడి, బాట్‌లు మరియు సమూహాలు భారీ స్థాయిలో కంటెంట్‌ను ప్రచురిస్తున్నాయి. ఇది కేవలం స్పామ్ మాత్రమే కాదు. ఇది చక్కగా వ్రాయబడిన కంటెంట్.

ఇంటర్నెట్ శిక్షణ డేటా (training data) కోసం ఒక యుద్ధభూమిగా మారుతోంది.

పాత ప్రచారాలు మనుషులను లక్ష్యంగా చేసుకునేవి. కొత్త ప్రచారాలు మోడళ్లను లక్ష్యంగా చేసుకుంటున్నాయి. ఒకసారి శిక్షణ డేటాలోకి ఒక పక్షపాతం (bias) ప్రవేశిస్తే, అది భవిష్యత్తులో రాబోయే మిలియన్ల కొద్దీ AI వ్యవస్థల లోపల నిలిచిపోతుంది.

మీరు ఆ నకిలీ కథనాన్ని ఎప్పటికీ చూడకపోవచ్చు. మీరు ఆ మార్చబడిన (manipulated) థ్రెడ్‌ను ఎప్పటికీ కనుగొనకపోవచ్చు. కానీ దాని ప్రభావం మాత్రం ఉంటుంది. అది ఒక డిఫాల్ట్ ఊహగా మారుతుంది. అది వినడానికి సరైన సమాధానంగా మారుతుంది.

Data poisoning అనేది కేవలం సాంకేతిక దాడి మాత్రమే కాదు. ఇది ఒక సూక్ష్మమైన మార్పు. ఇది మోడల్‌ను విచ్ఛిన్నం చేయదు, కానీ దాని దిశను మారుస్తుంది.

ఈ ప్రమాదాలను గమనించండి:

  • నకిలీ పేజీలు ప్రమాదకరమైన ఉత్పత్తిని సురక్షితమైనదిగా చూపిస్తాయి.
  • నకిలీ డెవలపర్ చాట్‌లు తప్పుడు కోడ్‌ను best practice లాగా చూపిస్తాయి.
  • రాజకీయ కథనాలు (political narratives) సంవత్సరాల ముందే నాటబడతాయి.
  • కృత్రిమ అభిప్రాయాలు (Synthetic opinions) భవిష్యత్తు అసిస్టెంట్‌ల గొంతుకగా మారుతాయి.

ప్రమాదం అనేది ఒకే ఒక అబద్ధం కాదు. ప్రమాదం అనేది వాస్తవికత యొక్క వక్రీకరించబడిన చిత్రం.

ప్రజలు ఇప్పుడు మానవ పాఠకుల కోసం కాకుండా, భవిష్యత్తు మోడళ్ల కోసం కంటెంట్‌ను వ్రాస్తున్నారు. ఒక బ్లాగ్ పోస్ట్ ఒక విత్తనం వంటిది. ఒక నకిలీ రివ్యూ ఒక సంకేతం వంటిది. వేల సంఖ్యలో చిన్న చిన్న అబద్ధాలు గణాంక సత్యాలుగా (statistical truth) మారుతాయి.

AI మన గందరగోళాన్ని మరియు మన తారుమారులను వారసత్వంగా పొందుతుంది. ఇంటర్నెట్ కలుషితమైతే, మోడళ్లు మన అత్యంత దారుణమైన వక్రీకరణలను నేర్చుకుంటాయి.

మనం ఒక కొత్త ప్రశ్న వేసుకోవాలి. మనం AIని సురక్షితంగా చేయగలమా అని మాత్రమే అడగకూడదు. AI నేర్చుకోవడానికి తగినంత సురక్షితంగా మన జ్ఞానాన్ని మనం కాపాడుకోగలమా అని కూడా అడగాలి.

ఈ విషయాన్ని తెలిసిన వ్యక్తులే నేటి ఇంటర్నెట్‌ను వ్రాస్తున్నారు.

Source: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km

Optional learning community: https://t.me/GyaanSetuAi