AI-க்கான மிகப்பெரிய ஆபத்து

விழித்துக்கொள்ளும் ஒரு இயந்திரத்தைக் கண்டு பெரும்பாலான மக்கள் அஞ்சுகிறார்கள்.

உண்மையான ஆபத்து மிகவும் அமைதியானது.

AI மிகவும் புத்திசாலியாக மாறுவதால் தோல்வியடையாது. மாறாக, அது கற்றுக்கொள்ளும் தரவுகளை நாம் விஷமாக்குவதால் (poison) அது தோல்வியடையக்கூடும்.

2029-க்குள், மாதிரிகள் (models) இன்னும் பெரிதாக இருக்கும். அவை சிறந்த தர்க்கரீதியான சிந்தனையையும் (reasoning) அதிக ஏஜென்ட்களையும் கொண்டிருக்கும். நிறுவனங்கள் அவற்றைத் தாராளமாக நம்பும்.

இந்த மாதிரிகள் இணையத்தின் மூலம் பயிற்சியளிக்கப்படுகின்றன. அவை வலைப்பதிவுகள் (blogs), மன்றங்கள் (forums), சமூக ஊடகங்கள் மற்றும் ஆராய்ச்சித் தாள்களைப் படிக்கின்றன.

ஆனால் இணையம் மாறிக்கொண்டிருக்கிறது.

பாட்கள் (Bots), நிறுவனங்கள் மற்றும் அரசியல் குழுக்கள் இப்போது மிகப்பெரிய அளவில் உள்ளடக்கங்களை வெளியிடுகின்றன. அவை வெறும் ஸ்பேம் (spam) செய்திகளை மட்டும் பதிவிடுவதில்லை. நன்கு எழுதப்பட்ட, நம்பகமான உள்ளடக்கங்களையே அவை பதிவிடுகின்றன.

இணையம் பயிற்சித் தரவுத் தொகுப்புகளுக்கான (training datasets) ஒரு போர்க்களமாக மாறிவருகிறது.

பாரம்பரிய பிரச்சாரங்கள் மக்களை இலக்கு வைக்கின்றன. AI உலகில், இலக்கு அந்த மாதிரியே (model) ஆகும்.

ஒரு பொய் அல்லது ஒரு சார்புநிலை (bias) பயிற்சித் தரவுக்குள் நுழைந்தால், அது AI-இன் ஒரு பகுதியாகிவிடும். அது ஒரு மேற்கோளாக மட்டும் நின்றுவிடாது. அது ஒரு இயல்பான அனுமானமாக (default assumption) மாறிவிடும். அது சரியாகத் தோன்றும் பதிலாக மாறிவிடும்.

இது வெறும் தொழில்நுட்பத் தாக்குதல் மட்டுமல்ல. இது ஒரு நுட்பமான மாற்றம்.

மாதிரியை உடைப்பதே இதன் நோக்கம் அல்ல. அதை வளைப்பதே இதன் நோக்கம்.

இந்த அபாயங்களைக் கவனியுங்கள்:

  • ஆயிரக்கணக்கான போலிப் பக்கங்கள் ஒரு தயாரிப்பு பாதுகாப்பானது போலக் காட்டும்.
  • போலி டெவலப்பர் உரையாடல்கள் பாதுகாப்பற்ற குறியீட்டை (insecure code) ஒரு சிறந்த நடைமுறையாகக் காட்டும்.
  • அரசியல் கதைகள் ஒரு தேர்தலுக்கு பல ஆண்டுகளுக்கு முன்பே விதைக்கப்படுகின்றன.
  • செயற்கையான கருத்துக்கள் எதிர்கால உதவியாளர்களின் குரலாக மாறும்.

ஆபத்து என்பது ஒரு பொய் மட்டுமல்ல. ஆபத்து என்பது யதார்த்தத்தின் சிதைந்த வரைபடம் (distorted map of reality) ஆகும்.

இணையம் தகவல் தொடர்பு மற்றும் வணிகத்திற்காக உருவாக்கப்பட்டது. அது ஒரு தூய்மையான தரவுத் தொகுப்பாக (clean dataset) இருப்பதற்காக உருவாக்கப்படவில்லை.

மக்கள் இப்போது மனித வாசகர்களுக்காக எழுதாமல், எதிர்கால மாதிரிகளுக்காக எழுதுகிறார்கள்.

  • ஒரு வலைப்பதிவு ஒரு விதையாக மாறுகிறது.
  • ஒரு போலி விமர்சனம் ஒரு பயிற்சி சமிக்ஞையாக (training signal) மாறுகிறது.
  • ஒரு தொழில்நுட்பக் கட்டுரை ஒரு நடத்தை சார்ந்த ஆலோசனையாக (behavioral suggestion) மாறுகிறது.

ஆயிரம் சிறிய பொய்கள் புள்ளிவிவர உண்மையாக (statistical truth) மாறிவிடுகின்றன.

AI நமது ஆவணங்கள், நமது இரைச்சல்கள் மற்றும் நமது கையாளுதல்களைப் பெறுகிறது. இணையம் தொடர்ந்து மாசுபட்டிருந்தால், மாதிரிகள் நமது சிதைவுகளிலிருந்தே கற்றுக்கொள்ளும்.

கேள்வி "AI-ஐ எவ்வாறு பாதுகாப்பானதாக மாற்றுவது?" என்பது மட்டுமல்ல.

உண்மையான கேள்வி "AI கற்றுக்கொள்வதற்காக நமது அறிவை எவ்வாறு பாதுகாப்பாக வைத்திருப்பது?" என்பதாகும்.

நாளைய மாதிரிகள் இன்றைய இணையத்திலிருந்து கற்றுக்கொள்கின்றன. மேலும் மக்கள் ஏற்கனவே அந்த மாதிரிகளுக்காக எழுதத் தொடங்கிவிட்டார்கள்.

மூலம்: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km