272 வல்லுநர்கள் அபாயங்களைக் குறிப்பிட்டனர். ஆனால் அவற்றின் செயல்பாட்டு முறைகளைக் (mechanisms) யாரும் குறிப்பிடவில்லை.

ஒரு MIT ஆய்வு 272 உலகளாவிய வல்லுநர்களிடம் கருத்துக்கணிப்பு நடத்தியது. அவர்கள் AI அபாயங்களை ஆராய்ந்தனர். அதன் முடிவுகள் தெளிவாக உள்ளன.

24 AI அபாயப் பகுதிகளில் 18வற்றில், அடுத்த ஐந்து ஆண்டுகளில் பேரழிவை ஏற்படுத்தும் விளைவுகள் ஏற்பட குறைந்தது 10% வாய்ப்பு உள்ளது.

இந்தச் சூழலில், பேரழிவு என்பது:

  • பத்து லட்சத்திற்கும் அதிகமான மரணங்கள்.
  • 100 பில்லியன் டாலருக்கும் அதிகமான சேதம்.
  • ஜனநாயக நெறிமுறைகளின் வீழ்ச்சி.

ஆபத்தான திறன்கள், போட்டித்தன்மை கொண்ட இயக்கவியல் (competitive dynamics), ஆயுதங்கள், அதிகார மையமாக்கல் மற்றும் தவறான தகவல்கள் ஆகியவை மிகப்பெரிய அபாயங்களாகும்.

இந்த ஆய்வு ஒரு பொறுப்பு இடைவெளியை (responsibility gap) வெளிப்படுத்துகிறது. AI அபாயங்களால் பாதிக்கப்படுபவர்கள் பொதுமக்கள். அந்த அபாயங்களைச் சரிசெய்யக்கூடியவர்கள் டெவலப்பர்கள் மற்றும் ஆட்சியாளர்கள். விமானப் போக்குவரத்து அல்லது அணுசக்தி போன்ற பிற தொழில்துறைகளில், இந்த இடைவெளியைக் குறைக்க கட்டாயத் தரநிலைகள் மற்றும் பொறுப்புக்கூறல் (liability) முறைகளைப் பயன்படுத்துகிறோம். ஆனால் AI துறையில், இத்தகைய வழிமுறைகள் இன்னும் இல்லை.

இன்னும் ஆழமான ஒரு இடைவெளி உள்ளது. அது தோல்விகளைக் கணிக்கும் ஆராய்ச்சியாளர்களுக்கும், அமைப்புகளை உருவாக்கும் பொறியாளர்களுக்கும் இடையில் உள்ளது.

ஆராய்ச்சியாளர்கள் ஆய்வுக் கட்டுரைகளை எழுதுகிறார்கள். பொறியாளர்கள் வலைப்பதிவுகள் (blog posts) மற்றும் பெஞ்ச்மார்க்குகளைப் (benchmarks) படிக்கிறார்கள். அவர்கள் ஒரே மொழியில் பேசவில்லை. ஒரு பொறியாளர் செயல்திறன் அதிகரிப்பைக் (performance boost) காண்கிறார். ஆனால் ஒரு ஆராய்ச்சியாளர் பேரழிவை ஏற்படுத்தும் அபாயத்தைக் காண்கிறார். அவர்களுக்கு இடையில் எந்தத் தொடர்பும் இல்லை.

இந்த ஆய்வு அபாயங்களைக் குறிப்பிடுகிறது, ஆனால் அவற்றைக் காரணியாகக் கொண்ட பொறியியல் தோல்விகளைக் குறிப்பிடவில்லை.

உதாரணமாக:

  • Multi-agent அபாயங்கள்: பொதுவான நெறிமுறைகள் (shared protocols) இல்லாதது அமைப்புகளுக்கு இடையிலான மோதல்களுக்கு வழிவகுக்கிறது.
  • போட்டித்தன்மை கொண்ட இயக்கவியல் (Competitive dynamics): விரைவாக வெளியிடும் அவசரத்தில், குழுக்கள் சுயாதீன சரிபார்ப்பைத் (independent verification) தவிர்க்கின்றன. அதற்குப் பதிலாக அவை சுய-சரிபார்ப்பைப் (self-verification) பயன்படுத்துகின்றன, இது வேகமானது ஆனால் பாதுகாப்பற்றது.
  • பாதுகாப்பு குறைபாடுகள் (Security vulnerabilities): குழுக்கள் குறியீடுகளை (code) ஸ்கேன் செய்ய LLM-களைப் பயன்படுத்துகின்றன, ஆனால் அவை கட்டமைப்பு (configuration) மற்றும் உள்கட்டமைப்பு (infrastructure) அபாயங்களைக் கவனிக்கத் தவறுகின்றன.

ஒரு நிலையான அமைப்புக்கு ஐந்து பகுதிகள் தேவை:

  • ஒரு கருவி (A Tool - the model).
  • ஒரு இயந்திரம் (An Engine - declared intent).
  • ஒரு கடத்தி (A Transmission - contracts and CI/CD).
  • ஒரு கட்டுப்பாட்டு அலகு (A Control Unit - an independent oracle).
  • ஒரு உறையமைப்பு (A Casing - enforced boundaries).

பெரும்பாலான AI அமைப்புகளில் கட்டுப்பாட்டு அலகு (Control Unit) மற்றும் உறையமைப்பு (Casing) இல்லை. அவை தன்னார்வ பாதுகாப்பு வளையங்களை (voluntary guardrails) மட்டுமே நம்பியிருக்கின்றன. மாதிரிகள் மேம்பட மேம்பட, இந்த பாதுகாப்பு வளையங்கள் பெரும்பாலும் செயலிழந்துவிடுகின்றன.

10% பேரழிவு வாய்ப்பை இந்தத் தொழில் துறை ஒரு ஏற்றுக்கொள்ளத்தக்க அபாயமாகக் கருதுகிறது. அது உண்மையில் ஏற்றுக்கொள்ளத்தக்கது அல்ல. டெவலப்பர்களிடமிருந்து வரும் தன்னார்வ நடவடிக்கைகள் போதுமானவை அல்ல. போட்டித்தன்மை, பாதுகாப்புப் படிகளைத் தவிர்க்கத் தூண்டும் ஒரு ஊக்கத்தை உருவாக்குகிறது.

நமக்குத் தேவை வெறும் ஆலோசனைகள் மட்டுமல்ல, இயந்திரவியல் ரீதியான அமலாக்கம் (mechanical enforcement) தேவை. கணிக்கப்பட்ட தோல்விகள் நடப்பதற்கு முன்பே, அபாய ஆராய்ச்சிக்கும் பொறியியல் நடைமுறைக்கும் இடையிலான இடைவெளியைக் குறைக்க வேண்டும்.

Source: https://dev.to/bala_paranj_059d338e44e7e/272-experts-named-the-risks-nobody-named-the-mechanisms-4jb

Optional learning community: https://t.me/GyaanSetuAi