ചൊവ്വാഴ്ച അറ്റനിയോ ഡി സാംബോയാംഗ യുണിവേഴ്സിറ്റിയിലെ (Ateneo de Zamboanga University) ഒരു ക്ലാസ് മുറിയിലേക്ക് ഒരു ഹൈസ്കൂൾ വിദ്യാർത്ഥി അതിക്രമിച്ചു കയറി, രണ്ട് തോക്കുകൾ ഉപയോഗിച്ച് തന്റെ സഹപാഠിയെ വധിച്ച ശേഷം ആത്മഹത്യ ചെയ്തു – ഇതെല്ലാം ഒരു ബോഡി-വോൺ ക്യാമറ (body-worn camera) തത്സമയം സംപ്രേക്ഷണം ചെയ്തുകൊണ്ടിരിക്കെയാണ് സംഭവിച്ചത്. മറ്റ് രണ്ട് പേർക്ക് പരിക്കേറ്റു. അക്രമം നിറഞ്ഞ സംപ്രേക്ഷണങ്ങൾ എത്ര വേഗത്തിൽ ഓൺലൈൻ പ്ലാറ്റ്‌ഫോമുകൾക്ക് കണ്ടെത്താനും തടയാനും സാധിക്കും (അല്ലെങ്കിൽ സാധിക്കില്ല) എന്നതിനെക്കുറിച്ച് ഈ സംഭവം ഗൗരവമായ പുനർചിന്തയ്ക്ക് പ്രേരിപ്പിക്കുന്നു.

ലൈവ്‌സ്ട്രീമിംഗ് എന്തിനാണ് പ്രസക്തമാകുന്നത്

ആക്രമണം തത്സമയം സംപ്രേക്ഷണം ചെയ്തതിലൂടെ, അക്രമി ഒരു പ്രാദേശിക ദുരന്തത്തെ മിനിറ്റുകൾക്കുള്ളിൽ വീണ്ടും കാണാനും പങ്കുവെക്കാനും പ്രചരിപ്പിക്കാനും കഴിയുന്ന ഒരു ഡിജിറ്റൽ കാഴ്ചയായി മാറ്റി. ദോഷകരമായ ഉള്ളടക്കങ്ങൾ തിരിച്ചറിയാൻ ലൈവ് വീഡിയോ പ്ലാറ്റ്‌ഫോമുകൾ ഉപയോക്താക്കളുടെ റിപ്പോർട്ടുകളെയും ഓട്ടോമേറ്റഡ് ഡിറ്റക്ഷനെയും (automated detection) ആണ് ആശ്രയിക്കുന്നത്. ഈ സംഭവത്തിൽ, അധികൃതർക്ക് മരണവിവരം സ്ഥിരീകരിക്കുന്നതിന് മുമ്പ് തന്നെ സംപ്രേക്ഷണം തുടർന്നുപോയി, ഇത് നിലവിലുള്ള ടൂളുകൾക്ക് പരിഹരിക്കാൻ കഴിയാത്ത തത്സമയ മോഡറേഷൻ (real-time moderation) വിടവുകളെ തുറന്നുകാട്ടുന്നു.

തെക്കുകിഴക്കൻ ഏഷ്യയിൽ രൂപപ്പെട്ടുവരുന്ന ഒരു രീതി

സാംബോയാംഗയിലെ വെടിവെപ്പ് ഈ മേഖലയിലുടനീളം സ്കൂളുകളുമായി ബന്ധപ്പെട്ട തോക്ക് ആക്രമണങ്ങളുടെ പരമ്പരയിൽ ഒന്നാണ്. രണ്ടാഴ്ചയിൽ താഴെ മുമ്പ്, തായ്‌ലൻഡിലെ നോന്തബുരി പ്രവിശ്യയിൽ 14 വയസ്സുകാരൻ തന്റെ മുത്തശ്ശിമാരെയും അഞ്ച് സ്കൂൾ ജീവനക്കാരെയും ഒരു 12 വയസ്സുകാരിയെയും കൊലപ്പെടുത്തിയിരുന്നു. ഏഷ്യയിൽ പാകിസ്ഥാനൊഴികെ രണ്ടാമതാണ് തായ്‌ലൻഡിലെ തോക്ക് ഉടമസ്ഥതയുടെ നിരക്ക്, ഇത് കൂടുതൽ കർശനമായ നിയന്ത്രണങ്ങൾ പരിഗണിക്കാൻ പ്രധാനമന്ത്രിയെ പ്രേരിപ്പിച്ചിട്ടുണ്ട്. ഫിലിപ്പീൻസിലെ ഈ സംഭവം ഒരേ അടിസ്ഥാന പ്രശ്നത്തിന് ഒരു ഡിജിറ്റൽ മാനമാനം കൂടി നൽകുന്നു: ആയുധങ്ങളിലേക്കുള്ള എളുപ്പത്തിലുള്ള പ്രവേശനവും ഓൺലൈൻ പ്രശസ്തിക്കായുള്ള വർദ്ധിച്ചുവരുന്ന ആഗ്രഹവും.

സാങ്കേതികമായ അന്ധമായ ഇടം (Technical blind spot)

ലൈവ് സ്ട്രീമിംഗ് പ്ലാറ്റ്‌ഫോമുകൾ സാധാരണയായി ആയുധങ്ങൾ, രക്തം അല്ലെങ്കിൽ വേഗത്തിലുള്ള ചലനം എന്നിവയ്ക്കായി ഫ്രെയിമുകൾ പരിശോധിക്കുന്ന AI മോഡലുകളാണ് ഉപയോഗിക്കുന്നത്. അധ്യാപകന്റെ ഡെസ്കോ അല്ലെങ്കിൽ ഒരു സ്പോർട്സ് ബാഗോ ആയുധമായി തോന്നാൻ സാധ്യതയുള്ള സ്കൂൾ സാഹചര്യങ്ങളുടെ സൂക്ഷ്മതകൾ പലപ്പോഴും ഈ മോഡലുകൾക്ക് തിരിച്ചറിയാൻ കഴിയാത്ത ഡാറ്റാസെറ്റുകളെയാണ് അവ ആശ്രയിക്കുന്നത്. ലേറ്റൻസി (latency) ആവശ്യകതകൾ കാരണം സെക്കൻഡുകൾക്കുള്ളിൽ തീരുമാനമെടുക്കാൻ അൽഗോരിതം നിർബന്ധിതമാകുന്നു, ഇത് തെറ്റായ നിഗമനങ്ങളിലേക്ക് (false-negative rates) നയിച്ചേക്കാം. സാംബോയാംഗയിൽ, അക്രമി ഉപയോഗിച്ച ബോഡി ക്യാമറ ഒരു കൺസ്യൂമർ ഗ്രേഡ് പ്ലാറ്റ്‌ഫോം ആയിരിക്കാം, ഇത് പ്രൊഫഷണൽ ബ്രോഡ്കാസ്റ്റർമാർക്കായി മാറ്റിവെച്ചിട്ടുള്ള കർശനമായ പരിശോധനാ ഘട്ടങ്ങൾ ഒഴിവാക്കുന്നു.

മാരകമായ വെടിവെപ്പിന് മുമ്പ് സംപ്രേക്ഷണം തടയാൻ കഴിയാത്തത് മൂന്ന് സാങ്കേതിക പോരായ്മകളെ എടുത്തുകാണിക്കുന്നു:

  • സ്കൂൾ സാഹചര്യങ്ങൾക്കായി മതിയായ പരിശീലന ഡാറ്റയുടെ അഭാവം.
  • പുതിയ ഭീഷണി രീതികൾ ഉണ്ടാകുമ്പോൾ വേഗത്തിലുള്ള മോഡൽ അപ്‌ഡേറ്റുകൾക്കായുള്ള പരിമിതമായ ബാൻഡ്‌വിഡ്ത്ത്.
  • മുൻകരുതൽ നടപടികൾക്ക് പകരം സംഭവം നടന്നതിന് ശേഷമുള്ള മനുഷ്യ പരിശോധനയെ ആശ്രയിക്കുന്നത്.

സർക്കാരുകൾക്കും പ്ലാറ്റ്‌ഫോമുകൾക്കും നേരിടേണ്ടി വരുന്ന വെല്ലുവിളികൾ

ഒരു കൊലപാതകം തത്സമയം കാണിക്കാൻ പാകത്തിൽ ഒരു ലൈവ്‌സ്ട്രീമിംഗ് നിലനിൽക്കുന്നുണ്ടെങ്കിൽ, സമാനമായ മറ്റ് ആക്രമണങ്ങൾ നടക്കാനുള്ള സാധ്യത വർദ്ധിക്കുന്നു. യുവ പ്രേക്ഷകർ ഇതിനെ "ഡിജിറ്റൽ പ്രശസ്തി"യായി കാണக்கூടാം, അതേസമയം തീവ്രവാദ ഗ്രൂപ്പുകൾക്ക് പ്രചരണത്തിനായി ഈ ദൃശ്യങ്ങൾ ഉപയോഗിക്കാം. വേഗത്തിൽ ഉള്ളടക്കം നീക്കം ചെയ്യാൻ ആവശ്യപ്പെടാൻ സർക്കാരുകൾക്ക് സമ്മർദ്ദമുണ്ട്, എന്നാൽ അമിതമായ ഫിൽട്ടറിംഗ് നിയമപരമായ ഉള്ളടക്കങ്ങൾ തടയാനും അഭിപ്രായ സ്വാതന്ത്ര്യത്തെ ഹനിക്കാനും കാരണമായേക്കാം.

പ്ലാറ്റ്‌ഫോമുകൾക്ക് സൽപ്പേരിന് കളങ്കമുണ്ടാകാനും നിയന്ത്രണപരമായ പിഴകൾ നേരിടാനും സാധ്യതയുണ്ട്. കൂടുതൽ സങ്കീർണ്ണമായ AI ഉപയോഗിക്കുന്നത്—വലിയ മോഡലുകൾ, പ്രത്യേക മോഡറേഷൻ ടീമുകൾ, തത്സമയ മനുഷ്യ മേൽനോട്ടം—വളരെയധികം ചിലവേറിയതാണ്, പ്രത്യേകിച്ച് കുറഞ്ഞ ലാഭത്തിൽ പ്രവർത്തിക്കുന്ന സേവനങ്ങൾക്ക്. എങ്കിലും, സാംബോയാംഗ പോലുള്ള സംഭവങ്ങൾക്ക് ശേഷമുള്ള പൊതുജനരോഷം കർശനമായ നിയമങ്ങൾ കൊണ്ടുവരാൻ കാരണമായേക്കാം, ഇത് കമ്പനികളെ നേരത്തെ തന്നെ ഇതിനായി നിക്ഷേപിക്കാൻ പ്രേരിപ്പിക്കും.

എതിർവാദം: സ്വകാര്യതയും കൃത്യതയും സംബന്ധിച്ച ആശങ്കകൾ

AI അധിഷ്ഠിത ലൈവ് സ്ട്രീം മോഡറേഷൻ വ്യാപിപ്പിക്കുന്നത് ഉപയോക്താക്കളുടെ സ്വകാര്യതയെ ബാധിക്കുമെന്ന് വിമർശകർ മുന്നറിയിപ്പ് നൽകുന്നു. തത്സമയ ഫേഷ്യൽ റെക്കഗ്നിഷനോ (facial recognition) ഓഡിയോ വിശകലനമോ സാങ്കേതികമായി സാധ്യമാണെങ്കിലും, ഇത് ദശലക്ഷക്കണക്കിന് പ്രേക്ഷകരുടെ ബയോമെട്രിക് ഡാറ്റ ശേഖരിക്കാൻ കാരണമാകും. തെറ്റായ പോസിറ്റീവ് (false positives) റിപ്പോർട്ടുകൾ നൽകാനുള്ള സാധ്യതയുമുണ്ട്: ഉദാഹരണത്തിന്, പ്രഥമശുശ്രൂഷയെക്കുറിച്ചുള്ള ഒരു വീഡിയോ അബദ്ധവശാൽ അക്രമാസക്തമായ ഉള്ളടക്കമായി അടയാളപ്പെടുത്തപ്പെട്ടേക്കാം, ഇത് ഉപയോഗപ്രദമായ വിവരങ്ങൾ തടയാൻ കാരണമാകും. പുതിയ നിയമങ്ങൾ പരിഗണിക്കുമ്പോൾ സുരക്ഷയും പൗരസ്വാതന്ത്ര്യവും തമ്മിലുള്ള സന്തുലിതാവസ്ഥ വലിയ ചർച്ചാവിഷയമാകും.

മുന്നോട്ടുള്ള വഴി: വേഗത്തിൽ പഠിക്കുന്ന AI ടൂളുകൾ

സാംബോയാംഗ കേസ് രണ്ട് രീതിയിലുള്ള സമീപനം നിർദ്ദേശിക്കുന്നു:

  1. പ്രത്യേക മോഡൽ പരിശീലനം (Specialised model training) – തെറ്റായ മുന്നറിയിപ്പുകൾ ഒഴിവാക്കിക്കൊണ്ട് കൃത്യത വർദ്ധിപ്പിക്കുന്നതിനായി സ്കൂൾ പരിസരങ്ങൾ, വിദ്യാർത്ഥികളുടെ വസ്ത്രധാരണം, ക്ലാസ് മുറിയിലെ സാധാരണ വസ്തുക്കൾ എന്നിവ ഉൾപ്പെടുന്ന ഡാറ്റാസെറ്റുകൾ തയ്യാറാക്കുക.
  2. ഹൈബ്രിഡ് മോഡറേഷൻ (Hybrid moderation) – ഉയർന്ന റിസ്ക് ഉള്ള സ്ട്രീമുകൾ സിസ്റ്റം തിരിച്ചറിയുമ്പോൾ സെക്കൻഡുകൾക്കുള്ളിൽ ഇടപെടാൻ കഴിയുന്ന ചെറിയൊരു മനുഷ്യ പരിശോധക സംഘത്തെ AI-യോടൊപ്പം ചേർക്കുക. ഇത് സംഭവത്തിന് ശേഷമുള്ള വിശകലനത്തെ കുറയ്ക്കുകയും അൽഗോരിതം മെച്ചപ്പെടുത്താൻ സഹായിക്കുകയും ചെയ്യുന്നു.

എഡ്ജ് കമ്പ്യൂട്ടിംഗിലെ (edge-computing) നിക്ഷേപം—വീഡിയോ സെർവറിൽ എത്തുന്നതിന് മുമ്പ് ഉപയോക്താവിന്റെ ഉപകരണത്തിൽ തന്നെ പ്രാദേശികമായി പ്രോസസ്സ് ചെയ്യുന്നത്—ലേറ്റൻസി കുറയ്ക്കാൻ സഹായിക്കും, ഇത് ഉള്ളടക്കം ലൈവ് ആകുന്നതിന് മുമ്പ് തന്നെ ബ്ലോക്ക് ചെയ്യാനോ മങ്ങിക്കാണിക്കാനോ (blur) മോഡലിനെ അനുവദിക്കും.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

  • നിയന്ത്രണ നിർദ്ദേശങ്ങൾ: ലൈവ് സ്ട്രീമുകൾ നീക്കം ചെയ്യുന്നതിന് കുറഞ്ഞ പ്രതികരണ സമയം നിർബന്ധമാക്കാൻ സാധ്യതയുള്ള ഫിലിപ്പീൻസിലെയും അയൽരാജ്യങ്ങളിലെയും നിർദ്ദേശങ്ങൾ.
  • പ്ലാറ്റ്‌ഫോമുകളുടെ പുതിയ അവതരണങ്ങൾ: സ്കൂളുകളുമായി ബന്ധപ്പെട്ട ഉള്ളടക്കങ്ങൾ ലക്ഷ്യമിട്ടുള്ള പരിഷ്കരിച്ച AI മോഡറേഷൻ സംവിധാനങ്ങൾ നടപ്പിലാക്കൽ.
  • അക്കാദമിക് ഗവേഷണങ്ങൾ: ലൈവ് സ്ട്രീം ചെയ്ത അക്രമങ്ങൾ കൗമാരക്കാരായ പ്രേക്ഷകരിലുണ്ടാക്കുന്ന മാനസികാഘാതത്തെക്കുറിച്ചുള്ള പഠനങ്ങൾ, ഇത് ഭാവി നയരൂപീകരണത്തെ സ്വാധീനിച്ചേക്കാം.

അറ്റനിയോ ഡി സാംബോംഗയിലെ (Ateneo de Zamboanga) ദുരന്തം കാണിക്കുന്നത്, തോക്ക് ഉപയോഗിച്ചുള്ള അക്രമങ്ങളും ഡിജിറ്റൽ തീവ്രവാദവും നിലവിലുള്ള സുരക്ഷാ സംവിധാനങ്ങൾക്ക് കൈകാര്യം ചെയ്യാൻ കഴിയുന്നതിനേക്കാൾ വേഗത്തിൽ ഒത്തുചേരുന്നു എന്നാണ്. തത്സമയ മോഡറേഷൻ വിടവ് നികത്താൻ വേഗതയേറിയതും ബുദ്ധിപരമായതുമായ AI-യും, അത് മൂലമുണ്ടാകുന്ന സ്വകാര്യതയുമായി ബന്ധപ്പെട്ട വെല്ലുവിളികൾ നേരിടാനുള്ള സന്നദ്ധതയും ആവശ്യമാണ്. നടപടിയെടുക്കാതിരിക്കുന്നതിന്റെ വില എന്നത് നഷ്ടപ്പെട്ട ജീവനങ്ങളിൽ മാത്രമല്ല, ഭാവിയിലെ ആക്രമണകാരികൾക്ക് അവരുടെ കുറ്റകൃത്യങ്ങൾ ആഗോള പ്രേക്ഷകരിലേക്ക് എത്ര വേഗത്തിൽ സംപ്രേക്ഷണം ചെയ്യാൻ കഴിയും എന്നതിലുമാണ് അടങ്ങിയിരിക്കുന്നത്.