கடந்த செவ்வாய்க்கிழமை, அத்தேனியோ டி சம்போங்கா பல்கலைக்கழகத்தில் (Ateneo de Zamboanga University) ஒரு உயர்நிலைப்பள்ளி மாணவர் வகுப்பறைக்குள் புகுந்து, இரண்டு துப்பாக்கிகளைக் காட்டி, தனது சக மாணவரைக் கொன்றுவிட்டு, பின்னர் தானும் உயிரிழந்தார் – இவை அனைத்தும் ஒரு உடல் அணிந்த கேமரா (body-worn camera) மூலம் நேரலையாக ஒளிபரப்பப்பட்டது. மேலும் இரண்டு பேர் காயமடைந்தனர். இந்தச் சம்பவம், இணையதளத் தளங்கள் வன்முறை ஒளிபரப்புகளை எவ்வளவு விரைவாகக் கண்டறிந்து தடுக்க முடியும் அல்லது தடுக்கத் தவறிவிடுகின்றன என்பதைத் தீவிரமாக ஆராயத் தூண்டுகிறது.
நேரலை ஒளிபரப்பு ஏன் முக்கியமானது
தாக்குதலைத் நேரலையாக ஒளிபரப்பியதன் மூலம், அந்த Shooter ஒரு உள்ளூர்த் துயரத்தை, சில நிமிடங்களிலேயே மீண்டும் பார்க்கக்கூடிய, பகிரக்கூடிய மற்றும் பரப்பக்கூடிய ஒரு டிஜிட்டல் காட்சியாக மாற்றினார். நேரலை வீடியோ தளங்கள், தீங்கு விளைவிக்கும் உள்ளடக்கங்களைக் கண்டறிய பயனர் புகார்கள் மற்றும் தானியங்கி கண்டறிதல் முறைகளைச் சார்ந்துள்ளன. இந்தச் சம்பவத்தில், அதிகாரிகள் உயிரிழப்பை உறுதிப்படுத்தும் முன்பே ஒளிபரப்பு நீண்ட நேரம் நீடித்தது, இது தற்போதுள்ள கருவிகளால் நிரப்ப முடியாத நேரடித் தணிக்கையில் (real-time moderation) உள்ள இடைவெளியை வெளிச்சம் போட்டுக் காட்டுகிறது.
தென்கிழக்கு ஆசியாவில் உருவாகும் ஒரு போக்கு
சம்போங்கா துப்பாக்கிச் சூடு சம்பவம், இப்பிராந்தியத்தில் பள்ளிகள் தொடர்பான துப்பாக்கித் தாக்குதல்களின் தொடர்ச்சியாக அமைகிறது. இதற்கு இரண்டு வாரங்களுக்கும் முன்னதாக, தாய்லாந்தின் நோந்தபுரி மாகாணத்தில் 14 வயது சிறுவன் தனது தாத்தா பாட்டிகளையும், ஐந்து பள்ளி ஊழியர்களையும் மற்றும் 12 வயது சிறுமியையும் கொன்றான். ஆசியாவிலேயே பாகிஸ்தானுக்கு அடுத்தபடியாகத் தாய்லாந்தின் துப்பாக்கி வைத்திருக்கும் விகிதம் அதிகமாக இருப்பதால், பிரதமர் கடுமையான கட்டுப்பாடுகளைக் கொண்டு வரக் கருதுகிறார். பிலிப்பைன்ஸ் சம்பவம், துப்பாக்கிகளை எளிதாகப் பெறுதல் மற்றும் இணையத்தில் புகழ் பெற வேண்டும் என்ற ஆசை போன்ற அடிப்படைப் பிரச்சினைகளுக்கு ஒரு டிஜிட்டல் பரிமாணத்தைச் சேர்க்கிறது.
தொழில்நுட்பக் குருட்டுத்தன்மை
நேரலை ஒளிபரப்புத் தளங்கள் பொதுவாக ஆயுதங்கள், இரத்தம் அல்லது வேகமான அசைவுகளைக் கண்டறிய AI மாதிரிகளைப் பயன்படுத்துகின்றன. அந்த மாதிரிகள் பெரும்பாலும் பள்ளிச் சூழலின் நுணுக்கங்களைக் கண்டறியத் தவறிவிடுகின்றன; உதாரணமாக, ஒரு ஆசிரியரின் மேசை அல்லது ஒரு விளையாட்டுப் பை ஒரு ஆயுதமாகத் தெரியலாம். தாமதத்தைக் குறைக்க (latency requirements), அல்காரிதம் நொடிப் பொழுதில் முடிவெடுக்க வேண்டியுள்ளது, இது தவறான எதிர்மறை விகிதங்களை (false-negative rates) அதிகரிக்கிறது. சம்போங்காவில், அந்த Shooter பயன்படுத்திய உடல் கேமரா, தொழில்முறை ஒளிபரப்பாளர்களுக்காக ஒதுக்கப்பட்ட கடுமையான சரிபார்ப்புப் படிகளைத் தவிர்த்து, சாதாரண நுகர்வோர் தரத்திலான (consumer-grade) தளத்தைப் பயன்படுத்தியிருக்கலாம்.
உயிரிழப்பு ஏற்படும் முன் ஒளிபரப்பைத் தடுக்கத் தவறியது மூன்று தொழில்நுட்பக் குறைபாடுகளைச் சுட்டிக்காட்டுகிறது:
- பள்ளிச் சூழல் தொடர்பான காட்சிகளுக்கான போதுமான பயிற்சித் தரவுகள் (Insufficient training data) இல்லாமை.
- புதிய அச்சுறுத்தல் முறைகள் உருவாகும்போது, மாதிரிகளை விரைவாகப் புதுப்பிப்பதற்கான வரையறுக்கப்பட்ட அலைவரிசை (Limited bandwidth).
- முன்கூட்டியே தடுப்பதற்குப் பதிலாக, சம்பவத்திற்குப் பிந்தைய மனித ஆய்வைச் சார்ந்திருத்தல்.
அரசாங்கங்கள் மற்றும் தளங்களுக்கு உள்ள சவால்கள்
ஒரு நேரலை ஒளிபரப்பு ஒரு கொலையைத் தடையின்றிப் பதிவு செய்யும் அளவுக்கு நீடித்தால், அதே போன்ற தாக்குதல்கள் (copycat attacks) நடக்க வாய்ப்பு அதிகம். இளம் பார்வையாளர்கள் இதை "டிஜிட்டல் புகழ்" என்று கருதலாம், அதே நேரத்தில் தீவிரவாதக் குழுக்கள் இதைப் பிரச்சாரத்திற்காகப் பயன்படுத்திக்கொள்ளலாம். அரசாங்கங்கள் விரைவாகத் தணிக்கை செய்யக் கோரும் அழுத்தத்தை உணர்கின்றன, ஆனால் தீவிரமான வடிகட்டுதல் முறைகள் முறையான உள்ளடக்கங்களைத் தடுப்பதற்கும் சுதந்திரமான கருத்துச் சுதந்திரத்தைப் பாதிப்பதற்கும் வழிவகுக்கும்.
தளங்கள் தங்கள் நற்பெயருக்குப் பாதிப்பு மற்றும் ஒழுங்குமுறைத் தண்டனைகளைச் சந்திக்க நேரிடும். மிகவும் மேம்பட்ட AI-களைப் பயன்படுத்துவது—பெரிய மாதிரிகள், பிரத்யேகத் தணிக்கைக் குழுக்கள், நேரடி மனித மேற்பார்வை—அதிகச் செலவு பிடிக்கும் விஷயமாகும், குறிப்பாகக் குறைந்த லாபத்தில் இயங்கும் சேவைகளுக்கு இது கடினம். இருப்பினும், சம்போங்கா போன்ற சம்பவங்களுக்குப் பிறகு ஏற்படும் பொதுமக்களின் எதிர்ப்பு, கடுமையான விதிமுறைகளாக மாறக்கூடும், இது நிறுவனங்களை விரைவாக முதலீடு செய்யத் தூண்டும்.
எதிர்வாதம்: தனியுரிமை மற்றும் துல்லியம் குறித்த கவலைகள்
AI மூலம் நேரலைத் தணிக்கையை விரிவுபடுத்துவது பயனர்களின் தனியுரிமையைப் பாதிக்கும் என்று விமர்சகர்கள் எச்சரிக்கின்றனர். நிகழ்நேர முக அங்கீகாரம் (facial recognition) அல்லது ஆடியோ பகுப்பாய்வு தொழில்நுட்ப ரீதியாகச் சாத்தியம் என்றாலும், இது மில்லியன் கணக்கான பார்வையாளர்களின் உயிரியல் தரவுகளைச் (biometric data) சேகரிக்கும். மேலும், தவறான முடிவுகள் எடுக்கும் அபாயமும் உள்ளது: முதலுதவி குறித்த ஒரு வீடியோ தவறுதலாக வன்முறையாகக் கருதப்பட்டுத் தடுக்கப்படலாம். பாதுகாப்பு மற்றும் சிவில் உரிமைகளுக்கு இடையிலான சமநிலையைத் தீர்மானிப்பதே புதிய விதிகளை வகுக்கும்போது முக்கிய விவாதமாக இருக்கும்.
முன்னோக்கிச் செல்லும் வழி: விரைவாகக் கற்கும் AI கருவிகள்
சம்போங்கா வழக்கு இரண்டு அம்சங்களைக் கொண்ட அணுகுமுறையை முன்மொழிகிறது:
- சிறப்பு மாதிரிப் பயிற்சி (Specialised model training) – தவறான எச்சரிக்கைகளைத் தவிர்த்து, கண்டறிதல் துல்லியத்தை மேம்படுத்த பள்ளியின் உட்புறங்கள், மாணவர்களின் உடை மற்றும் பொதுவான வகுப்பறைப் பொருட்களை உள்ளடக்கிய தரவுத் தொகுப்புகளைத் தயார் செய்தல்.
- கலப்புத் தணிக்கை (Hybrid moderation) – AI உடன், சிறிய மற்றும் எப்போதும் பணியில் இருக்கும் மனிதத் தணிக்கையாளர் குழுவை இணைத்தல். இதன் மூலம் அமைப்பு அதிக ஆபத்துள்ள ஒளிபரப்புகளைக் கண்டறியும்போது, அவர்கள் சில நொடிகளில் தலையிட முடியும். இது சம்பவத்திற்குப் பிந்தைய ஆய்வைச் சார்ந்திருப்பதைக் குறைத்து, அல்காரிதத்தை மேம்படுத்த ஒரு பின்னூட்டச் சுழற்சியை (feedback loop) உருவாக்குகிறது.
எட்ஜ்-கம்பியூட்டிங்கில் (edge-computing) முதலீடு செய்வது—அதாவது வீடியோ சர்வரைச் சென்றடைவதற்கு முன்பே பயனரின் சாதனத்திலேயே அதைச் செயலாக்குவது—தாமதத்தைக் குறைக்க உதவும். இது வீடியோ நேரலையாகப் பரவுவதற்கு முன்பே உள்ளடக்கத்தைத் தடுக்க அல்லது மங்கலாக்க (blur) உதவும்.
அடுத்து கவனிக்க வேண்டியவை
- ஒழுங்குமுறை முன்மொழிவுகள்: பிலிப்பைன்ஸ் மற்றும் அண்டை நாடுகளில் நேரலை ஒளிபரப்புகளை நீக்குவதற்கு (live-stream takedowns) குறைந்தபட்ச பதில் நேரங்களைக் கட்டாயமாக்கக்கூடிய முன்மொழிவுகள்.
- தளங்களின் அறிமுகங்கள்: பள்ளி தொடர்பான உள்ளடக்கங்களைக் குறிவைத்து மேம்படுத்தப்பட்ட AI கட்டுப்பாடு (moderation) தொகுதிகளை அறிமுகப்படுத்துதல்.
- கல்விசார் ஆராய்ச்சி: வளரிளம் பருவத்தினர் பார்வையாளர்கள் மீது நேரலை வன்முறையின் உளவியல் தாக்கம் குறித்த ஆராய்ச்சி, இது எதிர்காலக் கொள்கைகளை வடிவமைக்கக்கூடும்.
அத்தேனியோ டி சம்போங்காவில் (Ateneo de Zamboanga) நடந்த துயரம், துப்பாக்கி வன்முறை மற்றும் டிஜிட்டல் தீவிரமயமாக்கல் ஆகியவை தற்போதைய பாதுகாப்பு வலைகளால் கையாள முடிவதை விட வேகமாக ஒன்றிணைந்து வருவதைக் காட்டுகிறது. நிகழ்நேரக் கட்டுப்பாட்டு இடைவெளியைக் குறைப்பதற்கு வேகமான, புத்திசாலித்தனமான AI மற்றும் அதனால் ஏற்படும் தனியுரிமைச் சவால்களை (privacy trade-offs) எதிர்கொள்ளும் மனப்பக்குவம் தேவைப்படும். நடவடிக்கை எடுக்கத் தவறுவதால் ஏற்படும் பாதிப்பு என்பது இழக்கப்பட்ட உயிர்களால் மட்டுமல்ல, எதிர்காலத் தாக்குதல் நடத்துபவர்கள் தங்கள் குற்றங்களை உலகளாவிய பார்வையாளர்களுக்கு எவ்வளவு வேகத்தில் ஒளிபரப்ப முடியும் என்பதிலும் அளவிடப்படுகிறது.