உங்கள் Discord கணக்கு நிரந்தரமாக நீக்கப்பட்டுவிட்டது என்று ஒரு மின்னஞ்சலுடன் நீங்கள் விழித்தெழுகிறீர்கள். அதற்குக் காரணம் என்ன? நீங்கள் ஒரு spreadsheet-ன் ஸ்கிரீன்ஷாட்டைப் பகிர்ந்துள்ளீர்கள், ஒரு சதுரங்கப் பலகையின் (chessboard) படத்தை பதிவேற்றியுள்ளீர்கள் அல்லது வெளிப்படையான பின்னணியைக் (transparent background) கொண்ட ஒரு கோப்பைப் பதிவேற்றியுள்ளீர்கள். மே மாதம் முதல் 8,000-க்கும் மேற்பட்ட மக்களுக்கு, இது ஒரு பயங்கரமான கனவு அல்ல, மாறாக நிஜமான ஒரு காலைப் பொழுது. பாதிக்கப்பட்ட பயனர்கள் சந்தேகித்ததை Discord உறுதி செய்துள்ளது: தளத்தின் தானியங்கி பாதுகாப்பு அமைப்பில் (automated safety systems) இருந்த ஒரு கடுமையான பிழை (bug), முற்றிலும் பாதிப்பற்ற படங்களை சட்டவிரோத உள்ளடக்கமாகத் தவறாக அடையாளம் கண்டு, அவற்றை பதிவேற்றியவர்களை நிரந்தரமாகத் தடை செய்துவிட்டது.
பிழையும் விடுபட்ட மனிதக் கண்காணிப்பும்
Discord-ன் பெரிய அளவிலான உள்ளடக்கக் கட்டுப்பாடு (content moderation), பதிவேற்றப்பட்ட படங்களை அறியப்பட்ட தீங்கு விளைவிக்கும் பொருட்களின் தரவுத்தளங்களுடன் ஒப்பிடுவதற்குத் தானியங்கி ஸ்கேனிங்கையே நம்பியுள்ளது. சாதாரண சூழ்நிலைகளில், அமைப்பு ஒரு சாத்தியமான பொருத்தத்தைக் கண்டறியும்போது, கடுமையான நடவடிக்கை எடுப்பதற்கு முன் ஒரு மனிதக் கண்காணிப்பாளர் (human moderator) அதை ஆய்வு செய்யத் தெரிவிக்கப்படும். தானியங்கி அமைப்புகள் தவறுகள் செய்வதால் தான் அந்த மனிதக் கண்காணிப்புத் தேவைப்படுகிறது. சூழல் (Context) மிக முக்கியமானது. ஒரு தீய படம் மற்றும் மேலோட்டமான காட்சி ஒற்றுமைகளைக் கொண்ட ஒரு சாதாரண கோப்பு ஆகியவற்றிற்கு இடையிலான வேறுபாட்டை ஒரு இயந்திரத்தால் கண்டறிய முடியாது.
இருப்பினும், அமைப்பின் கட்டமைப்பில் இருந்த ஒரு முக்கியமான குறைபாடு அந்தத் தொடர்ச்சியைத் துண்டித்தது. அடையாளப்படுத்தப்பட்ட உள்ளடக்கத்தை மனித ஆய்விற்காக வரிசைப்படுத்துவதற்குப் பதிலாக, அந்தப் பிழை தானியங்கி முறையை நேரடியாக நிரந்தரக் கணக்குத் தடையை நோக்கி நகர்த்தியது. இரண்டு மாதங்களுக்கும் மேலாக, இந்தத் தவறு செயல்பாட்டில் இருந்ததால், 8,000-க்கும் மேற்பட்ட கணக்குகள் பாதிக்கப்பட்டன. Discord-ன் பொறியியல் குழு இறுதியாகப் பிரச்சினையைக் கண்டறிந்து சரிசெய்தல் (patch) செய்வதற்கு முன்பு, ஒரே வார இறுதியில் மேலும் 200 தவறானத் தடைகள் ஏற்பட்டதால் நிலைமை மோசமடைந்தது. பாதிக்கப்பட்ட அனைத்துக் கணக்குகளையும் மீட்டெடுக்கும் பணியில் தற்போது ஈடுபட்டுள்ளதாக நிறுவனம் கூறுகிறது, இருப்பினும் பல பயனர்களுக்குத் தளத்தின் மீதான நம்பிக்கை ஏற்கனவே சிதைந்துவிட்டது.
இங்குள்ள செயல்பாடுகளைப் புரிந்துகொள்வது அவசியம். இது ஒரு AI தவறாகக் கணித்ததற்கும், ஒரு மனிதன் அதை ஏற்றுக்கொண்டதற்கும் இடையிலான விஷயம் அல்ல. இறுதிச் சரிபார்ப்பாகச் செயல்படும் 'human-in-the-loop' நெறிமுறை, ஒரு தொழில்நுட்பக் குறைபாட்டால் முற்றிலும் தவிர்க்கப்பட்டது. அந்த வேறுபாடு முக்கியமானது. மனித ஆய்வாளர்கள் விசித்திரமான நிகழ்வுகளைக் (edge cases) கண்டறிவார்கள் என்று கூறி, தளங்கள் பெரும்பாலும் தீவிரமான தானியங்கி முறைகளைப் பாதுகாக்கின்றன. ஆனால், அந்தப் பாதுகாப்பு முறைகள் அவற்றைச் செயல்படுத்தும் குறியீட்டைப் (code) பொறுத்தே நம்பகமானவை என்பதை இந்தச் சம்பவம் நிரூபிக்கிறது.
கட்டங்கள் (Grids) ஏன் இயந்திரத்தை குழப்பின?
தவறானத் தடைகளுக்கு மத்தியில், ஒரு விசித்திரமான முறை வெளிப்பட்டது. சதுரக் கட்ட அமைப்புகளைக் (square grid patterns) கொண்ட படங்கள் தடையை ஏற்படுத்துவதாக X மற்றும் Reddit பயனர்கள் மீண்டும் மீண்டும் தெரிவித்தனர். சதுரங்கப் பலகைகள், spreadsheets, கேம் டெக்ஸ்சர்கள் (game textures), பயனர் இடைமுகக் கூறுகள் (user interface elements) - இவை தற்செயலான பிழைகள் அல்ல; மாறாக ஒரு குறிப்பிட்ட தந்திரத்தைக் கண்டறிய மிகத் தீவிரமாகத் தயார் செய்யப்பட்ட ஒரு மாதிரியின் (model) அறிகுறியாகும்.
சட்டவிரோத உள்ளடக்கங்களை விநியோகிப்பவர்கள், தானியங்கி கண்டறிதல் அமைப்புகளை ஏமாற்ற நீண்டகாலமாக முயற்சி செய்து வருகின்றனர். அல்காரிதம்கள் (algorithms) படங்களைப் பார்க்கும் விதத்தை மாற்றியமைக்க, ஆபாசமான படங்களின் மேல் காட்சித் திரைகள் (visual overlays), இரைச்சல் (noise) அல்லது கட்டம் போன்ற அமைப்புகளைப் பயன்படுத்துவது ஒரு பொதுவான முறையாகும். இதற்குப் பதிலளிக்கும் விதமாக, இத்தகைய மறைக்கும் நுட்பங்களைக் கண்டறியத் தளங்கள் இயல்பாகவே தங்கள் மாதிரிகளைத் தீவிரப்படுத்துகின்றன. Discord-ம் அதையே செய்திருக்கலாம், ஆனால் அதன் உணர்திறன் அளவு (sensitivity threshold) தவறான இடத்தில் அமைந்திருந்தது. சாதாரணக் கட்ட அமைப்புகளைக் கூட சட்டவிரோதப் பொருட்களுக்கான மறைமுகத் தந்திரமாகக் கருதி இந்த அமைப்பு செயல்படத் தொடங்கியது.
இதன் விளைவாக ஒரு வகையான டிஜிட்டல் தற்காப்புத் தாக்குதல் (digital autoimmune response) ஏற்பட்டது. தளத்தின் பாதுகாப்பு முறைகள் மிகவும் தீவிரமடைந்து, சாதாரணப் பயனர்களின் முறையான உள்ளடக்கங்களையே தாக்கத் தொடங்கின. ஒரு சதுரங்கப் பலகை என்பது தந்திரமான மறைப்பு முறை அல்ல. நேர்த்தியாகத் தொகுக்கப்பட்ட Excel ஸ்கிரீன்ஷாட் என்பது மறைமுகமான அச்சுறுத்தல் அல்ல. இருப்பினும், மிகத் தீவிரமாகத் தயார் செய்யப்பட்ட ஒரு பொருத்தம் பார்க்கும் அல்காரிதத்திற்கு (matching algorithm), அந்தத் தோற்றம் உடனடியாகத் தடையை ஏற்படுத்தும் அளவுக்குப் போலவே தெரிந்தது. கண்காணிப்பாளர்களுக்கும் தீய சக்திகளுக்கும் இடையிலான இந்தத் தொடர் போட்டியில், அளவுத்திருத்தம் (calibration) சற்றே மாறினாலும் அது எவ்வாறு தேவையற்ற பாதிப்புகளை (collateral damage) ஏற்படுத்தும் என்பதற்கு இது ஒரு தெளிவான உதாரணம்.
தவறான முடிவின் விலை
ஒரு சமூகத் தளத்தில் ஏற்படும் தவறானத் தடை என்பது வெறும் அசௌகரியம் மட்டுமல்ல. பெருகி வரும் பலருக்கு, Discord ஒரு முக்கியமான உள்கட்டமைப்பாக (critical infrastructure) செயல்படுகிறது. டெவலப்பர்கள் அங்கு ஆதரவு சேவையகங்களை (support servers) நடத்துகிறார்கள். தனிப்பட்ட கேம் ஸ்டுடியோக்கள் (Indie game studios) தங்கள் சமூகங்களையும் பீட்டா சோதனைகளையும் (beta testing) அதன் மூலம் நிர்வகிக்கின்றன. தொலைதூரக் குழுக்கள் (Remote teams) தனிப்பட்ட பணி இடங்களிலேயே இணைந்து செயல்படுகின்றன. கேமர்கள் பல ஆண்டுகள் மற்றும் கண்டங்கள் கடந்த நட்பைத் தக்கவைத்துக் கொள்கிறார்கள். ஒரு கணக்கை இழப்பது என்பது வெறும் அரட்டை வரலாற்றை (chat history) இழப்பது மட்டுமல்ல; அது தொழில்முறை உறவுகளைத் துண்டிக்கலாம், சமூகங்களைச் சிதைக்கலாம் மற்றும் Nitro சந்தாக்கள் அல்லது ஒருங்கிணைக்கப்பட்ட கேம் கொள்முதல் மூலம் பயனர்கள் கணிசமான பணம் மற்றும் நேரத்தைச் செலவிட்ட சேவைகளிலிருந்து அவர்களைத் தடுக்கலாம்.
இந்தச் சம்பவம் தளங்களின் பொறுப்புக்கூறல் (platform accountability) குறித்த ஒரு பரந்த சூழலையும் உள்ளடக்கியது. விளக்க முடியாத கணக்குத் தடைகள் (account suspensions) குறித்து Meta தொடர்ச்சியான ஆய்வுக்கு உள்ளாகியுள்ளது; தானியங்கி முடிவுகள் (automated decisions) எவ்வாறு எடுக்கப்படுகின்றன மற்றும் அவற்றுக்கு எவ்வாறு மேல்முறையீடு செய்யலாம் என்பது குறித்த அதிகப்படியான வெளிப்படைத்தன்மைக்காக அதன் சொந்த Oversight Board அழுத்தம் கொடுத்து வருகிறது. Discord-ன் தோல்வி அந்த சர்ச்சையை ஒரு முக்கியமான வழியில் பிரதிபலிக்கிறது: தானியங்கி முறை தவறாகும்போது, பயனர்கள் பெரும்பாலும் ஒரு வெற்றிடத்திற்குள் கத்துவது போன்ற நிலையில் தவிக்கிறார்கள்; தானியங்கி பதில்களைத் தரும் படிவங்களுக்கு மேல்முறையீடு செய்கிறார்கள், ஆனால் அந்தத் தவறைச் சரிசெய்யக்கூடிய ஒரு மனிதரைத் தொடர்பு கொள்ள தெளிவான வழி ஏதும் இருப்பதில்லை.
டெவலப்பர்கள் மற்றும் AI ஆராய்ச்சியாளர்களுக்கு, இதிலிருந்து கிடைக்கும் பாடம் கட்டமைப்பு ரீதியானது (architectural). "Human-in-the-loop" என்பது ஒரு வலைப்பதிவில் (blog post) செய்யப்படும் கொள்கை வாக்குறுதியாக மட்டும் இருக்கக்கூடாது. அது ஒரு கடுமையான தொழில்நுட்பக் கட்டுப்பாடாக (hard technical constraint) இருக்க வேண்டும். ஒரு மனிதரின் உறுதிப்படுத்தல் இன்றி நிரந்தரத் தடையை (permanent ban) விதிக்கும் வகையில் அந்த அமைப்பின் கட்டமைப்பு இருக்கக்கூடாது. ஒரு பிழை (bug) காரணமாக, அந்தச் சரிபார்ப்புப் புள்ளியைத் தாண்டி தானியங்கி முறை செயல்பட அனுமதித்தால், அங்கு பாதுகாப்பு என்பது உண்மையில் இருந்ததே இல்லை என்று அர்த்தம். மாறிவரும் அச்சுறுத்தல்களுக்கு இணையாக கண்டறியும் மாதிரிகள் (detection models) அதிக தீவிரமடையும் போது, தளங்கள் அந்தத் தடுப்பு அடுக்குகளைப் போலவே வலுவான கட்டுப்பாட்டு வழிமுறைகளையும் (governor mechanisms) உருவாக்க வேண்டும்.
என்ன மாற்றப்பட வேண்டும்
இது தளங்களுக்கும் அவற்றைப் பயன்படுத்தும் மக்களுக்கும் நடைமுறை ரீதியான தாக்கங்களைக் கொண்டுள்ளது.
தளங்களைப் பொறுத்தவரை, கணக்குத் தடைகளைத் தகுந்த தீவிரத்துடன் கையாளும் 'fail-safes' (பாதுகாப்பு முறைகள்) மிடிரேஷன் குழாய்களில் (moderation pipelines) இருக்க வேண்டும். நிரந்தர நீக்கம் என்பது பல சுதந்திரமான சமிக்ஞைகளை (independent signals) அல்லது கணினியால் மாற்றியமைக்க முடியாத ஒரு கட்டாய மனித ஒப்புதலைக் கோர வேண்டும். வெளிப்படைத்தன்மை அறிக்கைகளில் (Transparency reports) எவ்வளவு உள்ளடக்கம் நீக்கப்பட்டது என்பது மட்டுமல்லாமல், தொழில்நுட்பத் தவறுகளால் எத்தனை அமலாக்க நடவடிக்கைகள் (enforcement actions) மாற்றியமைக்கப்பட்டன என்பதும் இடம்பெற வேண்டும். இயந்திரம் ஒரு முறையான தவறைச் செய்திருக்கும் போது, பயனர்கள் அதைத் தெரிந்துகொள்ள உரிமை உண்டு; வெறும் அமைதியான மறுசீரமைப்பை மட்டும் அவர்கள் பெறக்கூடாது.
பயனர்களைப் பொறுத்தவரை, உங்கள் தவறு ஏதுமின்றி எந்தவொரு மையப்படுத்தப்பட்ட தளமும் உங்களைத் தடுத்துவிட முடியும் என்பதை இந்தச் சம்பவம் நினைவூட்டுகிறது. நீங்கள் ஒரு சமூகத்தை வழிநடத்தினால் அல்லது தொழில்முறை ஒருங்கிணைப்பிற்கு Discord-ஐச் சார்ந்திருந்தால், முக்கியமான தொடர்புகள் மற்றும் தரவுகளின் நகல்களைத் (backups) தளத்திற்கு வெளியே வைத்திருங்கள். மேல்முறையீட்டு முறைகளை (appeal processes) அவை தேவைப்படும் முன்பே புரிந்துகொள்ளுங்கள். மேலும், தளங்கள் புதிய AI-ஆல் இயங்கும் பாதுகாப்பு கருவிகளை அறிவிக்கும் போது, சந்தேகம் கொள்வது நியாயமானது. அந்தத் கண்டறிதல் எவ்வளவு துல்லியமானது என்று மட்டும் கேட்காமல், அந்தத் தானியங்கி முறை தானாகச் செயல்படுவதைத் தடுக்கும் கட்டமைப்புத் தடைகள் என்ன என்பதையும் கேளுங்கள்.
Discord இந்த குறிப்பிட்ட பிழையைச் சரிசெய்து கணக்குகளை மீட்டெடுத்து வருகிறது, ஆனால் அடிப்படைப் பதற்றம் இன்னும் தீர்க்கப்படாமல் உள்ளது. பதிவேற்றப்படும் வேகத்திலேயே தீங்கு விளைவிக்கும் உள்ளடக்கத்தைத் தடுக்க வேண்டிய நியாயமான அழுத்தத்தில் தளங்கள் உள்ளன, மேலும் அந்த அழுத்தம் தானியங்கி முறையை மிடிரேஷன் கட்டமைப்பிற்குள் இன்னும் ஆழமாகத் தள்ளும். மக்கள் அன்றாடம் பகிரும் சாதாரண உள்ளடக்கங்களுக்கு எதிராகச் செயல்படாமல், முறைகேடுகளுக்கு எதிராகத் தீவிரமாகச் செயல்படும் அமைப்புகளைத் தொழில்துறையால் உருவாக்க முடியுமா என்பதே கேள்வி. தொழில்நுட்பக் கட்டமைப்பு எப்போதும் ஒரு மனிதரே இறுதி முடிவை எடுப்பதை உறுதி செய்யும் வரை, எந்தவொரு மாடல் ட்யூனிங்கும் (model tuning) அடுத்தடுத்த தடை அலைகளைத் தடுக்க முடியாது.