OpenAI’s Ethics Lead Walks Out, Adding to Wave of Safety Staff Exodus

OpenAI-இன் அறநெறித் துறைத் தலைவர் ஒரு வருடம் கூட நிறைவடையாத நிலையில் விலகிச் சென்றுள்ளார். Financial Times செய்தி வெளியிட்டுள்ள இந்த நடவடிக்கை, அந்த ஆய்வகத்தின் உள்நாட்டுப் பாதுகாப்புச் சோதனைகள் குறித்த சந்தேகங்களை மீண்டும் கிளப்பியுள்ளது. இந்த வெளியேற்றம் முக்கியமானது, ஏனெனில் அந்தப் பதவி நிறுவனத்தின் அபாயகரமான பயன்பாடுகளைத் தடுக்கும் ஒரு உள்நாட்டுத் தடுப்புச் சாதனமாகச் செயல்பட வேண்டும்; அந்தப் பதவி திடீரென காலியாவது, அந்தத் தடுப்புச் சாதனம் அங்கு இல்லாமல் இருக்கலாம் என்பதைக் காட்டுகிறது.

வெளியேற்றங்களின் ஒரு தொடர்முறை

இந்த ராஜினாமா ஒரு தனிப்பட்ட நிகழ்வல்ல. கடந்த இரண்டு ஆண்டுகளில், OpenAI பல பாதுகாப்பு சார்ந்த பணியாளர்களை இழந்து வருகிறது. 2024-இல், Superalignment குழுவின் பல உறுப்பினர்கள் வெளியேறினர். முன்னதாக, 2023-இல் நிர்வாகக் குழப்பத்தின் போது வாரிய உறுப்பினர்கள் நீக்கப்பட்டனர். இதில் மீண்டும் மீண்டும் நிகழும் விஷயம் ஒன்றுதான்: ஆராய்ச்சியாளர்கள் தொழில்நுட்பத்தைப் பாதுகாப்பதற்காக இணைகிறார்கள், பின்னர் அங்கு ஏற்படும் முரண்பாடுகளால் வெளியேறுகிறார்கள்.

இந்தக் கடமையின் நோக்கம் என்ன

அறநெறித் துறைத் தலைவர், பயன்பாட்டு முடிவுகள், தரவு கையாளுதல் முறைகள் மற்றும் தீங்கு விளைவிக்கக்கூடிய திறன்களின் உள்நாட்டு ஆய்வு ஆகியவற்றை மேற்பார்வையிடுகிறார். அந்தப் பதவியில் இருப்பவர் விரைவாக வெளியேறும்போது, அந்தப் பதவிக்கு உரிய அதிகாரம் உண்மையில் இருந்ததா என்ற கேள்வி எழுகிறது.

வெளியேற்றத்திற்கான சாத்தியமான காரணங்கள்

• வெளியீடுகளைத் தடுப்பதற்கான குறைந்தபட்ச அதிகாரம் – ஒரு தயாரிப்புக் குழுவை வெளியீட்டை நிறுத்தத் தூண்ட அந்தப் பதவிக்கு அதிகாரம் இல்லையென்றால், அது செயல்பாட்டுப் பதவியாக இல்லாமல் வெறும் அடையாளமாக மட்டுமே இருக்கும்.
• பாதுகாப்பை விட வேகத்திற்கு முன்னுரிமை அளிக்கும் அழுத்தம் – மற்ற AI நிறுவனங்களுடனான போட்டி, முழுமையான இடர் மதிப்பீட்டை விட விரைவான அம்சங்களை வழங்குவதற்கே முக்கியத்துவம் அளிக்கும் சூழலை உருவாக்குகிறது.
• வணிக முன்னுரிமைகள் பாதுகாப்புப் பணிகளைத் தள்ளிவைப்பது – தலைமைப் பொறுப்பில் இருப்பவர்கள் வருவாய் ஈட்டும் திட்டங்களுக்கு முன்னுரிமை அளிக்கலாம், இதனால் பாதுகாப்புத் குழுக்கள் போதிய பணியாளர்கள் இன்றி அதிக பணிச்சுமையால் பாதிக்கப்படலாம்.
• தொடர்ச்சியான முரண்பாடுகளால் ஏற்படும் சோர்வு – பாதுகாப்பு ஆதரவாளர்களுக்கும் தயாரிப்புப் பொறியாளர்களுக்கும் இடையே மீண்டும் மீண்டும் ஏற்படும் மோதல்கள், மிகவும் அர்ப்பணிப்புள்ள ஆராய்ச்சியாளர்களைக் கூட சோர்வடையச் செய்யலாம்.

இந்த காரணிகள் தொழில்துறையில் நிலவும் ஒரு பரந்த பதற்றத்தைப் பிரதிபலிக்கின்றன: புதிய திறன்களை வெளியிடுபவர்களுக்கு ஆய்வகங்கள் வெகுமதி அளிக்கின்றன, ஆனால் ஆபத்துகளைச் சுட்டிக்காட்டுபவர்கள் சில நேரங்களில் தடைகளாகவே பார்க்கப்படுகிறார்கள்.

எதிர் கருத்து: உள்நாட்டுப் பாதுகாப்பு முறைகள் இன்னும் இருக்கலாம்

OpenAI தனது அறநெறித் தலைவரின் அதிகாரத்தைப் பற்றி பகிரங்கமாக விவரிக்கவில்லை, மேலும் இந்த ராஜினாமா குறித்து நிறுவனம் எந்த அறிக்கையும் வெளியிடவில்லை. குறுக்கு-செயல்பாட்டுப் பாதுகாப்பு ஆய்வுகள் (cross-functional safety reviews) அல்லது வெளிநாட்டு ஆலோசனைக் குழுக்கள் போன்ற பிற உள்நாட்டு வழிமுறைகள் தொடர்ந்து செயல்பட வாய்ப்புள்ளது. இருப்பினும், அவற்றின் செயல்திறன் குறித்த உறுதியான ஆதாரங்கள் இல்லாததால், இந்த வெற்றிடம் ஒரு குறிப்பிடத்தக்க இடைவெளியை ஏற்படுத்துகிறது.

OpenAI-ஐத் தாண்டி இந்த வெளியேற்றம் ஏன் முக்கியமானது

ஒரு லாப நோக்கிலான AI ஆய்வகத்தால் அறநெறித் தலைவரை ஒரு வருடத்திற்கும் மேலாகத் தக்கவைக்க முடியாவிட்டால், வணிக நிறுவனங்களுக்குள் பாதுகாப்பு நிபுணர்களை இணைக்கும் முறை பலவீனமானது என்று தோன்றுகிறது. பாதுகாப்பான AI என்ற வாக்குறுதியுடன் தொடங்கப்பட்ட Anthropic நிறுவனம், இதே போன்ற அழுத்தங்களைச் சந்திப்பதாகக் கூறுகிறது; மேலும் பெரும் வளங்களைக் கொண்ட பெரிய நிறுவனங்கள் கூட, அறநெறிப் பிரிவுகளுக்கும் தயாரிப்புப் பிரிவுகளுக்கும் இடையிலான முரண்பாடுகளைப் பதிவு செய்துள்ளன.

சூழ்நிலையை மாற்றக்கூடியவை

• ஒழுங்குமுறை அதிகாரம் கொண்ட சுதந்திரமான தணிக்கையாளர்கள் – நிறுவனத்தின் உள்நோக்கத்தை மட்டும் நம்பியிருக்காமல், விதிமுறைகளைப் பின்பற்றச் செய்யக்கூடிய வெளி அமைப்புகள்.
• சட்டப்பூர்வமாக கட்டாயமாக்கப்பட்ட பாதுகாப்பு மதிப்பீடுகள் – புதிய மாதிரி (model) வெளியிடப்படுவதற்கு முன், ஆவணப்படுத்தப்பட்ட இடர் பகுப்பாய்வைச் செய்யக் கோரும் விதிகள்.
• வலுவான புகாரளிப்போர் (whistle-blower) பாதுகாப்பு முறைகள் – ஊழியர்கள் பழிவாங்கலுக்கு அஞ்சாமல் தங்கள் கவலைகளை எழுப்ப அனுமதிக்கும் பாதுகாப்பு வழிமுறைகள்.
• பாதுகாப்பு எச்சரிக்கைகளை பொதுவெளியில் வெளிப்படுத்துதல் – வெளிநாட்டு நிபுணர்களும் பொதுமக்களும் என்னென்ன ஆபத்துகள் கண்டறியப்பட்டுள்ளன என்பதைப் பார்க்க அனுமதிக்கும் வெளிப்படைத்தன்மை.
• லாப நோக்கமின்றி பாதுகாப்பு ஆராய்ச்சிக்கான நிதி – தயாரிப்பு காலக்கெடுக்களிலிருந்து பாதுகாப்புப் பணிகளைத் தனிமைப்படுத்தி வைக்கும் மானியங்கள் அல்லது பொது நிதி.

அடுத்து கவனிக்க வேண்டியவை

ஒரு அறநெறித் தலைவர் ஒரு வருடத்திற்கும் மேலாகத் தங்கியிருக்க முடியாவிட்டால், அதன் அடிப்படை கட்டமைப்பு கேள்விக்குள்ளாக்கப்படுகிறது. தயாரிப்பு இலட்சியங்களுக்கும் பாதுகாப்புப் பொறுப்பிற்கும் இடையிலான அதிகாரப் போக்கு மாற்றியமைக்கப்படும் வரை, திறமையாளர்களை இழக்கும் இந்தச் சுழற்சி மீண்டும் நிகழ வாய்ப்புள்ளது. அடுத்த சில மாதங்கள், OpenAI மற்றும் பரந்த AI சமூகம் இந்தத் தொடர்முறையை உடைக்க முடியுமா என்பதைக் காட்டும்.