OpenAI-യുടെ എത്തിക്സ് വിഭാഗം മേധാവി ഒരു വർഷം തികയുന്നതിന് മുമ്പ് തന്നെ രാജിവെച്ചു. ഫിനാൻഷ്യൽ ടൈംസ് റിപ്പോർട്ട് ചെയ്ത ഈ നീക്കം ലാബിന്റെ ആഭ്യന്തര സുരക്ഷാ പരിശോധനകളെക്കുറിച്ച് വീണ്ടും സംശയങ്ങൾ ഉയർത്തുന്നു. അപകടകരമായ വിന്യാസങ്ങളെ തടയാനുള്ള കമ്പനിയുടെ ആഭ്യന്തര നിയന്ത്രണമായി ഈ പദവി പ്രവർത്തിക്കേണ്ടതുള്ളതിനാൽ, ഈ കൊഴിഞ്ഞുപോക്ക് ഏറെ പ്രാധാന്യമർഹിക്കുന്നു; ഈ നിയന്ത്രണം ഇപ്പോൾ അവിടെ ഇല്ലാതിരിക്കാം എന്ന സൂചനയാണ് ഇത് നൽകുന്നത്.
പുറത്തുപോകലുകളുടെ ഒരു രീതി
ഈ രാജിവെക്കൽ ഒരു ഒറ്റപ്പെട്ട സംഭവമല്ല. കഴിഞ്ഞ രണ്ട് വർഷത്തിനിടെ, സുരക്ഷാ കാര്യങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ച നിരവധി ജീവനക്കാർ OpenAI വിട്ടുപോയിട്ടുണ്ട്. 2024-ൽ സൂപ്പർഅലൈൻമെന്റ് (Superalignment) ടീമിലെ പല അംഗങ്ങളും രാജിവെച്ചു. അതിനുമുമ്പ്, 2023-ലെ ഭരണപരമായ അനിശ്ചിതത്വത്തിനിടെ ബോർഡ് അംഗങ്ങളെ നീക്കം ചെയ്തിരുന്നു. ഇതിലെ ആവർത്തിച്ചു വരുന്ന പ്രവണത ഒന്ന് തന്നെയാണ്: സാങ്കേതികവിദ്യ സുരക്ഷിതമാക്കാൻ ഗവേഷകർ വരുന്നു, എന്നാൽ തടസ്സങ്ങൾ നേരിടേണ്ടി വരുമ്പോൾ അവർ പുറത്തുപോകുന്നു.
ഈ പദവിയുടെ ലക്ഷ്യം എന്തായിരുന്നു
എത്തിക്സ് വിഭാഗം മേധാവി വിന്യാസ തീരുമാനങ്ങൾ, ഡാറ്റ കൈകാര്യം ചെയ്യുന്ന രീതികൾ, അപകടകരമായേക്കാവുന്ന സാങ്കേതികവിദ്യകളുടെ ആഭ്യന്തര പരിശോധന എന്നിവ മേൽനോട്ടം വഹിക്കുന്നു. ആ പദവിയിലിരിക്കുന്ന വ്യക്തി പെട്ടെന്ന് പുറത്തുപോകുമ്പോൾ, ആ പദവിക്ക് യഥാർത്ഥ അധികാരം ഉണ്ടായിരുന്നോ എന്ന ചോദ്യം ഉയരുന്നു.
ഈ മാറ്റങ്ങൾക്ക് പിന്നിലെ സാധ്യമായ കാരണങ്ങൾ
- റിലീസുകൾ തടയാനുള്ള പരിമിതമായ അധികാരം – ഒരു ഉൽപ്പന്നത്തിന്റെ ലോഞ്ച് തടയാൻ ഈ പദവിക്ക് നിർബന്ധിക്കാൻ കഴിയില്ലെങ്കിൽ, അത് പ്രവർത്തനപരമായ ഒരു പദവിയേക്കാൾ പ്രതീകാത്മകമായ ഒന്നായി മാറുന്നു.
- സുരക്ഷയേക്കാൾ വേഗതയ്ക്ക് മുൻഗണന നൽകുന്ന സമ്മർദ്ദം – മറ്റ് AI ഭീമന്മാരുമായുള്ള മത്സരം, കൃത്യമായ സുരക്ഷാ പരിശോധനകൾക്ക് പകരം വേഗത്തിൽ പുതിയ ഫീച്ചറുകൾ പുറത്തിറക്കുന്ന രീതിയിലേക്ക് സാഹചര്യം മാറ്റുന്നു.
- സുരക്ഷാ പ്രവർത്തനങ്ങളെ മറികടക്കുന്ന വാണിജ്യ മുൻഗണനകൾ – നേതൃത്വം വരുമാനം ഉണ്ടാക്കുന്ന പ്രോജക്റ്റുകൾക്ക് മുൻഗണന നൽകിയേക്കാം, ഇത് സുരക്ഷാ ടീമുകൾക്ക് ജോലിഭാരം വർദ്ധിപ്പിക്കുകയും മതിയായ ജീവനക്കാരില്ലാത്ത അവസ്ഥയുണ്ടാക്കുകയും ചെയ്യുന്നു.
- നിരന്തരമായ തർക്കങ്ങൾ മൂലമുണ്ടാകുന്ന മാനസിക തളർച്ച – സുരക്ഷാ വക്താക്കളും പ്രോഡക്റ്റ് എഞ്ചിനീയർമാരും തമ്മിലുള്ള ആവർത്തിച്ചുള്ള തർക്കങ്ങൾ അർപ്പണബോധമുള്ള ഗവേഷകരെപ്പോലും തളർത്തിയേക്കാം.
ഈ ഘടകങ്ങൾ വ്യവസായ മേഖലയിലെ വലിയൊരു സംഘർഷത്തെ പ്രതിഫലിപ്പിക്കുന്നു: പുതിയ സാങ്കേതികവിദ്യകൾ വേഗത്തിൽ പുറത്തിറക്കുന്നവരെ ലാബുകൾ പ്രോത്സാഹിപ്പിക്കുന്നു, എന്നാൽ അപകടങ്ങൾ ചൂണ്ടിക്കാണിക്കുന്നവരെ പലപ്പോഴും തടസ്സങ്ങളായിട്ടാണ് കാണുന്നത്.
ഒരുപക്ഷേ ആഭ്യന്തര സുരക്ഷാ സംവിധാനങ്ങൾ നിലനിൽക്കുന്നുണ്ടാകാം
OpenAI അതിന്റെ എത്തിക്സ് മേധാവിയുടെ അധികാരത്തെക്കുറിച്ച് പരസ്യമായി വിശദീകരിച്ചിട്ടില്ല, കൂടാതെ ഈ രാജിവെക്കലിനെക്കുറിച്ച് കമ്പനി പ്രസ്താവനയും നടത്തിയിട്ടില്ല. വിവിധ വിഭാഗങ്ങൾ ചേർന്നുള്ള സുരക്ഷാ അവലോകനങ്ങൾ അല്ലെങ്കിൽ പുറത്തുള്ള ഉപദേശക സമിതികൾ പോലുള്ള മറ്റ് ആഭ്യന്തര സംവിധാനങ്ങൾ ഇപ്പോഴും പ്രവർത്തിക്കുന്നുണ്ടാകാം. എന്നാൽ അവയുടെ ഫലപ്രാപ്തിയെക്കുറിച്ച് വ്യക്തമായ തെളിവുകളില്ലാത്തതിനാൽ, ഈ ഒഴിവ് ഒരു വലിയ വിടവ് സൃഷ്ടിക്കുന്നുണ്ട്.
ഈ കൊഴിഞ്ഞുപോക്ക് OpenAI-യെ മാത്രം ബാധിക്കുന്നതല്ല
ലാഭേച്ഛയുള്ള ഒരു AI ലാബിന് ഒരു വർഷത്തിൽ കൂടുതൽ കാലം ഒരു എത്തിക്സ് ലീഡിനെ നിലനിർത്താൻ കഴിയില്ലെങ്കിൽ, വാണിജ്യ സ്ഥാപനങ്ങളിൽ സുരക്ഷാ വിദഗ്ധരെ ഉൾപ്പെടുത്തുന്ന രീതി ദുർബലമാണെന്ന് കാണാം. സുരക്ഷിതമായ AI എന്ന വാഗ്ദാനത്തോടെ സ്ഥാപിതമായ Anthropic സമാനമായ സമ്മർദ്ദങ്ങൾ റിപ്പോർട്ട് ചെയ്യുന്നുണ്ട്, കൂടാതെ വലിയ വിഭവങ്ങളുള്ള വൻകിട കമ്പനികളിൽ പോലും എത്തിക്സ് വിഭാഗങ്ങളും പ്രോഡക്റ്റ് ഗ്രൂപ്പുകളും തമ്മിലുള്ള സംഘർഷങ്ങൾ രേഖപ്പെടുത്തിയിട്ടുണ്ട്.
ഈ സാഹചര്യം മാറ്റാൻ കഴിയുന്ന കാര്യങ്ങൾ
- നിയന്ത്രണാധികാരമുള്ള സ്വതന്ത്ര ഓഡിറ്റർമാർ – ആഭ്യന്തരമായ സന്മനസ്സിനെ മാത്രം ആശ്രയിക്കാതെ, നിയമങ്ങൾ പാലിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കാൻ കഴിയുന്ന പുറത്തുള്ള ഏജൻസികൾ.
- നിയമപരമായി നിർബന്ധമാക്കിയ സുരക്ഷാ വിലയിരുത്തലുകൾ – പുതിയ മോഡലുകൾ പുറത്തിറക്കുന്നതിന് മുമ്പ് രേഖാമൂലമുള്ള റിസ്ക് അനാലിസിസ് ആവശ്യമായ നിയമങ്ങൾ.
- ശക്തമായ വിസിൽബ്ലോവർ സംരക്ഷണം – പ്രതികാര നടപടികളെ ഭയപ്പെടാതെ ജീവനക്കാർക്ക് ആശങ്കകൾ ഉന്നയിക്കാൻ കഴിയുന്ന സുരക്ഷാ സംവിധാനങ്ങൾ.
- സുരക്ഷാ മുന്നറിയിപ്പുകൾ പരസ്യമാക്കൽ – ഏത് തരത്തിലുള്ള അപകടസാധ്യതകളാണ് കണ്ടെത്തിയതെന്ന് പുറത്തുള്ള വിദഗ്ധർക്കും പൊതുജനങ്ങൾക്കും കാണാൻ കഴിയുന്ന സുതാര്യത.
- ലാഭേച്ഛയിൽ നിന്ന് മാറി സുരക്ഷാ ഗവേഷണങ്ങൾക്കായി ഫണ്ട് നൽകൽ – ഉൽപ്പന്നങ്ങളുടെ ലോഞ്ച് ഡെഡ്ലൈനുകളിൽ നിന്ന് സുരക്ഷാ പ്രവർത്തനങ്ങളെ മാറ്റിനിർത്താൻ സഹായിക്കുന്ന ഗ്രാന്റുകളോ പൊതു ധനസഹായമോ.
ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ
ഒരു എത്തിക്സ് ലീഡർക്ക് ഒരു വർഷത്തിൽ കൂടുതൽ കാലം നിലനിൽക്കാൻ കഴിയില്ലെങ്കിൽ, അതിന്റെ അടിസ്ഥാന ഘടനയെ ചോദ്യം ചെയ്യപ്പെടുന്നു. ഉൽപ്പന്ന വികസനത്തിനായുള്ള ആഗ്രഹവും സുരക്ഷാ ഉത്തരവാദിത്തവും തമ്മിലുള്ള അധികാര സമവാക്യങ്ങൾ പുനർനിർമ്മിക്കപ്പെടുന്നത് വരെ, വിദഗ്ധരുടെ ഈ കൊഴിഞ്ഞുപോക്ക് ആവർത്തിച്ചേക്കാം. വരും മാസങ്ങളിൽ OpenAI-യും വിശാലമായ AI സമൂഹവും ഈ രീതി മാറ്റാൻ കഴിയുമോ എന്ന് നമുക്ക് കാണാം.