വേഗത്തിലുള്ള AI ഉള്ളടക്ക നിയന്ത്രണ മാറ്റം കാരണം മെറ്റയ്ക്ക് ആഭ്യന്തര എതിർപ്പുകൾ നേരിടുന്നു

മെറ്റ അതിന്റെ ഉള്ളടക്ക നിയന്ത്രണ (content moderation) സംവിധാനത്തെ മനുഷ്യ മേൽനോട്ടത്തിൽ നിന്ന് ലാർജ് ലാംഗ്വേജ് മോഡലുകളിലേക്ക് (LLMs) അതിവേഗം മാറ്റിക്കൊണ്ടിരിക്കുകയാണ്. 2025 അവസാനത്തോടെ പ്രത്യേക തരം ഉള്ളടക്കങ്ങളുടെ 90 ശതമാനത്തിലധികം ഓട്ടോമേറ്റ് ചെയ്യാനാണ് കമ്പനി ലക്ഷ്യമിടുന്നത്. അഭൂതപൂർവമായ കൃത്യത കമ്പനി വാഗ്ദാനം ചെയ്യുന്നുണ്ടെങ്കിലും, ഈ വേഗത്തിലുള്ള മാറ്റം ഉള്ളടക്കത്തിന്റെ സൂക്ഷ്മതയെയും (nuance) പ്ലാറ്റ്‌ഫോമിന്റെ സുരക്ഷയെയും ബാധിച്ചേക്കാം എന്ന് ആഭ്യന്തര മുന്നറിയിപ്പുകൾ സൂചിപ്പിക്കുന്നു.

ഓട്ടോമേഷനായുള്ള ശ്രമങ്ങളും "Muse Spark" മാറ്റവും

മെറ്റയുടെ ഓട്ടോമേഷൻ മാറ്റത്തിന്റെ വ്യാപ്തി വളരെ വലുതാണ്. 2025 ആദ്യത്തോടെ, സോഷ്യൽ മീഡിയ ഭീമനായ മെറ്റ മനുഷ്യർ നടത്തുന്ന ഉള്ളടക്ക നിയന്ത്രണ അഭ്യർത്ഥനകളിൽ ഏകദേശം 50 ശതമാനവും AI മോഡലുകൾ ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിച്ചു കഴിഞ്ഞു. അടിസ്ഥാന സാങ്കേതികവിദ്യയിൽ വലിയൊരു ആഭ്യന്തര മാറ്റം നടന്നതായി റിപ്പോർട്ടുകൾ സൂചിപ്പിക്കുന്നു: നിയന്ത്രണത്തിനും പിന്തുണയ്ക്കുമായി ഗൂഗിളിന്റെ Gemini ഉപയോഗിക്കുന്നതിന് പകരം മെറ്റ സ്വന്തം ഫൗണ്ടേഷൻ മോഡലായ Muse Spark ഉപയോഗിക്കാൻ തുടങ്ങിയിരിക്കുന്നു.

മനുഷ്യ റിവ്യൂവർമാർ മുൻപ് എടുത്ത തീരുമാനങ്ങൾ അടങ്ങിയ ചരിത്രപരമായ ഡാറ്റാസെറ്റുകൾ ഉപയോഗിച്ചാണ് Muse Spark പ്രത്യേകമായി പരിശീലിപ്പിച്ചിരിക്കുന്നത്. മെറ്റയുടെ AI സ്റ്റാക്ക് ഏകീകരിക്കുന്നതിനുള്ള വിപുലമായ തന്ത്രത്തിന്റെ ഭാഗമാണ് ഈ മാറ്റം. ഇത് പുറത്തുള്ള സേവനദാതാക്കളിലുള്ള ആശ്രിതത്വം കുറയ്ക്കാനും, തീരുമാനങ്ങൾ എടുക്കുന്നതിനായുള്ള സ്വന്തം ഡാറ്റാ ശേഖരം ഉപയോഗിച്ച് ഉള്ളടക്ക നിയന്ത്രണ ശേഷി മെച്ചപ്പെടുത്താനും സഹായിക്കുന്നു.

കാര്യക്ഷമതയും കൃത്യതയും: കോർപ്പറേറ്റ് കാഴ്ചപ്പാട്

കോർപ്പറേറ്റ് കാഴ്ചപ്പാടിൽ, ഈ നീക്കം വെറുമൊരു ചെലവ് കുറയ്ക്കൽ നടപടിയല്ല, മറിച്ച് ഗുണനിലവാരത്തിലുള്ള വലിയൊരു കുതിച്ചുചാട്ടമായാണ് അവതരിപ്പിക്കപ്പെടുന്നത്. ഈ മാറ്റത്തിലൂടെ മെറ്റയ്ക്ക് പ്രതിവർഷം കോടിക്കണക്കിന് ഡോളർ ലാഭിക്കാൻ കഴിയുമെന്ന് ഫിനാൻഷ്യൽ ടൈംസ് സൂചിപ്പിക്കുന്നുണ്ടെങ്കിലും, കമ്പനി ഊന്നൽ നൽകുന്നത് പ്രവർത്തന മികവിനാണ് (performance metrics). മാർച്ച് മുതൽ, രണ്ട് പ്രധാന മേഖലകളിൽ മനുഷ്യരായ മോഡറേറ്റർമാരേക്കാൾ മികച്ച രീതിയിൽ തങ്ങളുടെ LLM-കൾ പ്രവർത്തിക്കുന്നുണ്ടെന്ന് മെറ്റ അവകാശപ്പെടുന്നു: നയങ്ങൾ നടപ്പിലാക്കുമ്പോൾ 13% കുറഞ്ഞ തെറ്റുകൾ സംഭവിക്കുന്നു, കൂടാതെ യഥാർത്ഥ നയലംഘനങ്ങൾ 10% കൂടുതൽ കണ്ടെത്തുന്നു.

പരിഹാസം (satire), സ്ലാംഗ് (slang), അല്ലെങ്കിൽ മാറിക്കൊണ്ടിരിക്കുന്ന ഭാഷാ പ്രവണതകൾ എന്നിവ കൈകാര്യം ചെയ്യുമ്പോൾ പരാജയപ്പെടുന്ന പരമ്പരാഗത മെഷീൻ ലേണിംഗ് (ML) ക്ലാസിഫയറുകളിൽ നിന്ന് വ്യത്യസ്തമായി, സങ്കീർണ്ണമായ സൂക്ഷ്മതകൾ മനസ്സിലാക്കാനും ലോകമെമ്പാടുമുള്ള വൈവിധ്യമാർന്ന ഭാഷകളിൽ പ്രവർത്തിക്കാനും ഈ പുതിയ LLM-കൾ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു.

ആഭ്യന്തര മുന്നറിയിപ്പുകൾ: മനുഷ്യസഹജമായ നഷ്ടങ്ങളും പിഴവുകളും

നേതൃത്വം നൽകുന്ന ശുഭപ്രതീക്ഷാപരമായ കണക്കുകൾക്കിടയിലും, ഈ സാങ്കേതികവിദ്യ നടപ്പിലാക്കുന്ന വേഗതയെക്കുറിച്ച് മെറ്റ ജീവനക്കാർ ആശങ്ക പ്രകടിപ്പിക്കുന്നു. മോഡലുകൾക്ക് ഇപ്പോഴും സന്ദർഭങ്ങൾ (context) മനസ്സിലാക്കാൻ ബുദ്ധിമുട്ടുണ്ടെന്നും, ഇത് നിരന്തരം നിരപരാധികളായ ഉള്ളടക്കങ്ങൾ നീക്കം ചെയ്യാനോ "ഷാഡോ-ബാനിംഗ്" (shadow-banning) ചെയ്യാനോ കാരണമാകുന്നുവെന്നും ഉള്ളവർ മുന്നറിയിപ്പ് നൽകുന്നു. മനുഷ്യരുടെ മേൽനോട്ടം കുറഞ്ഞുവരുന്നതിനനുസരിച്ച്, ഇത്തരം ഓട്ടോമേറ്റഡ് പിഴവുകൾ നിയന്ത്രിക്കാൻ മതിയായ സംവിധാനമില്ല എന്നതാണ് ജീവനക്കാർക്കിടയിലെ പ്രധാന ആശങ്ക.

ഈ സാങ്കേതിക മാറ്റം കമ്പനിയുടെ ആവാസവ്യവസ്ഥയിൽ പെട്ടെന്നുതന്നെ സാമൂഹിക-സാമ്പത്തിക പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കുന്നുണ്ട്. ആക്രമണപരമായ ഈ ഓട്ടോമേഷൻ തൊഴിൽ നഷ്ടത്തിന് കാരണമാകുന്നു, പ്രത്യേകിച്ച് മുൻപ് മാനുവൽ മോഡറേഷൻ ജോലികൾ ചെയ്തിരുന്ന വലിയൊരു എക്സ്റ്റേണൽ കോൺട്രാക്ടർ വിഭാഗത്തെ ഇത് ബാധിക്കുന്നു.

എന്തുകൊണ്ട് ഇത് AI മേഖലയിൽ പ്രധാനമാണ്?

മെറ്റയുടെ ഈ പരീക്ഷണം മുഴുവൻ സാങ്കേതിക വ്യവസായത്തിനും ഒരു സൂചകമാണ്. കമ്പനികൾ "AI-അസിസ്റ്റഡ്" മോഡറേഷനിൽ നിന്ന് "AI-ലെഡ്" മോഡറേഷനിലേക്ക് മാറുന്നതോടെ, പ്രവർത്തന വ്യാപ്തി വർദ്ധിപ്പിക്കുക (scalability) എന്നതും അഭിപ്രായ സ്വാതന്ത്ര്യം സംരക്ഷിക്കുക എന്നതും തമ്മിലുള്ള സംഘർഷം വ്യവസായം നേരിടേണ്ടി വരും. Muse Spark പോലുള്ള ഒരു ഫൗണ്ടേഷൻ മോഡലിന് മനുഷ്യസഹജമായ പരിഹാസവും സാംസ്കാരികമായ സൂക്ഷ്മതകളും വിജയകരമായി കൈകാര്യം ചെയ്യാൻ കഴിയുമെങ്കിൽ, അത് ഓട്ടോമേറ്റഡ് ഗവേണൻസിന് പുതിയൊരു മാനദണ്ഡം നിശ്ചയിക്കും. എന്നാൽ, ജീവനക്കാർ റിപ്പോർട്ട് ചെയ്യുന്ന പിഴവുകൾ തുടരുകയാണെങ്കിൽ, സാമൂഹിക ചർച്ചകളുടെ മേൽനോട്ടം പൂർണ്ണമായും ഏറ്റെടുക്കാൻ LLM-കൾ ഇനിയും തയ്യാറല്ല എന്നതിന്റെ സൂചനയാകാം അത്.

പ്രധാന കാര്യങ്ങൾ

• വലിയ തോതിലുള്ള ഓട്ടോമേഷൻ: 2025 അവസാനത്തോടെ ചില ഉള്ളടക്ക നിയന്ത്രണ ജോലികളുടെ 90 ശതമാനത്തിലധികം ഓട്ടോമേറ്റ് ചെയ്യാൻ മെറ്റ ലക്ഷ്യമിടുന്നു, നിലവിൽ 50 ശതമാനം മാറ്റം ഇതിനകം പൂർത്തിയായിക്കഴിഞ്ഞു.
• സ്വന്തം സാങ്കേതികവിദ്യയിലേക്കുള്ള മാറ്റം: ഗൂഗിളിന്റെ Gemini-ക്ക് പകരം മെറ്റ സ്വന്തം ഫൗണ്ടേഷൻ മോഡലായ Muse Spark ഉപയോഗിക്കുന്നു. ഇത് മനുഷ്യർ നടത്തിയ മുൻകാല മോഡറേഷൻ ഡാറ്റ ഉപയോഗിച്ചാണ് പരിശീലിപ്പിച്ചിരിക്കുന്നത്.
• കാര്യക്ഷമതയും വിശ്വാസ്യതയും തമ്മിലുള്ള വ്യത്യാസം: പിഴവുകളിൽ 13% കുറവുണ്ടെന്ന് മെറ്റ അവകാശപ്പെടുമ്പോഴും, വേഗത്തിലുള്ള ഈ മാറ്റത്തിനിടയിൽ അമിതമായ ഷാഡോ-ബാനിംഗും മതിയായ മേൽനോട്ടമില്ലായ്മയും ഉണ്ടാകുമെന്ന് ജീവനക്കാർ മുന്നറിയിപ്പ് നൽകുന്നു.