മെറ്റയുടെ AI മോഡ്: സോഷ്യൽ മീഡിയ ഡാറ്റയിൽ സെർച്ച് അടിസ്ഥാനമാക്കുന്നതിലെ അപകടസാധ്യതകൾ

ഫേസ്ബുക്ക് ആപ്പിൽ നേരിട്ട് പുതിയ "AI Mode" സംയോജിപ്പിച്ചുകൊണ്ട് സെർച്ച് അനുഭവം പുനർനിർവചിക്കാൻ മെറ്റ ശ്രമിക്കുകയാണ്. സങ്കീർണ്ണവും സംഭാഷണ രൂപത്തിലുള്ളതുമായ ചോദ്യങ്ങൾക്ക് മറുപടി നൽകുമെന്ന് ഈ ഫീച്ചർ വാഗ്ദാനം ചെയ്യുന്നുണ്ടെങ്കിലും, ഉപയോക്താക്കൾ നിർമ്മിക്കുന്ന ഉള്ളടക്കത്തെ (user-generated content) ആശ്രയിക്കുന്നത് കൃത്യതയെക്കുറിച്ചും തെറ്റായ വിവരങ്ങൾ (misinformation) പ്രചരിക്കുന്നതിനെക്കുറിച്ചും ഗൗരവകരമായ ചോദ്യങ്ങൾ ഉയർത്തുന്നു.

സംഭാഷണാത്മക സെർച്ചിലേക്കുള്ള ഒരു പുതിയ സമീപനം

ഗൂഗിളിന്റെ AI-സംയോജിത സെർച്ചിന് സമാനമായി പ്രവർത്തിക്കാനാണ് മെറ്റയുടെ AI Mode രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്; ഇത് വെറും കീവേഡ് മാച്ചിംഗിന് അപ്പുറം സൂക്ഷ്മമായ ചോദ്യങ്ങൾക്ക് മറുപടി നൽകാൻ ശ്രമിക്കുന്നു. വെറും ലിങ്കുകളുടെ പട്ടിക നൽകുന്നതിന് പകരം, "ഈ വാരാന്ത്യത്തിൽ ഞാൻ എന്താണ് ചെയ്യേണ്ടത്?" അല്ലെങ്കിൽ "ടോക്കിയോയിലേക്കുള്ള ഒരു വാരാന്ത്യ യാത്ര പ്ലാൻ ചെയ്യൂ" തുടങ്ങിയ ചോദ്യങ്ങൾക്ക് സംശ്ലേഷണം ചെയ്ത (synthesized) ഉത്തരങ്ങൾ നൽകാനാണ് ഈ മോഡ് ലക്ഷ്യമിടുന്നത്.

ഇതിന്റെ പ്രധാന വ്യത്യാസവും ചർച്ചാവിഷയവും അതിന്റെ ഡാറ്റാ സ്രോതസ്സാണ്. വിശാലമായ വെബ്ബ് ക്രൗൾ ചെയ്യുന്ന പരമ്പരാഗത സെർച്ച് എഞ്ചിനുകളിൽ നിന്ന് വ്യത്യസ്തമായി, മെറ്റയുടെ AI Mode അതിന്റെ ഇക്കോസിസ്റ്റത്തിലെ ഫേസ്ബുക്ക് ഗ്രൂപ്പുകളും ഇൻസ്റ്റാഗ്രാം റീൽസും ഉൾപ്പെടെയുള്ള പൊതുവായ പോസ്റ്റുകളിൽ നിന്ന് വലിയ തോതിൽ വിവരങ്ങൾ ശേഖരിക്കുന്നു. ഇത് അയൽപക്കത്തെ അറിയിപ്പുകൾ, പ്രാദേശിക സംഘടനകളുടെ അപ്‌ഡേറ്റുകൾ, കമ്മ്യൂണിറ്റി അധിഷ്ഠിത ഇവന്റ് ശുപാർശകൾ തുടങ്ങിയ ഹൈപ്പർ-ലോക്കൽ ഡാറ്റ ഉപയോഗിക്കാൻ മോഡലിനെ സഹായിക്കുന്നു; ഇത്തരം വിവരങ്ങൾ സാധാരണ ക്രൗളർമാർക്ക് കൃത്യമായി ഇൻഡക്സ് ചെയ്യാൻ കഴിഞ്ഞെന്നു വരില്ല.

തെറ്റായ വിവരങ്ങളുടെ പ്രതിസന്ധി: ഗ്രൗണ്ടിംഗും ഹാളുസിനേഷനും

സോഷ്യൽ മീഡിയ ഡാറ്റ ഉപയോഗിച്ച് ഒരു LLM (Large Language Model) ഗ്രൗണ്ട് ചെയ്യുക എന്നത് വലിയൊരു സാങ്കേതിക വെല്ലുവിളിയാണ്. ഈ മോഡൽ ഫേസ്ബുക്ക് പോസ്റ്റുകളെ അതിന്റെ "ഗ്രൗണ്ട് ട്രൂത്ത്" (ground truth) ആയി ഉപയോഗിക്കുന്നതിനാൽ, പ്ലാറ്റ്‌ഫോമിലെ ഉള്ളടക്കത്തിന്റെ അസ്ഥിരതയും ഇതിലേക്ക് പടരുന്നു. സോഷ്യൽ മീഡിയ പോസ്റ്റുകളെ അടിസ്ഥാനമാക്കി AI മറുപടികൾ നൽകുന്നത്, ചെറിയ ഗ്രൂപ്പുകൾക്കിടയിൽ പങ്കുവെക്കപ്പെടുന്ന തെറ്റായ സിദ്ധാന്തങ്ങളോ കാലഹരണപ്പെട്ട വിവരങ്ങളോ AI വർദ്ധിപ്പിച്ചു കാണിക്കുന്ന ഒരു "ദുസ്വപ്നമായി" മാറാൻ സാധ്യതയുണ്ടെന്ന് വിമർശകർ വാദിക്കുന്നു.

എന്നിരുന്നാലും, മെറ്റ കാര്യമായ സുരക്ഷാ സംവിധാനങ്ങൾ (guardrails) ഏർപ്പെടുത്തിയിട്ടുണ്ടെന്ന് പ്രാഥമിക പരിശോധനകൾ സൂചിപ്പിക്കുന്നു. നേരിട്ടുള്ള മൂല്യനിർണ്ണയങ്ങളിൽ (hands-on evaluations), വാക്സിൻ സുരക്ഷ, തിരഞ്ഞെടുപ്പ് സുതാര്യത അല്ലെങ്കിൽ ചരിത്രപരമായ ഗൂഢാലോചന സിദ്ധാന്തങ്ങൾ തുടങ്ങിയ സെൻസിറ്റീവ് വിഷയങ്ങളിൽ തെറ്റായ വിവരങ്ങൾ നൽകാൻ AI Mode പ്രയാസപ്പെട്ടു. ഇത് സൂചിപ്പിക്കുന്നത് മോഡൽ ഉപയോക്താക്കളുടെ ഡാറ്റ ഉപയോഗിക്കുന്നുണ്ടെങ്കിലും, സോഷ്യൽ ഫീഡിൽ കാണുന്ന ദോഷകരമായതോ തെറ്റാണെന്ന് തെളിയിക്കപ്പെട്ടതോ ആയ അവകാശവാദങ്ങൾ ആവർത്തിക്കാതിരിക്കാൻ ഒരു സെക്കൻഡറി വെരിഫിക്കേഷൻ ലെയറോ അല്ലെങ്കിൽ ഒരു "സേഫ്റ്റി ഫിൽട്ടറോ" ഉപയോഗിക്കുന്നുണ്ടെന്നാണ്.

എന്തുകൊണ്ടാണ് ഇത് AI മേഖലയിൽ പ്രധാനമാകുന്നത്

Meta-യുടെ ഈ നീക്കം AI യുദ്ധങ്ങളിൽ ഒരു തന്ത്രപരമായ മാറ്റത്തെയാണ് സൂചിപ്പിക്കുന്നത്: "General Knowledge" AI-യിൽ നിന്ന് "Contextual/Social" AI-യിലേക്കുള്ള മാറ്റം. OpenAI-യും Google-ഉം അവരുടെ പരിശീലന ഡാറ്റയുടെ (training data) വ്യാപ്തിയിൽ മത്സരിക്കുമ്പോൾ, Meta അതിന്റെ സവിശേഷമായ കരുത്ത് ഉപയോഗപ്പെടുത്തുകയാണ്—അതായത് കോടിക്കണക്കിന് ഉപയോക്താക്കളുടെ തത്സമയവും അതിസൂക്ഷ്മമായ പ്രാദേശികവുമായ സോഷ്യൽ ഗ്രാഫ് (social graph).

പ്രാദേശികവും സാമൂഹികവുമായ ഉൾക്കാഴ്ചകളുടെ ഉപയോഗക്ഷമതയും സെർച്ചിന് ആവശ്യമായ കൃത്യതയും Meta-യ്ക്ക് വിജയകരമായി സമന്വയിപ്പിക്കാൻ കഴിഞ്ഞാൽ, AI-യുടെ "lifestyle and planning" വിഭാഗത്തിൽ അവർക്ക് ആധിപത്യം സ്ഥാപിക്കാൻ കഴിയും. എന്നിരുന്നാലും, ഒരു സാങ്കേതിക തടസ്സം നിലനിൽക്കുന്നുണ്ട്: ഒരു Facebook ഗ്രൂപ്പിലെ ട്രെൻഡിംഗ് ആയ എന്നാൽ തെറ്റായ ഒരു പോസ്റ്റിനെ യാഥാർത്ഥ്യമായി കണക്കാക്കുന്നതിൽ നിന്ന് ഒരു മോഡലിനെ എങ്ങനെ തടയുക എന്നത്.

പ്രധാന കാര്യങ്ങൾ