സ്റ്റാൻഫോർഡ് AI പൂർവ്വ വിദ്യാർത്ഥികളായ മാക്സ് സ്പെറോയും (Max Spero) ബ്രാഡ്‌ലി എമിയും (Bradley Emi) ചേർന്ന് സ്ഥാപിച്ച ന്യൂയോർക്ക് ആസ്ഥാനമായുള്ള സ്റ്റാർട്ടപ്പായ Pangram, Menlo Ventures നേതൃത്വത്തിൽ നടന്ന 9 മില്യൺ ഡോളറിന്റെ Series A ഫണ്ടിംഗ് വിജയകരമായി പൂർത്തിയാക്കി. പ്ലാറ്റ്‌ഫോമുകൾക്കായുള്ള ഒരു API വികസിപ്പിക്കാനും, പ്രതിമാസം 20 ഡോളർ നിരക്കിൽ ലഭ്യമാകുന്ന ഒരു Chrome extension പുറത്തിറക്കാനും ഈ ഫണ്ട് ഉപയോഗിക്കും. AI സഹായത്തോടെ തയ്യാറാക്കിയ എഴുത്തുകൾ 99 ശതമാനം കൃത്യതയോടെ തിരിച്ചറിയാൻ കഴിയുമെന്ന് ഈ ടൂൾ അവകാശപ്പെടുന്നു—ഇത് പത്രപ്രവർത്തകർക്കും പണ്ഡിതന്മാർക്കും റിക്രൂട്ടർമാർക്കും വിവരങ്ങളുടെ ആധികാരികത പരിശോധിക്കുന്ന രീതിയിൽ വലിയ മാറ്റങ്ങൾ കൊണ്ടുവന്നേക്കാം.

AI നിർമ്മിത "slop"-ന്റെ വർദ്ധനവ്

ലാർജ് ലാംഗ്വേജ് മോഡലുകൾ (LLMs) ഇപ്പോൾ വലിയ തോതിൽ ലേഖനങ്ങളും സോഷ്യൽ മീഡിയ പോസ്റ്റുകളും നിയമപരമായ ഉദ്ധരണികളും (legal citations) നിർമ്മിക്കുന്നുണ്ട്. ഇതിന്റെ ഫലമായി ഗുണനിലവാരമില്ലാത്ത SEO സ്പാം, ഏകോപിതമായി നടത്തുന്ന തെറ്റായ വിവര പ്രചരണങ്ങൾ (disinformation campaigns), മനുഷ്യർ AI തയ്യാറാക്കിയ ഡ്രാഫ്റ്റുകൾ മിനുക്കിയെടുക്കുന്ന ഒരു 'ഗ്രേ സോൺ' എന്നിവ വർദ്ധിച്ചുവരുന്നു. ഇതിനോടകം തന്നെ വിവിധ സ്ഥാപനങ്ങൾ ഇതിനോട് പ്രതികരിച്ചു തുടങ്ങിയിട്ടുണ്ട്. പരിശോധിക്കപ്പെടാത്ത LLM ഔട്ട്പുട്ടുകൾ സമർപ്പിക്കുന്ന എഴുത്തുകാർക്ക് ഒരു വർഷത്തെ വിലക്ക് ഏർപ്പെടുത്തിയേക്കാം എന്ന് പ്രീ-പ്രിന്റ് സെർവറായ arXiv മുന്നറിയിപ്പ് നൽകി. കൂടാതെ, AI നിർമ്മിച്ച വ്യാജ ഉദ്ധരണകളെ ആശ്രയിക്കുന്ന അഭിഭാഷകർക്കെതിരെ കോടതികൾ നടപടി എടുക്കാൻ തുടങ്ങിയിട്ടുണ്ട്. മനുഷ്യർ നിർമ്മിച്ചതും യന്ത്രങ്ങൾ നിർമ്മിച്ചതും തമ്മിൽ വേർതിരിക്കാനുള്ള സമ്മർദ്ദം വർദ്ധിച്ചുവരികയാണ്, ഈ സാഹചര്യത്തിൽ തങ്ങളുടെ സാങ്കേതികവിദ്യ ഒരു ഡിഫോൾട്ട് വെരിഫിക്കേഷൻ ലെയറായി മാറുമെന്ന് Pangram വിശ്വസിക്കുന്നു.

സിന്തറ്റിക് മിററിംഗ് (Synthetic mirroring): ഓരോ രേഖയുടെയും ഇരയെ ഉപയോഗിച്ചുള്ള പരിശീലനം

Pangram-ന്റെ പ്രധാന മോഡലായ Pangram 4, കമ്പനി "synthetic mirroring" എന്ന് വിളിക്കുന്ന ഒരു രീതിയാണ് ഉപയോഗിക്കുന്നത്. തങ്ങളുടെ ട്രെയിനിംഗ് സെറ്റിലുള്ള ദശലക്ഷക്കണക്കിന് മനുഷ്യർ എഴുതിയ രേഖകൾക്കായി, ഒരു അത്യാധുനിക LLM ഉപയോഗിച്ച് സമാനമായ മറ്റൊരു പതിപ്പ് (counterpart) ടീം നിർമ്മിക്കുന്നു. ഈ സിന്തറ്റിക് ഇര (synthetic twin) വിഷയത്തിലും ദൈർഘ്യത്തിലും ശൈലിയിലും യഥാർത്ഥ രേഖയോട് സാമ്യമുള്ളതാണെങ്കിലും അത് ഒരു AI ആണ് നിർമ്മിക്കുന്നത്. ഈ രണ്ട് പതിപ്പുകളും ഒരേ ന്യൂറൽ നെറ്റിലേക്ക് നൽകുന്നതിലൂടെ, AI നിർമ്മിത എഴുത്തുകളിൽ നിലനിൽക്കുന്ന സൂക്ഷ്മമായ സ്റ്റാറ്റിസ്റ്റിക്കൽ ഫിംഗർപ്രിന്റുകൾ തിരിച്ചറിയാൻ Pangram മോഡലിനെ പഠിപ്പിക്കുന്നു. എഴുത്തുകാർ മെഷീൻ ഔട്ട്പുട്ട് മറച്ചുവെക്കാൻ "AI humanizer" ടൂളുകൾ ഉപയോഗിച്ചാൽ പോലും ഇത് കണ്ടെത്താൻ സാധിക്കും.

എതിരാളികൾ മെറ്റാഡാറ്റയെയോ (metadata) അദൃശ്യമായ വാട്ടർമാർക്കുകളെയോ ആണ് ആശ്രയിക്കുന്നത്, എന്നാൽ ഇവ നീക്കം ചെയ്യാനോ അവഗണിക്കാനോ സാധ്യമാണ്. എന്നാൽ Pangram ശൈലീപരമായ വിശകലനത്തിലാണ് (stylistic analysis) ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്: അതായത് പദപ്രയോഗങ്ങൾ, വാചകങ്ങളുടെ താളം, ടോക്കൺ വിതരണം എന്നിവയിലെ പാറ്റേണുകൾ എന്നിവയിൽ ഒരു മോഡലിന്റെ ഔട്ട്പുട്ടിലുടനീളം സ്ഥിരതയുള്ളവയാണ് ഇവ. കമ്പനിയുടെ പ്രസ്താവനയനുസരിച്ച്, ആഭ്യന്തര പരിശോധനകളിൽ AI സഹായത്തോടെയുള്ള എഴുത്തുകൾ 99 ശതമാനം കൃത്യതയോടെ ഈ സിസ്റ്റം തിരിച്ചറിഞ്ഞു.

API മുതൽ ബ്രൗസറുകൾ വരെ: സാങ്കേതികവിദ്യ എവിടെയെല്ലാം ഉപയോഗിക്കാം

Pangram ഒരു പ്രത്യേക ആവശ്യത്തിനുള്ള ആപ്പ് എന്നതിലുപരി ഒരു ഇൻഫ്രാസ്ട്രക്ചർ ആയിട്ടാണ് സ്വയം അവതരിപ്പിക്കുന്നത്. ഇതിന്റെ API ഇപ്പോൾ തന്നെ Substack-മായി സംയോജിപ്പിച്ചിട്ടുണ്ട്, അവിടെ ന്യൂസ്‌ലെറ്ററുകളിൽ എത്രത്തോളം AI ഉള്ളടക്കം ഉണ്ടെന്ന് കാണിക്കുന്ന ഒരു ലേബൽ പ്രദർശിപ്പിക്കുന്നു. Q&A പ്ലാറ്റ്‌ഫോമായ Quora, വിവിധ സർവ്വകലാശാലാ റൈറ്റിംഗ് സെന്ററുകൾ, ഉദ്യോഗാർത്ഥികളുടെ രേഖകളുടെ ആധികാരികത പരിശോധിക്കേണ്ട റിക്രൂട്ട്‌മെന്റ് ഏജൻസികൾ എന്നിവയും ഇതിന്റെ ഉപയോക്താക്കളാണ്.

വ്യക്തിഗത ഉപയോക്താക്കൾക്കായി, X, LinkedIn, Reddit, Medium തുടങ്ങിയ സൈറ്റുകളിൽ ഒരു "feed health score" കാണിക്കുന്ന ഒരു Chrome extension സ്റ്റാർട്ടപ്പ് വാഗ്ദാനം ചെയ്യുന്നു. ഈ സ്കോർ ഒരു ടെക്സ്റ്റിൽ എത്ര ശതമാനം മനുഷ്യൻ എഴുതിയതാണെന്നും എത്ര ശതമാനം AI ആണെന്നും വ്യക്തമാക്കുന്നു. തത്സമയ ലേബലിംഗിനും സംശയാസ്പദമായ ഭാഗങ്ങൾ കൂടുതൽ പരിശോധനയ്ക്കായി അടയാളപ്പെടുത്തുന്നതിനുമായി സബ്‌സ്‌ക്രൈബർമാർക്ക് പ്രതിമാസം 20 ഡോളർ നൽകേണ്ടതുണ്ട്.

സംശയനിരീക്ഷണങ്ങൾ

കൃത്യതയെക്കുറിച്ചുള്ള അവകാശവാദങ്ങൾ സ്വാഭാവികമായും പരിശോധനകൾക്ക് വിധേയമാകും. ഒരു എഴുത്തുകാരൻ മോഡൽ തയ്യാറാക്കിയ ഡ്രാഫ്റ്റ് എഡിറ്റ് ചെയ്യുന്ന 'ഗ്രേ ഏരിയ'യിൽ AI സഹായം കണ്ടെത്തുക എന്നത് ഇപ്പോഴും വെല്ലുവിളിയായ ഒരു കാര്യമാണ്. ജനറേറ്റീവ് മോഡലുകൾ മെച്ചപ്പെട്ടതോടെ, Pangram ആശ്രയിക്കുന്ന ശൈലീപരമായ വ്യത്യാസങ്ങൾ കുറഞ്ഞേക്കാം, ഇത് കണ്ടെത്തൽ സാങ്കേതികവിദ്യയും അതിനെ മറികടക്കാനുള്ള സാങ്കേതികവിദ്യയും തമ്മിലുള്ള ഒരു മത്സരത്തിന് വഴിതെളിച്ചേക്കാം. കൂടാതെ, 'false positives' സാധ്യതയെക്കുറിച്ചും വിമർശകർ മുന്നറിയിപ്പ് നൽകുന്നു: ഒരു മനുഷ്യൻ എഴുതിയ യഥാർത്ഥ രേഖ AI നിർമ്മിതമാണെന്ന് തെറ്റായി രേഖപ്പെടുത്തുന്നത്, പ്രത്യേകിച്ച് അക്കാദമിക് അല്ലെങ്കിൽ നിയമപരമായ മേഖലകളിൽ വ്യക്തികളുടെ സൽപ്പേരിനെ ബാധിച്ചേക്കാം.

പുതിയ LLM-കൾ വരുമ്പോൾ അവയുടെ സിന്തറ്റിക് മിററുകൾ ഉപയോഗിച്ച് തങ്ങളുടെ മോഡലിനെ നിരന്തരം പുനർപരിശീലനം (retrain) ചെയ്യുന്നുണ്ടെന്ന് Pangram ഈ വെല്ലുവിളിയെക്കുറിച്ച് സൂചിപ്പിക്കുന്നു. എന്നിരുന്നാലും, കമ്പനി തങ്ങളുടെ ആഭ്യന്തര പരിശോധനകൾക്ക് പുറമെ സ്വതന്ത്രമായ ബെഞ്ച്മാർക്ക് ഫലങ്ങൾ വെളിപ്പെടുത്തിയിട്ടില്ല, അതിനാൽ 99 ശതമാനം എന്ന കണക്ക് പരിശോധിക്കാൻ പൊതുസമൂഹത്തിന് കാത്തിരിക്കേണ്ടി വരും.

ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

പൈലറ്റ് പ്രോജക്റ്റുകളിൽ നിന്ന് മാറി കൂടുതൽ പ്ലാറ്റ്‌ഫോമുകളിലേക്ക് Pangram വ്യാപിക്കുമോ എന്ന് വരും മാസങ്ങളിൽ അറിയാൻ സാധിക്കും. പ്രധാന സൂചകങ്ങൾ ഇവയാണ്:

  • API കരാറുകളുടെ വിപുലീകരണം: നിലവിലെ പങ്കാളികൾക്ക് പുറമെ കൂടുതൽ കമ്പനികളിലേക്ക് ഇത് എത്തുന്നുണ്ടോ എന്ന് നോക്കാം.
  • സ്ഥാപനപരമായ ഉപയോക്താക്കളിൽ നിന്നുള്ള പ്രതികരണം: തെറ്റായ കണ്ടെത്തലുകളെക്കുറിച്ചും (false-positive rates) എഡിറ്റോറിയൽ പ്രവർത്തനങ്ങളിൽ ഇത് ഉണ്ടാക്കുന്ന സ്വാധീനത്തെക്കുറിച്ചുമുള്ള അഭിപ്രായങ്ങൾ.
  • LLM ഡെവലപ്പർമാരുടെ പ്രതികരണം: മനുഷ്യ ശൈലി കൂടുതൽ കൃത്യമായി അനുകരിക്കുന്ന രീതിയിൽ മോഡലുകൾ അപ്‌ഡേറ്റ് ചെയ്തുകൊണ്ട് അവർ ഇതിനെ നേരിട്ടേക്കാം.
  • നിയമപരമായ മാറ്റങ്ങൾ: ചില പ്രസിദ്ധീകരണങ്ങൾക്കോ അക്കാദമിക് സമർപ്പണങ്ങൾക്കോ AI-detection ടൂളുകൾ നിർബന്ധമാക്കുന്ന തരത്തിലുള്ള നിയമങ്ങൾ വരുന്നുണ്ടോ എന്ന് നോക്കാം.

പിഴവുകൾ കുറഞ്ഞ നിലയിൽ തന്നെ കൃത്യത നിലനിർത്താൻ ഈ സ്റ്റാർട്ടറിന് കഴിഞ്ഞാൽ, ഡിജിറ്റൽ ആധികാരികതയുടെ ഒരു മാനദണ്ഡമായി (de-facto standard) Pangram മാറിയേക്കാം. ഇല്ലെങ്കിൽ, വിപണി പലതരം മത്സര ടൂളുകളായി വിഭജിക്കപ്പെടുകയും ഓരോന്നിനും അതിന്റേതായ പരിമിതികൾ ഉണ്ടാവുകയും ചെയ്യും.

ചുരുക്കത്തിൽ

Pangram-ന്റെ 9 മില്യൺ ഡോളറിന്റെ നിക്ഷേപം, ഏതാണ്ട് പൂർണ്ണതയോടെ AI സഹായം തിരിച്ചറിയുന്നതിനായി 'twin-document training regime' ഉപയോഗിക്കുന്ന ഒരു കണ്ടെത്തൽ തന്ത്രത്തിന് കരുത്തുപകരുന്നു. മാറിക്കൊണ്ടിരിക്കുന്ന ഭാഷാ മോഡലുകളിലേക്ക് (language models) ഈ രീതി എത്രത്തോളം വ്യാപിപ്പിക്കാൻ കഴിയുമെന്നും, ഇതിന്റെ ഏറ്റവും വലിയ ആവശ്യം വരുന്ന പ്ലാറ്റ്‌ഫോമുകളുടെയും സ്ഥാപനങ്ങളുടെയും വിശ്വാസം നേടിയെടുക്കാൻ സാധിക്കുമെന്നും ഇതിന്റെ വിജയം നിർണ്ണയിക്കും.