KPMG AI ഉപയോഗിച്ച് AI-യെ കുറിച്ച് ഒരു റിപ്പോർട്ട് തയ്യാറാക്കി. അത് പരാജയപ്പെട്ടു.

AI ഉത്തരവാദിത്തത്തോടെ എങ്ങനെ ഉപയോഗിക്കാം എന്നതിനെക്കുറിച്ചുള്ള ഉപദേശങ്ങൾ KPMG വിൽക്കുന്നു.

2025 ഒക്ടോബറിൽ, അവർ Agentic AI-യെ കുറിച്ച് ഒരു റിപ്പോർട്ട് പ്രസിദ്ധീകരിച്ചു. അത് എഴുതാൻ അവർ AI ഉപയോഗിച്ചു.

അതിന്റെ ഫലം ഒരു ദുരന്തമായിരുന്നു.

GPTZero നടത്തിയ ഓഡിറ്റിൽ, AI ഉപയോഗിച്ച സ്രോതസ്സുകളിൽ (sources) 88% നിർമ്മിച്ചെടുത്തതാണെന്ന് കണ്ടെത്തി.

KPMG റിപ്പോർട്ടിലെ വസ്തുതകൾ ഇതാ:

UBS, NHS തുടങ്ങിയ പ്രമുഖ കമ്പനികൾ Agentic AI ഉപയോഗിക്കുന്നുണ്ടെന്ന് റിപ്പോർട്ട് അവകാശപ്പെട്ടു. ഈ അവകാശവാദങ്ങൾ തെറ്റാണെന്നോ തെറ്റിദ്ധരിപ്പിക്കുന്നതാണെന്നോ ആ കമ്പനികൾ പറഞ്ഞു. KPMG അവരുടെ അനുവാദമില്ലാതെ തന്നെ സാങ്കൽപ്പികമായ കാര്യങ്ങളിൽ അവരുടെ ലോഗോകൾ ഉപയോഗിച്ചു.

ഇതിനെ "vibe citing" എന്ന് വിളിക്കുന്ന ഒരു പുതിയ പ്രശ്നമാണ്.

ഒരു ബിബ്ലിയോഗ്രാഫി (bibliography) തയ്യാറാക്കാൻ AI ഉപയോഗിക്കുമ്പോഴാണ് "vibe citing" സംഭവിക്കുന്നത്. AI തികച്ചും കൃത്യമെന്ന് തോന്നിക്കുന്ന റഫറൻസുകൾ നിർമ്മിക്കുന്നു. അവയുടെ തലക്കെട്ടുകൾ അക്കാദമിക് ശൈലിയിലുള്ളതാണ്. തീയതികൾ ശരിയാണെന്ന് തോന്നും. ഫോർമാറ്റും കൃത്യമായിരിക്കും. എന്നാൽ ഉള്ളടക്കം വ്യാജമായിരിക്കും.

ഓർത്തെടുക്കുന്നതും നിർമ്മിച്ചെടുക്കുന്നതും തമ്മിലുള്ള വ്യത്യാസം AI അറിയുന്നില്ല. ഒരു പാറ്റേണിന് അനുയോജ്യമായ രീതിയിൽ കാര്യങ്ങൾ നിർമ്മിക്കാൻ മാത്രമേ അതിന് അറിയൂ.

ഇതൊരു സാങ്കേതിക പിഴവ് മാത്രമല്ല. ഇതൊരു പ്രക്രിയയുടെ പരാജയമാണ് (process failure).

KPMG-ക്ക് 250,000 ജീവനക്കാരുണ്ട്. വെറും 11% കൃത്യതയുള്ള ഒരു റിപ്പോർട്ടാണ് അവർ പ്രസിദ്ധീകരിച്ചത്. പ്രസിദ്ധീകരിക്കുന്നതിന് മുമ്പ് ഒരു സ്രോതസ്സ് പോലും അവർ പരിശോധിച്ചില്ല.

ഈ അപകടം ഒരു മോശം റിപ്പോർട്ടിൽ മാത്രം ഒതുങ്ങുന്നില്ല.

KPMG ഒരു ഉയർന്ന വിശ്വാസ്യതയുള്ള സ്രോതസ്സ് ആയതുകൊണ്ട്, വെബ് ക്രോളറുകൾ (web crawlers) ഈ വ്യാജ വിവരങ്ങൾ ഇൻഡക്സ് ചെയ്തു. ഇപ്പോൾ ChatGPT, Gemini തുടങ്ങിയ മറ്റ് AI മോഡലുകൾ ഈ തെറ്റായ വിവരങ്ങൾ സ്വീകരിക്കുന്നു. അവ ഇതിനെ സത്യമായി കണക്കാക്കുന്നു.

ഈ ചക്രം ഇപ്രകാരമാണ്:

AI അല്ല പ്രശ്നം. ജോലി ചെയ്യാതെ തന്നെ അറിവുള്ളവനായി കാണപ്പെടാനുള്ള സമ്മർദ്ദമാണ് പ്രശ്നം.

മനുഷ്യന്റെ പരിശോധനയില്ലാതെ (human verification loop) AI ഉപയോഗിക്കുന്നത് കാര്യക്ഷമതയല്ല. സത്യം എന്താണെന്ന് അറിയാത്ത ഒരു സംവിധാനത്തിന് സത്യം നിർണ്ണയിക്കാനുള്ള അധികാരം നൽകുന്നതാണ് അത്.

അറിവുള്ളവനായി അഭിനയിക്കുന്നത് നിർത്തുക. യഥാർത്ഥത്തിൽ അറിവ് നേടുക.

സ്രോതസ്സ്: https://gptzero.me/news/investigations-kpmg/

ഓപ്ഷണൽ ലേണിംഗ് കമ്മ്യൂണിറ്റി: https://t.me/GyaanSetuAi