KPMG AI గురించి ఒక నివేదిక రాయడానికి AIని ఉపయోగించింది. అది విఫలమైంది.

AIని బాధ్యతాయుతంగా ఎలా ఉపయోగించాలో KPMG సలహాలను విక్రయిస్తుంది.

అక్టోబర్ 2025లో, వారు Agentic AI పై ఒక నివేదికను ప్రచురించారు. దానిని రాయడానికి వారు AIని ఉపయోగించారు.

ఫలితాలు ఘోరంగా ఉన్నాయి.

GPTZero చేసిన ఆడిట్ ప్రకారం, AI 88% మూలాలను (sources) సొంతంగా సృష్టించిందని తేలింది.

KPMG నివేదికలోని వాస్తవాలు ఇక్కడ ఉన్నాయి:

UBS మరియు NHS వంటి ప్రధాన కంపెనీలు Agentic AIని ఉపయోగిస్తున్నాయని ఆ నివేదిక పేర్కొంది. ఈ కంపెనీలు ఆ వాదనలు తప్పు లేదా తప్పుదోవ పట్టించేవిగా ఉన్నాయని తెలిపాయి. KPMG వారి అనుమతి లేకుండా కల్పిత సమాచారంపై వారి లోగోలను ఉపయోగించింది.

దీనిని "vibe citing" అని పిలిచే ఒక కొత్త సమస్య.

ఒక బిబ్లియోగ్రఫీని (గ్రంథసూచీని) రూపొందించడానికి మీరు AIని ఉపయోగించినప్పుడు "vibe citing" జరుగుతుంది. AI చూడటానికి పరిపూర్ణంగా ఉండే రిఫరెన్స్‌లను సృష్టిస్తుంది. శీర్షికలు విద్యాపరంగా (academic) అనిపిస్తాయి. తేదీలు సరిగ్గా కనిపిస్తాయి. ఫార్మాట్ కూడా సరిగ్గా ఉంటుంది. కానీ అందులోని సమాచారం మాత్రం నకిలీది.

గుర్తుంచుకోవడానికి మరియు సృష్టించడానికి మధ్య ఉన్న తేడా AIకి తెలియదు. అది కేవలం ఒక ప్యాటర్న్‌కు సరిపోయేలా ఎలా రూపొందించాలో మాత్రమే తెలుసు.

ఇది కేవలం సాంకేతిక లోపం మాత్రమే కాదు. ఇది ఒక ప్రక్రియ వైఫల్యం (process failure).

KPMGలో 2,50,000 మంది ఉద్యోగులు ఉన్నారు. వారు కేవలం 11% ఖచ్చితత్వం ఉన్న నివేదికను ప్రచురించారు. ప్రచురించే ముందు వారు ఒక్క మూలాన్ని కూడా సరిచూసుకోలేకపోయారు.

ఈ ప్రమాదం ఒక చెడు నివేదికకే పరిమితం కాదు.

KPMG ఒక అత్యున్నత అధికారిక మూలం (high-authority source) కావడంతో, వెబ్ క్రాలర్లు ఈ నకిలీ డేటాను ఇండెక్స్ చేశాయి. ఇప్పుడు, ChatGPT మరియు Gemini వంటి ఇతర AI మోడల్స్ ఈ తప్పుడు డేటాను గ్రహిస్తున్నాయి (ingest). అవి దీనిని నిజమని నమ్ముతున్నాయి.

ఈ చక్రం ఇలా ఉంటుంది:

AI సమస్య కాదు. పని చేయకుండానే జ్ఞానవంతులుగా కనిపించాలనే ఒత్తిడియే అసలు సమస్య.

మానవ ధృవీకరణ (human verification) లేకుండా AIని ఉపయోగించడం సామర్థ్యం కాదు. అది సత్యం అనే భావన లేని వ్యవస్థకు సత్యాన్ని అప్పగించడమే.

తెలిసినట్లు నటించడం ఆపండి. నిజంగా తెలుసుకోండి.

Source: https://gptzero.me/news/investigations-kpmg/

Optional learning community: https://t.me/GyaanSetuAi