KPMG ਨੇ AI ਬਾਰੇ ਰਿਪੋਰਟ ਲਿਖਣ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਇਹ ਫੇਲ੍ਹ ਹੋ ਗਈ।

KPMG ਇਸ ਗੱਲ ਦੀ ਸਲਾਹ ਵੇਚਦੀ ਹੈ ਕਿ AI ਦੀ ਜ਼ਿੰਮੇਵਾਰਾਨਾ ਤਰੀਕੇ ਨਾਲ ਵਰਤੋਂ ਕਿਵੇਂ ਕੀਤੀ ਜਾਵੇ।

ਅਕਤੂਬਰ 2025 ਵਿੱਚ, ਉਨ੍ਹਾਂ ਨੇ Agentic AI 'ਤੇ ਇੱਕ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੀ। ਉਨ੍ਹਾਂ ਨੇ ਇਸਨੂੰ ਲਿਖਣ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕੀਤੀ।

ਨਤੀਜੇ ਬਹੁਤ ਹੀ ਮਾੜੇ ਰਹੇ।

GPTZero ਦੁਆਰਾ ਕੀਤੇ ਗਏ ਇੱਕ ਆਡਿਟ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ AI ਨੇ 88% ਸਰੋਤਾਂ ਨੂੰ ਖੁਦ ਬਣਾਇਆ ਸੀ।

KPMG ਦੀ ਰਿਪੋਰਟ ਤੋਂ ਕੁਝ ਤੱਥ ਇਸ ਪ੍ਰਕਾਰ ਹਨ:

ਰਿਪੋਰਟ ਵਿੱਚ ਦਾਅਵਾ ਕੀਤਾ ਗਿਆ ਸੀ ਕਿ UBS ਅਤੇ NHS ਵਰਗੀਆਂ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ Agentic AI ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀਆਂ ਹਨ। ਇਨ੍ਹਾਂ ਕੰਪਨੀਆਂ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਦਾਅਵੇ ਗਲਤ ਜਾਂ ਭਰਮਾਉਣ ਵਾਲੇ ਸਨ। KPMG ਨੇ ਬਿਨਾਂ ਇਜਾਜ਼ਤ ਦੇ ਕਲਪਨਾਤਮਕ ਲਿਖਤਾਂ 'ਤੇ ਉਨ੍ਹਾਂ ਦੇ ਲੋਗੋ ਦੀ ਵਰਤੋਂ ਕੀਤੀ।

ਇਹ ਇੱਕ ਨਵੀਂ ਸਮੱਸਿਆ ਹੈ ਜਿਸ ਨੂੰ "vibe citing" ਕਿਹਾ ਜਾਂਦਾ ਹੈ।

"Vibe citing" ਉਦੋਂ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਤੁਸੀਂ ਇੱਕ ਬਿਬਲੀਓਗ੍ਰਾਫੀ (ਸਰੋਤਾਂ ਦੀ ਸੂਚੀ) ਤਿਆਰ ਕਰਨ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋ। AI ਅਜਿਹੇ ਹਵਾਲੇ ਬਣਾਉਂਦਾ ਹੈ ਜੋ ਬਿਲਕੁਲ ਸਹੀ ਲੱਗਦੇ ਹਨ। ਸਿਰਲੇਖ ਅਕਾਦਮਿਕ ਲੱਗਦੇ ਹਨ। ਤਾਰੀਖਾਂ ਸਹੀ ਲੱਗਦੀਆਂ ਹਨ। ਫਾਰਮੈਟ ਸਹੀ ਹੁੰਦਾ ਹੈ। ਪਰ ਸਮੱਗਰੀ ਫਰਜ਼ੀ ਹੁੰਦੀ ਹੈ।

AI ਯਾਦ ਰੱਖਣ ਅਤੇ ਬਣਾਉਣ (inventing) ਵਿਚਲੇ ਅੰਤਰ ਨੂੰ ਨਹੀਂ ਜਾਣਦਾ। ਇਹ ਸਿਰਫ਼ ਇਹ ਜਾਣਦਾ ਹੈ ਕਿ ਪੈਟਰਨ ਦੇ ਅਨੁਸਾਰ ਕੀ ਤਿਆਰ ਕਰਨਾ ਹੈ।

ਇਹ ਸਿਰਫ਼ ਇੱਕ ਤਕਨੀਕੀ ਗਲਤੀ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਪ੍ਰਕਿਰਿਆ ਦੀ ਅਸਫਲਤਾ ਹੈ।

KPMG ਕੋਲ 250,000 ਕਰਮਚਾਰੀ ਹਨ। ਉਨ੍ਹਾਂ ਨੇ 11% ਸ਼ੁੱਧਤਾ ਵਾਲੀ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੀ। ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਉਹ ਇੱਕ ਵੀ ਸਰੋਤ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹੇ।

ਖ਼ਤਰਾ ਸਿਰਫ਼ ਇੱਕ ਮਾੜੀ ਰਿਪੋਰਟ ਤੱਕ ਸੀਮਤ ਨਹੀਂ ਹੈ।

ਕਿਉਂਕਿ KPMG ਇੱਕ ਉੱਚ-ਅਧਿਕਾਰਤ (high-authority) ਸਰੋਤ ਹੈ, ਵੈੱਬ ਕ੍ਰੌਲਰਾਂ ਨੇ ਇਸ ਫਰਜ਼ੀ ਡੇਟਾ ਨੂੰ ਇੰਡੈਕਸ ਕਰ ਲਿਆ। ਹੁਣ, ChatGPT ਅਤੇ Gemini ਵਰਗੇ ਹੋਰ AI ਮਾਡਲ ਇਸ ਗਲਤ ਡੇਟਾ ਨੂੰ ਅਪਣਾ ਰਹੇ ਹਨ। ਉਹ ਇਸਨੂੰ ਸੱਚ ਮੰਨਦੇ ਹਨ।

ਇਹ ਚੱਕਰ ਇਸ ਤਰ੍ਹਾਂ ਦੇਖਿਆ ਜਾ ਸਕਦਾ ਹੈ:

AI ਸਮੱਸਿਆ ਨਹੀਂ ਹੈ। ਸਮੱਸਿਆ ਕੰਮ ਕੀਤੇ ਬਿਨਾਂ ਜਾਣਕਾਰ ਦਿਖਣ ਦਾ ਦਬਾਅ ਹੈ।

ਮਨੁੱਖੀ ਪੁਸ਼ਟੀ (human verification) ਤੋਂ ਬਿਨਾਂ AI ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਕੁਸ਼ਲਤਾ ਨਹੀਂ ਹੈ। ਇਹ ਸੱਚ ਨੂੰ ਇੱਕ ਅਜਿਹੇ ਸਿਸਟਮ ਨੂੰ ਸੌਂਪਣਾ ਹੈ ਜਿਸ ਕੋਲ ਸੱਚ ਦੀ ਕੋਈ ਧਾਰਨਾ ਨਹੀਂ ਹੈ।

ਜਾਣਕਾਰ ਦਿਖਣਾ ਬੰਦ ਕਰੋ। ਅਸਲ ਵਿੱਚ ਜਾਣਨਾ ਸ਼ੁਰੂ ਕਰੋ।

Source: https://gptzero.me/news/investigations-kpmg/

Optional learning community: https://t.me/GyaanSetuAi