ਮੈਟਾ ਦਾ AI ਮੋਡ: ਸੋਸ਼ਲ ਮੀਡੀਆ ਡੇਟਾ ਵਿੱਚ ਸਰਚ ਨੂੰ ਆਧਾਰਿਤ ਕਰਨ ਦੇ ਜੋਖਮ

ਮੈਟਾ ਆਪਣੇ ਨਵੇਂ "AI Mode" ਨੂੰ ਸਿੱਧੇ ਤੌਰ 'ਤੇ Facebook ਐਪ ਵਿੱਚ ਜੋੜ ਕੇ ਸਰਚ ਦੇ ਅਨੁਭਵ ਨੂੰ ਮੁੜ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਿਹਾ ਹੈ। ਹਾਲਾਂਕਿ ਇਹ ਫੀਚਰ ਗੁੰਝਲਦਾਰ ਅਤੇ ਗੱਲਬਾਤ ਵਾਲੇ ਸਵਾਲਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਦਾ ਵਾਅਦਾ ਕਰਦਾ ਹੈ, ਪਰ ਉਪਭੋਗਤਾ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਗਈ ਸਮੱਗਰੀ 'ਤੇ ਇਸਦੀ ਨਿਰਭਰਤਾ ਸ਼ੁੱਧਤਾ ਅਤੇ ਗਲਤ ਜਾਣਕਾਰੀ ਦੇ ਫੈਲਾਅ ਬਾਰੇ ਮਹੱਤਵਪੂਰਨ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦੀ ਹੈ।

ਗੱਲਬਾਤ ਵਾਲੀ ਸਰਚ ਲਈ ਇੱਕ ਨਵਾਂ ਪਹੁੰਚ

ਮੈਟਾ ਦਾ AI Mode ਗੂਗਲ ਦੀ AI-integrated ਸਰਚ ਵਾਂਗ ਕੰਮ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਜੋ ਸਿਰਫ਼ ਕੀਵਰਡ ਮੈਚਿੰਗ ਤੋਂ ਅੱਗੇ ਵਧ ਕੇ ਬਾਰੀਕ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇਣ ਦੀ ਯੋਗਤਾ ਰੱਖਦਾ ਹੈ। ਸਿਰਫ਼ ਲਿੰਕਾਂ ਦੀ ਸੂਚੀ ਪ੍ਰਦਾਨ ਕਰਨ ਦੀ ਬਜਾਏ, ਇਸ ਮੋਡ ਦਾ ਉਦੇਸ਼ "ਮੈਂ ਇਸ ਵੀਕੈਂਡ ਕੀ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?" ਜਾਂ "ਟੋਕੀਓ ਲਈ ਵੀਕੈਂਡ ਟ੍ਰਿਪ ਦੀ ਯੋਜਨਾ ਬਣਾਓ" ਵਰਗੇ ਸਵਾਲਾਂ ਦੇ ਸੰਖੇਪ ਅਤੇ ਸਾਰਸ਼ਰੂ ਜਵਾਬ ਦੇਣਾ ਹੈ।

ਮੁੱਖ ਅੰਤਰ—ਅਤੇ ਬਹਿਸ ਦਾ ਮੁੱਖ ਕਾਰਨ—ਡਾਟਾ ਸਰੋਤ ਹੈ। ਰਵਾਇਤੀ ਸਰਚ ਇੰਜਣਾਂ ਦੇ ਉਲਟ ਜੋ ਪੂਰੇ ਵੈੱਬ ਨੂੰ ਕ੍ਰੌਲ (crawl) ਕਰਦੇ ਹਨ, ਮੈਟਾ ਦਾ AI Mode ਆਪਣੇ ਈਕੋਸਿਸਟਮ ਵਿੱਚ ਮੌਜੂਦ ਜਨਤਕ ਪੋਸਟਾਂ, ਜਿਵੇਂ ਕਿ Facebook Groups ਅਤੇ Instagram Reels ਤੋਂ ਭਾਰੀ ਮਾਤਰਾ ਵਿੱਚ ਡਾਟਾ ਲੈਂਦਾ ਹੈ। ਇਹ ਮਾਡਲ ਨੂੰ ਹਾਈਪਰ-ਲੋਕਲ ਡਾਟਾ ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਗੁਆਂਢ ਦੀਆਂ ਘੋਸ਼ਣਾਵਾਂ, ਸਥਾਨਕ ਸੰਗਠਨਾਂ ਦੇ ਅਪਡੇਟਸ, ਅਤੇ ਭਾਈਚਾਰਕ ਸਮਾਗਮਾਂ ਦੀਆਂ ਸਿਫ਼ਾਰਸ਼ਾਂ, ਜੋ ਸ਼ਾਇਦ ਰਵਾਇਤੀ ਕ੍ਰੌਲਰਾਂ ਦੁਆਰਾ ਚੰਗੀ ਤਰ੍ਹਾਂ ਇੰਡੈਕਸ ਨਾ ਕੀਤੇ ਗਏ ਹੋਣ।

ਗਲਤ ਜਾਣਕਾਰੀ ਦੀ ਦੁਬਿਧਾ: ਗਰਾਊਂਡਿੰਗ ਬਨਾਮ ਹੈਲੂਸੀਨੇਸ਼ਨ (Hallucination)

ਸੋਸ਼ਲ ਮੀਡੀਆ ਡੇਟਾ ਵਿੱਚ ਇੱਕ LLM (Large Language Model) ਨੂੰ ਗਰਾਊਂਡ (ground) ਕਰਨ ਦੀ ਤਕਨੀਕੀ ਚੁਣੌਤੀ ਬਹੁਤ ਵੱਡੀ ਹੈ। ਕਿਉਂਕਿ ਇਹ ਮਾਡਲ Facebook ਪੋਸਟਾਂ ਨੂੰ ਆਪਣੀ "ਗਰਾਊਂਡ ਟ੍ਰੂਥ" (ground truth) ਵਜੋਂ ਵਰਤਦਾ ਹੈ, ਇਸ ਲਈ ਇਹ ਪਲੇਟਫਾਰਮ ਦੀ ਸਮੱਗਰੀ ਦੀ ਅਸਥਿਰਤਾ ਨੂੰ ਵੀ ਅਪਣਾ ਲੈਂਦਾ ਹੈ। ਆਲੋਚਕਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ AI ਦੇ ਜਵਾਬਾਂ ਨੂੰ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪੋਸਟਾਂ 'ਤੇ ਅਧਾਰਤ ਕਰਨ ਨਾਲ ਇੱਕ "ਡਰਾਉਣਾ ਸੁਪਨਾ" (waking nightmare) ਬਣ ਸਕਦਾ ਹੈ ਜਿੱਥੇ AI ਕੁਝ ਖਾਸ ਸਮੂਹਾਂ ਵਿੱਚ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਗਈਆਂ ਅਲੱਗ-ਅਲੱਗ ਧਾਰਨਾਵਾਂ ਜਾਂ ਪੁਰਾਣੀ ਜਾਣਕਾਰੀ ਨੂੰ ਵਧਾ-ਚੜ੍ਹਾ ਕੇ ਪੇਸ਼ ਕਰ ਸਕਦਾ ਹੈ।

ਹਾਲਾਂਕਿ, ਸ਼ੁਰੂਆਤੀ ਟੈਸਟਿੰਗ ਤੋਂ ਸੰਕੇਤ ਮਿਲਦਾ ਹੈ ਕਿ ਮੈਟਾ ਨੇ ਮਹੱਤਵਪੂਰਨ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧ (guardrails) ਲਾਗੂ ਕੀਤੇ ਹਨ। ਪ੍ਰੈਕਟੀਕਲ ਮੁਲਾਂਕਣ ਦੌਰਾਨ, AI Mode ਵੈਕਸੀਨ ਦੀ ਸੁਰੱਖਿਆ, ਚੋਣਾਂ ਦੀ ਇਮਾਨਦਾਰੀ, ਜਾਂ ਇਤਿਹਾਸਕ ਸਾਜ਼ਿਸ਼ਾਂ ਵਰਗੇ ਸੰਵੇਦਨਸ਼ੀਲ ਵਿਸ਼ਿਆਂ ਬਾਰੇ ਗੰਭੀਰ ਗਲਤ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਿਹਾ। ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਭਾਵੇਂ ਮਾਡਲ ਉਪਭੋਗਤਾ ਡੇਟਾ 'ਤੇ ਅਧਾਰਤ ਹੈ, ਪਰ ਇਹ ਸ਼ਾਇਦ ਸੋਸ਼ਲ ਫੀਡ ਵਿੱਚ ਮਿਲਣ ਵਾਲੇ ਨੁਕਸਾਨਦੇਹ ਜਾਂ ਗਲਤ ਸਾਬਤ ਹੋ ਚੁੱਕੇ ਦਾਅਵਿਆਂ ਨੂੰ ਦੁਹਰਾਉਣ ਤੋਂ ਰੋਕਣ ਲਈ ਵੈਰੀਫਿਕੇਸ਼ਨ ਦੀ ਇੱਕ ਦੂਜੀ ਪਰਤ ਜਾਂ "ਸੇਫਟੀ ਫਿਲਟਰ" ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ।

ਇਹ AI ਦੇ ਖੇਤਰ ਲਈ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਮੈਟਾ ਦਾ ਇਹ ਕਦਮ AI ਦੀਆਂ ਜੰਗਾਂ ਵਿੱਚ ਇੱਕ ਰਣਨੀਤਕ ਮੋੜ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ: "General Knowledge" AI ਤੋਂ "Contextual/Social" AI ਵੱਲ ਵਧਣਾ। ਜਦੋਂ ਕਿ OpenAI ਅਤੇ Google ਆਪਣੇ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਦੀ ਵਿਸ਼ਾਲਤਾ 'ਤੇ ਮੁਕਾਬਲਾ ਕਰ ਰਹੇ ਹਨ, ਮੈਟਾ ਆਪਣੇ ਵਿਲੱਖਣ ਫਾਇਦੇ (moat) ਦਾ ਲਾਭ ਉਠਾ ਰਿਹਾ ਹੈ—ਅਰਬਾਂ ਉਪਭੋਗਤਾਵਾਂ ਦਾ ਰੀਅਲ-ਟਾਈਮ, ਹਾਈਪਰ-ਲੋਕਲ ਸੋਸ਼ਲ ਗ੍ਰਾਫ।

ਜੇਕਰ ਮੈਟਾ ਸਥਾਨਕ, ਸਮਾਜਿਕ-ਅਧਾਰਤ ਜਾਣਕਾਰੀ ਦੀ ਉਪਯੋਗਤਾ ਅਤੇ ਸਰਚ ਲਈ ਲੋੜੀਂਦੀ ਸਖ਼ਤ ਸ਼ੁੱਧਤਾ ਵਿਚਕਾਰ ਸਫਲਤਾਪੂਰਵਕ ਸੰਤੁਲਨ ਬਣਾ ਲੈਂਦਾ ਹੈ, ਤਾਂ ਇਹ AI ਦੇ "lifestyle and planning" ਖੇਤਰ 'ਤੇ ਹਾਵੀ ਹੋ ਸਕਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਤਕਨੀਕੀ ਰੁਕਾਵਟ ਅਜੇ ਵੀ ਬਣੀ ਹੋਈ ਹੈ: ਇੱਕ ਮਾਡਲ ਨੂੰ Facebook Group ਵਿੱਚ ਟ੍ਰੈਂਡਿੰਗ ਪਰ ਗਲਤ ਪੋਸਟ ਨੂੰ ਤੱਥ ਵਜੋਂ ਮੰਨਣ ਤੋਂ ਕਿਵੇਂ ਰੋਕਿਆ ਜਾਵੇ।

ਮੁੱਖ ਨੁਕਤੇ