Pangram, ਇੱਕ ਨਿਊਯਾਰਕ ਸਟਾਰਟਅੱਪ ਜਿਸਦੀ ਸਥਾਪਨਾ ਸਟੈਨਫੋਰਡ AI ਅਲਾਮਨੀ Max Spero ਅਤੇ Bradley Emi ਨੇ ਕੀਤੀ ਹੈ, ਨੇ Menlo Ventures ਦੀ ਅਗਵਾਈ ਵਿੱਚ $9 ਮਿਲੀਅਨ ਦੀ Series A ਰਾਊਂਡ ਪੂਰੀ ਕੀਤੀ ਹੈ। ਇਹ ਫੰਡਿੰਗ ਪਲੇਟਫਾਰਮਾਂ ਲਈ ਇੱਕ API ਅਤੇ $20 ਪ੍ਰਤੀ ਮਹੀਨਾ ਵਾਲੇ Chrome extension ਨੂੰ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰੇਗੀ, ਜੋ 99 ਪ੍ਰਤੀਸ਼ਤ ਸ਼ੁੱਧਤਾ ਨਾਲ AI-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਟੈਕਸਟ ਨੂੰ ਫਲੈਗ ਕਰਨ ਦਾ ਦਾਅਵਾ ਕਰਦੀ ਹੈ—ਇੱਕ ਅਜਿਹਾ ਦਾਅਵਾ ਜੋ ਪੱਤਰਕਾਰਾਂ, ਵਿਦਵਾਨਾਂ ਅਤੇ ਭਰਤੀ ਕਰਨ ਵਾਲਿਆਂ ਦੁਆਰਾ ਪ੍ਰਮਾਣਿਕਤਾ ਦੀ ਜਾਂਚ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਬਦਲ ਸਕਦਾ ਹੈ।

AI-ਨਿਰਮਿਤ “slop” ਦਾ ਵਧਦਾ ਰੁਝਾਨ

ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ (Large language models) ਹੁਣ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਲੇਖ, ਸੋਸ਼ਲ-ਮੀਡੀਆ ਪੋਸਟਾਂ ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਕਾਨੂੰਨੀ ਹਵਾਲੇ ਵੀ ਤਿਆਰ ਕਰ ਰਹੇ ਹਨ। ਨਤੀਜਾ: ਘਟੀਆ ਕੁਆਲਿਟੀ ਦੇ SEO ਸਪੈਮ, ਤਾਲਮੇਲ ਵਾਲੀਆਂ ਗਲਤ ਜਾਣਕਾਰੀ ਦੀਆਂ ਮੁਹਿੰਮਾਂ, ਅਤੇ ਇੱਕ ਅਜਿਹਾ ਗ੍ਰੇ ਜ਼ੋਨ (gray zone) ਜਿੱਥੇ ਇਨਸਾਨ AI-ਨਿਰਮਿਤ ਡਰਾਫਟਾਂ ਨੂੰ ਸੁਧਾਰਦੇ ਹਨ। ਸੰਸਥਾਵਾਂ ਪਹਿਲਾਂ ਹੀ ਪ੍ਰਤੀਕਿਰਿਆ ਦੇ ਰਹੀਆਂ ਹਨ। ਪ੍ਰੀ-ਪ੍ਰਿੰਟ ਸਰਵਰ arXiv ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਉਹ ਲੇਖਕ ਜੋ ਅਣਪੜ੍ਹੇ LLM ਆਉਟਪੁੱਟ ਜਮ੍ਹਾਂ ਕਰਦੇ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਇੱਕ ਸਾਲ ਦੇ ਬੈਨ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ, ਅਤੇ ਅਦਾਲਤਾਂ ਨੇ ਉਹਨਾਂ ਵਕੀਲਾਂ 'ਤੇ ਜੁਰਮਾਨਾ ਲਗਾਉਣਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ ਹੈ ਜੋ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਬਣਾਵਟੀ ਹਵਾਲਿਆਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਮਸ਼ੀਨੀ ਆਉਟਪੁੱਟ ਤੋਂ ਇਨਸਾਨੀ ਆਉਟਪੁੱਟ ਨੂੰ ਵੱਖ ਕਰਨ ਦਾ ਦਬਾਅ ਵਧ ਰਿਹਾ ਹੈ, ਅਤੇ Pangram ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਉਸਦੀ ਤਕਨਾਲੋਜੀ ਡਿਫੌਲਟ ਵੈਰੀਫਿਕੇਸ਼ਨ ਲੇਅਰ ਬਣ ਸਕਦੀ ਹੈ।

ਸਿੰਥੈਟਿਕ ਮਿਰਰਿੰਗ (Synthetic mirroring): ਹਰ ਦਸਤਾਵੇਜ਼ ਦੇ ਜੁੜਵਾਂ 'ਤੇ ਟ੍ਰੇਨਿੰਗ

Pangram ਦਾ ਪ੍ਰਮੁੱਖ ਮਾਡਲ, Pangram 4, ਇੱਕ ਅਜਿਹੀ ਵਿਧੀ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ ਜਿਸਨੂੰ ਕੰਪਨੀ “synthetic mirroring” ਕਹਿੰਦੀ ਹੈ। ਇਸਦੇ ਟ੍ਰੇਨਿੰਗ ਸੈੱਟ ਵਿੱਚ ਹਰੇਕ ਮਨੁੱਖ ਦੁਆਰਾ ਲਿਖੇ ਗਏ ਦਸਤਾਵੇਜ਼—ਕਰੋੜਾਂ ਤਸਦੀਕ ਕੀਤੇ ਗਏ ਟੁਕੜੇ—ਲਈ, ਟੀਮ ਨੇ ਇੱਕ ਅਗਵਾਂਤੀ (frontier) LLM 'ਤੇ ਇੱਕ ਦੂਜਾ ਹਮਰੂ (counterpart) ਤਿਆਰ ਕੀਤਾ। ਇਹ ਸਿੰਥੈਟਿਕ ਜੁੜਵਾਂ ਵਿਸ਼ੇ, ਲੰਬਾਈ ਅਤੇ ਲਹਿਜੇ ਵਿੱਚ ਅਸਲ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ ਪਰ ਇਸਨੂੰ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਦੋਵਾਂ ਵਰਜ਼ਨਾਂ ਨੂੰ ਇੱਕੋ ਨਿਊਰਲ ਨੈੱਟ (neural net) ਵਿੱਚ ਪਾ ਕੇ, Pangram ਮਾਡਲ ਨੂੰ ਉਹ ਸੂਖਮ ਅੰਕੜਾਤਮਕ ਫਿੰਗਰਪ੍ਰਿੰਟ (statistical fingerprints) ਪਛਾਣਨਾ ਸਿਖਾਉਂਦਾ ਹੈ ਜੋ AI-ਨਿਰਮਿਤ ਟੈਕਸਟ ਵਿੱਚ ਮੌਜੂਦ ਰਹਿੰਦੇ ਹਨ, ਭਾਵੇਂ ਲੇਖਕ ਮਸ਼ੀਨੀ ਆਉਟਪੁੱਟ ਨੂੰ ਛੁਪਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ “AI humanizer” ਟੂਲ ਦੀ ਵਰਤੋਂ ਹੀ ਕਿਉਂ ਨਾ ਕਰਨ।

ਮੁਕਾਬਲੇਬਾਜ਼ ਮੈਟਾਡਾਟਾ (metadata) ਜਾਂ ਅਦਿੱਖ ਵਾਟਰਮਾਰਕਸ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਹਟਾਇਆ ਜਾਂ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਸਦੇ ਉਲਟ, Pangram ਸ਼ੈਲੀਗਤ ਵਿਸ਼ਲੇਸ਼ਣ (stylistic analysis) 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦਾ ਹੈ: ਸ਼ਬਦ ਚੋਣ, ਵਾਕਾਂ ਦੀ ਲੈਅ ਅਤੇ ਟੋਕਨ ਵੰਡ ਵਿੱਚ ਪੈਟਰਨ ਜੋ ਇੱਕ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਵਿੱਚ ਇਕਸਾਰ ਰਹਿੰਦੇ ਹਨ। ਕੰਪਨੀ ਦੀ ਰਿਲੀਜ਼ ਅਨੁਸਾਰ, ਅੰਦਰੂਨੀ ਟੈਸਟਾਂ ਵਿੱਚ ਸਿਸਟਮ ਨੇ 99 ਪ੍ਰਤੀਸ਼ਤ ਸ਼ੁੱਧਤਾ ਨਾਲ AI-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਲਿਖਤ ਨੂੰ ਫਲੈਗ ਕੀਤਾ।

APIs ਤੋਂ ਬ੍ਰਾਊਜ਼ਰਾਂ ਤੱਕ: ਤਕਨਾਲੋਜੀ ਕਿੱਥੇ ਪਹੁੰਚ ਰਹੀ ਹੈ

Panggram ਆਪਣੇ ਆਪ ਨੂੰ ਇੱਕ ਸਿੰਗਲ-ਪਰਪਜ਼ ਐਪ ਦੀ ਬਜਾਏ ਬੁਨਿਆਦੀ ਢਾਂਚੇ (infrastructure) ਵਜੋਂ ਪੇਸ਼ ਕਰਦਾ ਹੈ। ਇਸਦੀ API ਪਹਿਲਾਂ ਹੀ Substack ਨਾਲ ਜੁੜੀ ਹੋਈ ਹੈ, ਜਿੱਥੇ ਨਿਊਜ਼ਲੈਟਰ AI-ਨਿਰਮਿਤ ਸਮੱਗਰੀ ਦੇ ਅਨੁਪਾਤ ਨੂੰ ਦਰਸਾਉਣ ਵਾਲਾ ਇੱਕ ਲੇਬਲ ਦਿਖਾਉਂਦੇ ਹਨ। ਸ਼ੁਰੂਆਤੀ ਅਪਣਾਉਣ ਵਾਲਿਆਂ ਵਿੱਚ ਪ੍ਰਸ਼ਨ-ਉੱਤਰ ਪਲੇਟਫਾਰਮ Quora, ਕਈ ਯੂਨੀਵਰਸਿਟੀ ਰਾਈਟਿੰਗ ਸੈਂਟਰ ਅਤੇ ਭਰਤੀ ਏਜੰਸੀਆਂ ਵੀ ਸ਼ਾਮਲ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਉਮੀਦਵਾਰਾਂ ਦੁਆਰਾ ਦਿੱਤੇ ਗਏ ਕੰਮ ਦੀ ਅਸਲੀਅਤ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਵਿਅਕਤੀਗਤ ਉਪਭੋਗਤਾਵਾਂ ਲਈ, ਸਟਾਰਟਅੱਪ ਇੱਕ Chrome extension ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ ਜੋ X, LinkedIn, Reddit ਅਤੇ Medium ਵਰਗੀਆਂ ਸਾਈਟਾਂ 'ਤੇ “feed health score” ਦਿਖਾਉਂਦਾ ਹੈ। ਇਹ ਸਕੋਰ ਟੈਕਸਟ ਦੇ ਉਸ ਪ੍ਰਤੀਸ਼ਤ ਨੂੰ ਵੱਖ ਕਰਦਾ ਹੈ ਜਿਸ ਬਾਰੇ ਮਾਡਲ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਉਹ ਮਨੁੱਖੀ ਹੈ ਬਨਾਮ AI। ਗਾਹਕ ਰੀਅਲ-ਟਾਈਮ ਲੇਬਲਿੰਗ ਅਤੇ ਸ਼ੱਕੀ ਪੈਰਾਗ੍ਰਾਫਾਂ ਨੂੰ ਅਗਲੇਰੀ ਜਾਂਚ ਲਈ ਫਲੈਗ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਲਈ $20 ਪ੍ਰਤੀ ਮਹੀਨਾ ਅਦਾ ਕਰਦੇ ਹਨ।

ਇੱਕ ਸ਼ੱਕੀ ਨਜ਼ਰੀਆ

ਸ਼ੁੱਧਤਾ ਦੇ ਦਾਅਵੇ ਲਾਜ਼ਮੀ ਤੌਰ 'ਤੇ ਜਾਂਚ ਦਾ ਵਿਸ਼ਾ ਬਣਦੇ ਹਨ। “ਗ੍ਰੇ ਏਰੀਆ” (gray area) ਵਿੱਚ AI ਸਹਾਇਤਾ ਦਾ ਪਤਾ ਲਗਾਉਣਾ—ਜਿੱਥੇ ਇੱਕ ਲੇਖਕ ਮਾਡਲ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਡਰਾਫਟ ਨੂੰ ਐਡਿਟ ਕਰਦਾ ਹੈ—ਇੱਕ ਚੁਣੌਤੀਪੂਰਨ ਕੰਮ ਬਣਿਆ ਹੋਇਆ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਜਨਰੇਟਿਵ ਮਾਡਲ ਬਿਹਤਰ ਹੁੰਦੇ ਹਨ, ਉਹ ਸ਼ੈਲੀਗਤ ਪਾੜਾ ਜਿਸ 'ਤੇ Pangram ਨਿਰਭਰ ਕਰਦਾ ਹੈ, ਘਟ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਡਿਟੈਕਸ਼ਨ (ਪਛਾਣ) ਅਤੇ ਬਚਣ ਦੀਆਂ ਤਕਨੀਕਾਂ ਵਿਚਕਾਰ ਇੱਕ ਹਥਿਆਰਾਂ ਦੀ ਦੌੜ ਸ਼ੁਰੂ ਹੋ ਸਕਦੀ ਹੈ। ਆਲੋਚਕ “ਫਾਲਸ ਪੋਜ਼ੀਟ

Pangram ਦਾ $9 ਮਿਲੀਅਨ ਦਾ ਨਿਵੇਸ਼ ਇੱਕ ਅਜਿਹੀ ਡਿਟੈਕਸ਼ਨ ਰਣਨੀਤੀ ਨੂੰ ਹੁਲਾਰਾ ਦਿੰਦਾ ਹੈ ਜੋ AI-ਸਹਾਇਤਾ ਦੀ ਲਗਭਗ ਸੰਪੂਰਨ ਪਛਾਣ ਦਾ ਦਾਅਵਾ ਕਰਨ ਲਈ ਟਵਿਨ-ਡੌਕੂਮੈਂਟ ਟ੍ਰੇਨਿੰਗ ਰੈਜੀਮ 'ਤੇ ਅਧਾਰਤ ਹੈ। ਇਸਦੀ ਸਫਲਤਾ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰੇਗੀ ਕਿ ਕੀ ਇਹ ਵਿਧੀ ਵਿਕਸਤ ਹੋ ਰਹੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੇ ਅਨੁਕੂਲ ਹੋ ਸਕਦੀ ਹੈ ਅਤੇ ਉਹਨਾਂ ਪਲੇਟਫਾਰਮਾਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਦਾ ਭਰੋਸਾ ਜਿੱਤ ਸਕਦੀ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਇਸਦੀ ਸਭ ਤੋਂ ਵੱਧ ਲੋੜ ਹੈ।