𝗔𝗜 𝗖𝗵𝗮𝘁𝗯𝗼𝘁𝘀 ਹੋਲੋਕਾਸਟ ਤੋਂ ਇਨਕਾਰ ਨੂੰ ਵਧਾਵਾ ਦੇ ਰਹੇ ਹਨ
ਯੂਨੈਸਕੋ (UNESCO) ਅਤੇ ਸੰਯੁਕਤ ਰਾਸ਼ਟਰ ਨੇ ਇੱਕ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕੀਤੀ ਹੈ। ਜਨਰੇਟਿਵ AI ਲੋਕਾਂ ਨੂੰ ਹੋਲੋਕਾਸਟ ਤੋਂ ਇਨਕਾਰ ਅਤੇ ਗਲਤ ਇਤਿਹਾਸ ਫੈਲਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰ ਰਿਹਾ ਹੈ।
ਮਾੜੇ ਇਰਾਦੇ ਵਾਲੇ ਲੋਕ ਵੱਡੀ ਮਾਤਰਾ ਵਿੱਚ ਫਰਜ਼ੀ ਸਮੱਗਰੀ ਬਣਾਉਣ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਉਹ ਇਸਦੀ ਵਰਤੋਂ ਫਰਜ਼ੀ ਚਸ਼ਮਦੀਦ ਗਵਾਹਾਂ ਦੇ ਬਿਆਨ ਅਤੇ ਬਦਲੇ ਹੋਏ ਇਤਿਹਾਸਕ ਫੋਟੋਆਂ ਬਣਾਉਣ ਲਈ ਕਰਦੇ ਹਨ।
ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਨਿਯਮ ਅਕਸਰ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ। ਉਪਭੋਗਤਾ ਸਧਾਰਨ ਪ੍ਰੋਂਪਟ ਰਾਹੀਂ ਫਿਲਟਰਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਦੇ ਤਰੀਕੇ ਲੱਭ ਲੈਂਦੇ ਹਨ। ਉਹ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਇਨਕਾਰ ਕਰਨ ਲਈ ਨਹੀਂ ਕਹਿੰਦੇ। ਇਸ ਦੀ ਬਜਾਏ, ਉਹ AI ਨੂੰ ਅਜਿਹੀਆਂ ਕਲਪਨਾਤਮਕ ਕਹਾਣੀਆਂ ਲਿਖਣ ਲਈ ਕਹਿੰਦੇ ਹਨ ਜੋ ਇਤਿਹਾਸਕ ਤੱਥਾਂ 'ਤੇ ਸਵਾਲ ਉਠਾਉਂਦੀਆਂ ਹਨ।
ਰਿਪੋਰਟ ਕਈ ਵੱਡੇ ਜੋਖਮਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ:
- AI ਮਾਡਲ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਦੇ ਅਧਾਰ 'ਤੇ ਸ਼ਬਦਾਂ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਦੇ ਹਨ। ਜੇਕਰ ਉਸ ਡੇਟਾ ਵਿੱਚ ਸਾਜ਼ਿਸ਼ਾਂ ਦੇ ਸਿਧਾਂਤ ਸ਼ਾਮਲ ਹਨ, ਤਾਂ AI ਗਲਤ ਦਾਅਵੇ ਕਰਦਾ ਹੈ।
- ਆਟੋਮੇਟਿਡ ਸਕ੍ਰਿਪਟਾਂ ਇੱਕੋ ਸਮੇਂ ਹਜ਼ਾਰਾਂ ਫਰਜ਼ੀ ਲੇਖ ਤਿਆਰ ਕਰਦੀਆਂ ਹਨ।
- "ਸੌਫਟ ਡਿਨਾਇਲ" ਜਨੋਸਾਈਡ ਦੇ ਪੈਮਾਨੇ ਨੂੰ ਘਟਾਉਣ ਲਈ ਨਿਰਪੱਖ ਭਾਸ਼ਾ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਮਸ਼ੀਨਾਂ ਲਈ ਇਸ ਨੂੰ ਫੜਨਾ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਹੈ।
- ਡੀਪਫੇਕਸ ਝੂਠ ਨੂੰ ਅਸਲੀ ਦਿਖਾਉਣ ਲਈ ਕਲੋਨ ਕੀਤੇ ਗਏ ਆਵਾਜ਼ਾਂ ਅਤੇ ਵੀਡੀਓ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ।
- ਇਮੇਜ ਜਨਰੇਟਰ ਅਜਿਹੀਆਂ ਘਟਨਾਵਾਂ ਦੀਆਂ ਬਿਲਕੁਲ ਅਸਲੀ ਵਰਗੀਆਂ ਤਸਵੀਰਾਂ ਬਣਾਉਂਦੇ ਹਨ ਜੋ ਕਦੇ ਵਾਪਰੀਆਂ ਹੀ ਨਹੀਂ।
ਭਾਸ਼ਾ ਦੇ ਪਾੜੇ ਵੀ ਮੌਜੂਦ ਹਨ। ਸੁਰੱਖਿਆ ਨਿਯਮ ਅਕਸਰ ਅੰਗਰੇਜ਼ੀ ਵਿੱਚ ਮਜ਼ਬੂਤ ਹੁੰਦੇ ਹਨ ਪਰ ਅਰਬੀ, ਫਰਾਂਸੀਸੀ ਜਾਂ ਜਰਮਨ ਵਰਗੀਆਂ ਭਾਸ਼ਾਵਾਂ ਵਿੱਚ ਕਮਜ਼ੋਰ ਹੁੰਦੇ ਹਨ। ਇਸ ਨਾਲ ਗਲਤ ਜਾਣਕਾਰੀ ਨੂੰ ਵਿਸ਼ਵ ਪੱਧਰ 'ਤੇ ਫੈਲਣ ਵਿੱਚ ਮਦਦ ਮਿਲਦੀ ਹੈ।
ਯੂਨੈਸਕੋ ਚਾਹੁੰਦਾ ਹੈ ਕਿ ਤਕਨੀਕੀ ਕੰਪਨੀਆਂ ਵਧੇਰੇ ਜ਼ਿੰਮੇਵਾਰੀ ਲਓ। ਉਹ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਕੰਪਨੀਆਂ ਨੂੰ ਉਹਨਾਂ ਆਉਟਪੁੱਟ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਸਾਬਤ ਹੋ ਚੁੱਕੇ ਇਤਿਹਾਸਕ ਤੱਥਾਂ ਦੇ ਵਿਰੁੱਧ ਹਨ।
ਕੁਝ ਕੰਪ