AI ਲਈ ਸਭ ਤੋਂ ਵੱਡਾ ਖ਼ਤਰਾ
ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਇੱਕ ਅਜਿਹੀ ਮਸ਼ੀਨ ਤੋਂ ਡਰਦੇ ਹਨ ਜੋ ਜਾਗ ਉੱਠਦੀ ਹੈ।
ਅਸਲੀ ਖ਼ਤਰਾ ਸ਼ਾਂਤ ਹੈ। AI ਇਸ ਲਈ ਫੇਲ ਨਹੀਂ ਹੋ ਸਕਦਾ ਕਿਉਂਕਿ ਇਹ ਬਹੁਤ ਸਿਆਣਾ ਹੋ ਜਾਂਦਾ ਹੈ। ਇਹ ਇਸ ਲਈ ਫੇਲ ਹੋ ਸਕਦਾ ਹੈ ਕਿਉਂਕਿ ਅਸੀਂ ਇਸਦੇ ਭੋਜਨ (ਡਾਟਾ) ਨੂੰ ਜ਼ਹਿਰੀਲਾ ਕਰ ਦਿੰਦੇ ਹਾਂ।
ਸਾਲ 2029 ਬਾਰੇ ਸੋਚੋ। ਡਿਵੈਲਪਰ ਵਿਸ਼ਾਲ context windows ਅਤੇ ਬਿਹਤਰ ਤਰਕ (reasoning) ਦੇ ਨਾਲ ਨਵੇਂ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦਿੰਦੇ ਹਨ। ਉਹ ਇਹਨਾਂ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਾਉਣ ਲਈ ਇੰਟਰਨੈਟ ਦੇ ਇੱਕ ਸਨੈਪਸ਼ਾਟ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਇਸ ਵਿੱਚ ਬਲੌਗ, ਫੋਰਮ, ਖ਼ਬਰਾਂ ਅਤੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਸ਼ਾਮਲ ਹਨ।
ਪਰ ਇੰਟਰਨੈਟ ਬਦਲ ਰਿਹਾ ਹੈ।
ਸਾਲਾਂ ਤੋਂ, ਬੋਟਸ ਅਤੇ ਸਮੂਹ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਸਮੱਗਰੀ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰ ਰਹੇ ਹਨ। ਇਹ ਸਿਰਫ਼ ਸਧਾਰਨ ਸਪੈਮ ਨਹੀਂ ਹੈ। ਇਹ ਚੰਗੀ ਤਰ੍ਹਾਂ ਲਿਖੀ ਗਈ ਸਮੱਗਰੀ ਹੈ।
ਇੰਟਰਨੈਟ ਟ੍ਰੇਨਿੰਗ ਡਾਟਾ ਲਈ ਇੱਕ ਯੁੱਧ ਮੈਦਾਨ ਬਣ ਰਿਹਾ ਹੈ।
ਪੁਰਾਣਾ ਪ੍ਰਚਾਰ ਲੋਕਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦਾ ਸੀ। ਨਵਾਂ ਪ੍ਰਚਾਰ ਮਾਡਲਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦਾ ਹੈ। ਇੱਕ ਵਾਰ ਜਦੋਂ ਟ੍ਰੇਨਿੰਗ ਡਾਟਾ ਵਿੱਚ ਕੋਈ ਪੱਖਪਾਤ (bias) ਆ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਇਹ ਲੱਖਾਂ ਭਵਿੱਖੀ AI ਸਿਸਟਮਾਂ ਦੇ ਅੰਦਰ ਰਹਿ ਜਾਂਦਾ ਹੈ।
ਸ਼ਾਇਦ ਤੁਸੀਂ ਕਦੇ ਵੀ ਫਰਜ਼ੀ ਲੇਖ ਨਾ ਦੇਖੋ। ਸ਼ਾਇਦ ਤੁਹਾਨੂੰ ਕਦੇ ਵੀ ਮੈਨੀਪੁਲੇਟਡ ਥ੍ਰੈਡ ਨਾ ਮਿਲੇ। ਪਰ ਪ੍ਰਭਾਵ ਬਣਿਆ ਰਹਿੰਦਾ ਹੈ। ਇਹ ਇੱਕ ਡਿਫੌਲਟ ਅਨੁਮਾਨ ਬਣ ਜਾਂਦਾ ਹੈ। ਇਹ ਉਹ ਜਵਾਬ ਬਣ ਜਾਂਦਾ ਹੈ ਜੋ ਸਹੀ ਲੱਗਦਾ ਹੈ।
ਡਾਟਾ ਪੋਇਜ਼ਨਿੰਗ (Data poisoning) ਸਿਰਫ਼ ਇੱਕ ਤਕਨੀਕੀ ਹਮਲਾ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਸੂਖਮ ਤਬਦੀਲੀ ਹੈ। ਇਹ ਮਾਡਲ ਨੂੰ ਤੋੜਦਾ ਨਹੀਂ ਹੈ। ਇਹ ਇਸਨੂੰ ਮੋੜ ਦਿੰਦਾ ਹੈ।
ਇਹਨਾਂ ਖ਼ਤਰਿਆਂ 'ਤੇ ਵਿਚਾਰ ਕਰੋ:
- ਫਰਜ਼ੀ ਪੇਜ ਇੱਕ ਖ਼ਤਰਨਾਕ ਉਤਪਾਦ ਨੂੰ ਸੁਰੱਖਿਅਤ ਦਿਖਾਉਂਦੇ ਹਨ।
- ਫਰਜ਼ੀ ਡਿਵੈਲਪਰ ਚੈਟਸ ਮਾੜੇ ਕੋਡ ਨੂੰ ਵਧੀਆ ਅਭਿਆਸ (best practice) ਵਾਂਗ ਦਿਖਾਉਂਦੇ ਹਨ।
- ਰਾਜਨੀਤਿਕ ਬਿਰਤਾਂਤ ਸਾਲਾਂ ਪਹਿਲਾਂ ਹੀ ਬੀਜ ਦਿੱਤੇ ਜਾਂਦੇ ਹਨ।
- ਸਿੰਥੈਟਿਕ ਰਾਏ ਭਵਿੱਖ ਦੇ ਸਹਾਇਕਾਂ (assistants) ਦੀ ਆਵਾਜ਼ ਬਣ ਜਾਂਦੀ ਹੈ।
ਖ਼ਤਰਾ ਕੋਈ ਇੱਕ ਝੂਠ ਨਹੀਂ ਹੈ। ਖ਼ਤਰਾ ਹਕੀਕਤ ਦਾ ਇੱਕ ਵਿਗਾੜਿਆ ਹੋਇਆ ਨਕਸ਼ਾ ਹੈ।
ਲੋਕ ਹੁਣ ਮਨੁੱਖੀ ਪਾਠਕਾਂ ਦੀ ਬਜਾਏ ਭਵਿੱਖ ਦੇ ਮਾਡਲਾਂ ਲਈ ਸਮੱਗਰੀ ਲਿਖਦੇ ਹਨ। ਇੱਕ ਬਲੌਗ ਪੋਸਟ ਇੱਕ ਬੀਜ ਹੈ। ਇੱਕ ਫਰਜ਼ੀ ਰਿਵਿਊ ਇੱਕ ਸੰਕੇਤ ਹੈ। ਹਜ਼ਾਰਾਂ ਛੋਟੇ ਝੂਠ ਅੰਕੜਾਤਮਕ ਸੱਚ (statistical truth) ਬਣ ਜਾਂਦੇ ਹਨ।
AI ਸਾਡਾ ਸ਼ੋਰ ਅਤੇ ਸਾਡੀ ਮੈਨੀਪੁਲੇਸ਼ਨ ਵਿਰਾਸਤ ਵਿੱਚ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਇੰਟਰਨੈਟ ਪ੍ਰਦੂਸ਼ਿਤ ਹੈ, ਤਾਂ ਮਾਡਲ ਸਾਡੀਆਂ ਸਭ ਤੋਂ ਮਾੜੀਆਂ ਵਿਗਾੜਾਂ ਨੂੰ ਸਿੱਖਣਗੇ।
ਸਾਨੂੰ ਇੱਕ ਨਵਾਂ ਸਵਾਲ ਪੁੱਛਣਾ ਚਾਹੀਦਾ ਹੈ। ਸਾਨੂੰ ਸਿਰਫ਼ ਇਹ ਨਹੀਂ ਪੁੱਛਣਾ ਚਾਹੀਦਾ ਕਿ ਕੀ ਅਸੀਂ AI ਨੂੰ ਸੁਰੱਖਿਅਤ ਬਣਾ ਸਕਦੇ ਹਾਂ। ਸਾਨੂੰ ਇਹ ਪੁੱਛਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕੀ ਅਸੀਂ ਆਪਣੇ ਗਿਆਨ ਨੂੰ AI ਦੇ ਸਿੱਖਣ ਲਈ ਕਾਫ਼ੀ ਸੁਰੱਖਿਅਤ ਰੱਖ ਸਕਦੇ ਹਾਂ।
ਅੱਜ ਦਾ ਇੰਟਰਨੈਟ ਉਹਨਾਂ ਲੋਕਾਂ ਦੁਆਰਾ ਲਿਖਿਆ ਜਾ ਰਿਹਾ ਹੈ ਜੋ ਇਹ ਜਾਣਦੇ ਹਨ।
ਸਰੋਤ: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km
ਵਿਕਲਪਿਕ ਸਿੱਖਣ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi