ਵਾਈਬ-ਕੋਡਿੰਗ (Vibe-Coding) ਦੇ ਲੁਕਵੇਂ ਖ਼ਤਰੇ: ਕਿਉਂ AI ਦੁਆਰਾ ਬਣਾਏ ਗਏ ਐਪਸ ਸੁਰੱਖਿਆ ਜੋਖਮਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਦੇ ਹਨ

"ਵਾਈਬ-ਕੋਡਿੰਗ" (vibe-coding)—ਮੈਨੂਅਲ ਸਿੰਟੈਕਸ ਦੀ ਬਜਾਏ ਕੁਦਰਤੀ ਭਾਸ਼ਾ ਰਾਹੀਂ ਸੌਫਟਵੇਅਰ ਬਣਾਉਣ ਲਈ AI ਏਜੰਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ—ਦਾ ਉਭਾਰ ਵਿਅਕਤੀਗਤ ਉਤਪਾਦਕਤਾ ਦੇ ਇੱਕ ਨਵੇਂ ਯੁੱਗ ਦੀ ਸ਼ੁਰੂਆਤ ਕਰ ਰਿਹਾ ਹੈ। ਹਾਲਾਂਕਿ, ਜਿਵੇਂ-ਜਿਵੇਂ ਡਿਵੈਲਪਰ ਰਵਾਇਤੀ ਤਰਕ (logic) ਦੀ ਜਗ੍ਹਾ ਗੱਲਬਾਤ ਵਾਲੇ ਪ੍ਰੋਂਪਟਾਂ (conversational prompts) ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ, ਉਹ ਅਣਜਾਣੇ ਵਿੱਚ ਗੰਭੀਰ ਸੁਰੱਖਿਆ ਕਮੀਆਂ ਦਾ ਰਸਤਾ ਖੋਲ੍ਹ ਰਹੇ ਹਨ।

ਕਾਰਜਸ਼ੀਲਤਾ ਦਾ ਭਰਮ ਬਨਾਮ ਸੁਰੱਖਿਅਤ ਕੋਡ

ਵਾਈਬ-ਕੋਡਿੰਗ ਦਾ ਆਕਰਸ਼ਣ ਇਸਦੀ ਰਫ਼ਤਾਰ ਵਿੱਚ ਹੈ; ਤੁਸੀਂ ਇੱਕ ਸੰਕਲਪ ਦਾ ਵਰਣਨ ਕਰ ਸਕਦੇ ਹੋ ਅਤੇ ਕੁਝ ਹੀ ਮਿੰਟਾਂ ਵਿੱਚ ਇੱਕ AI ਏਜੰਟ ਨੂੰ ਕੰਮ ਕਰਦੇ ਹੋਏ ਐਪਲੀਕੇਸ਼ਨ ਬਣਾਉਂਦੇ ਦੇਖ ਸਕਦੇ ਹੋ। ਪਰ ਜਿਵੇਂ ਕਿ ਡਿਵੈਲਪਰ Bob Starr ਨੇ ਆਪਣੀ "Boomberg" ਵੈੱਬਸਾਈਟ—ਤਕਨੀਕੀ ਕੰਪਨੀਆਂ ਨੂੰ ਭੇਜੇ ਗਏ ਅਮਰੀਕੀ ਟੈਕਸ ਦੇ ਪੈਸੇ ਨੂੰ ਟ੍ਰੈਕ ਕਰਨ ਵਾਲਾ ਇੱਕ ਟੂਲ—ਨਾਲ ਪਤਾ ਲਗਾਇਆ, ਇੱਕ ਕਾਰਜਸ਼ੀਲ UI ਦਾ ਮਤਲਬ ਸੁਰੱਖਿਅਤ backend ਨਹੀਂ ਹੁੰਦਾ। Starr ਦਾ ਪ੍ਰੋਜੈਕਟ ਕਈ ਮਹੀਨਿਆਂ ਤੱਕ ਲਾਈਵ ਰਿਹਾ, ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਕਿ ਉਸਨੂੰ ਅਹਿਸਾਸ ਹੋਇਆ ਕਿ ਇਸ ਵਿੱਚ SQL injection ਦਾ ਇੱਕ ਵੱਡਾ ਜੋਖਮ ਸੀ, ਇੱਕ ਅਜਿਹੀ ਕਮੀ ਜੋ ਹਮਲਾਵਰਾਂ ਨੂੰ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਪੜ੍ਹਨ ਜਾਂ ਬਦਲਣ ਦੀ ਇਜਾਜ਼ਤ ਦੇ ਸਕਦੀ ਹੈ।

ਇਹ ਵਰਤਾਰੇ ਕਈ ਨਵੇਂ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਇੱਕ ਖ਼ਤਰਨਾਕ "ਅਣਡਿੱਠੇ ਖ਼ਤਰੇ" (blindspot) ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ: ਕਿਸੇ ਟੂਲ ਦੀ ਸਮਰੱਥਾ ਨੂੰ ਸਮਝਣ ਅਤੇ ਉਸਦੇ ਅਧਾਰ ਅਧੀਨ ਤਕਨੀਕੀ ਆਰਕੀਟੈਕਚਰ ਨੂੰ ਸਮਝਣ ਵਿਚਕਾਰ ਦਾ ਪਾੜਾ। ਜਦੋਂ ਤੁਸੀਂ ਵਾਈਬ-ਕੋਡ ਕਰਦੇ ਹੋ, ਤਾਂ ਤੁਸੀਂ ਸੁਰੱਖਿਆ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਇੱਕ LLM ਨੂੰ ਸੌਂਪ ਰਹੇ ਹੁੰਦੇ ਹੋ ਜੋ "ਇਸਨੂੰ ਕੰਮ ਕਰਵਾਉਣ" ਨੂੰ "ਇਸਨੂੰ ਸੁਰੱਖਿਅਤ ਬਣਾਉਣ" ਨਾਲੋਂ ਵੱਧ ਤਰਜੀਹ ਦਿੰਦਾ ਹੈ।

ਅਸਲ ਦੁਨੀਆ ਦੇ ਨਤੀਜੇ: ਡੇਟਾ ਲੀਕ ਹੋਣ ਤੋਂ ਲੈ ਕੇ ਡੇਟਾਬੇਸ ਮਿਟ ਜਾਣ ਤੱਕ

ਜੋਖਮ ਹੁਣ ਸਿਰਫ਼ ਸਿਧਾਂਤਕ ਚਿੰਤਾਵਾਂ ਤੋਂ ਅੱਗੇ ਵਧ ਕੇ ਵਿਨਾਸ਼ਕਾਰੀ ਅਸਲ ਦੁਨੀਆ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ ਬਦਲ ਰਹੇ ਹਨ। ਭਾਈਚਾਰੇ ਨੇ ਅਜਿਹੀਆਂ ਭਿਆਨਕ ਕਹਾਣੀਆਂ ਵਿੱਚ ਵਾਧਾ ਦੇਖਿਆ ਹੈ ਜੋ ਸੰਸਥਾਪਕਾਂ (founders) ਅਤੇ ਡਿਵੈਲਪਰਾਂ ਦੋਵਾਂ ਲਈ ਚੇਤਾਵਨੀ ਵਜੋਂ ਕੰਮ ਕਰਦੀਆਂ ਹਨ। PocketOS ਦੇ ਸੰਸਥਾਪਕ Jer Crane ਨੇ X 'ਤੇ ਰਿਪੋਰਟ ਕੀਤੀ ਕਿ ਇੱਕ AI ਕੋਡਿੰਗ ਏਜੰਟ ਨੇ ਗਲਤੀ ਨਾਲ ਉਸਦੀ ਕੰਪਨੀ ਦਾ ਸਾਰਾ production database ਮਿਟਾ ਦਿੱਤਾ।

ਇੱਥੋਂ ਤੱਕ ਕਿ ਤਜਰਬੇਕਾਰ ਉੱਦਮੀ ਵੀ ਇਹਨਾਂ ਆਟੋਮੇਟਡ ਗਲਤੀਆਂ ਦਾ ਸ਼ਿਕਾਰ ਹੋ ਰਹੇ ਹਨ। ਇੱਕ ਸਾਬਕਾ ਡਿਵੈਲਪਰ ਅਤੇ ਸੀਰੀਅਲ ਉੱਦਮੀ Joe Procopio ਨੇ ਆਪਣੇ ਸੌਫਟਵੇਅਰ ਦਾ ਡੈਮੋ ਦੇਣ ਲਈ ਇੱਕ ਨਿੱਜੀ ਵੈੱਬ ਐਪ ਨੂੰ ਵਾਈਬ-ਕੋਡ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ। ਨਤੀਜੇ ਵਜੋਂ ਹੈਕਰਾਂ ਦੀਆਂ ਗਤੀਵਿਧੀਆਂ ਇੰਨੀਆਂ ਵਧ ਗਈਆਂ ਕਿ ਉਸਨੂੰ ਐਪ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬੰਦ ਕਰਨ ਲਈ ਮਜਬੂਰ ਹੋਣਾ ਪਿਆ। Procopio ਉਦੋਂ ਤੋਂ ਲੋਕਲ ਮਸ਼ੀਨਾਂ ਅਤੇ Zoom ਰਾਹੀਂ ਡੈਮੋ ਦੇਣ ਦੇ "ਪੁਰਾਣੇ ਤਰੀਕੇ" ਵੱਲ ਵਾਪਸ ਮੁੜ ਗਿਆ ਹੈ, ਜੋ AI ਦੁਆਰਾ ਬਣਾਏ ਗਏ production environments ਦੀ ਮੌਜੂਦਾ ਅਭਰੋਸਯੋਗਤਾ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।

ਨਿੱਜੀ ਸੌਫਟਵੇਅਰ ਦੇ ਯੁੱਗ ਵਿੱਚ ਰਸਤਾ ਲੱਭਣਾ

ਜਿਵੇਂ ਕਿ The Verge ਦੇ David Pierce ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ, ਅਸੀਂ "ਨਿੱਜੀ ਸੌਫਟਵੇਅਰ ਦੇ ਇੱਕ ਨਵੇਂ ਯੁੱਗ" ਵਿੱਚ ਪ੍ਰਵੇਸ਼ ਕਰ ਚੁੱਕੇ ਹਾਂ, ਜਿੱਥੇ ਐਪ ਬਣਾਉਣ ਲਈ ਰੁਕਾਵਟਾਂ ਲਗਭਗ ਖਤਮ ਹੋ ਗਈਆਂ ਹਨ। ਇਹ ਲੋਕਤੰਤਰੀਕਰਨ (democratization) ਕ੍ਰਾਂਤੀਕਾਰੀ ਹੈ, ਪਰ ਇਹ ਸੁਰੱਖਿਆ ਦਾ ਬੋਝ ਪੇਸ਼ੇਵਰ DevOps ਟੀਮਾਂ ਤੋਂ ਹਟਾ ਕੇ ਉਹਨਾਂ ਵਿਅਕਤੀਗਤ ਨਿਰਮਾਤਾਵਾਂ 'ਤੇ ਪਾ ਦਿੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਕੋਲ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦਾ ਮੁੱਢਲਾ ਗਿਆਨ ਨਹੀਂ ਹੋ ਸਕਦਾ।

ਵਿਆਪਕ AI ਲੈਂਡਸਕੇਪ ਲਈ, ਇਹ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਮੋੜ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ AI ਏਜੰਟ ਵਧੇਰੇ ਖੁਦਮੁਖਤਿਆਰ (autonomous) ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ, ਉਦਯੋਗ ਨੂੰ "secure-by-design" ਪ੍ਰੋਂਪਟਿੰਗ ਅਤੇ ਆਟੋਮੇਟਡ ਸੁਰੱਖਿਆ ਆਡਿਟਿੰਗ ਟੂਲਜ਼ ਵੱਲ ਵਧਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਵਾਈਬ-ਕੋਡਰ ਲਈ ਇੱਕ ਸੁਰੱਖਿਆ ਜਾਲ (safety net) ਵਜੋਂ ਕੰਮ ਕਰਨ। ਇਹਨਾਂ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਤੋਂ ਬਿਨਾਂ, AI ਵਿਕਾਸ ਦੁਆਰਾ ਪ੍ਰਾਪਤ ਕੀਤੀ ਗਈ ਰਫ਼ਤਾਰ ਨੂੰ ਡੇਟਾ ਚੋਰੀ ਅਤੇ ਸਿਸਟਮ ਦੀਆਂ ਅਸਫਲਤਾਵਾਂ ਦੀ ਲਾਗਤ ਦੁਆਰਾ ਲਗਾਤਾਰ ਖਤਮ ਕੀਤਾ ਜਾਵੇਗਾ।

ਮੁੱਖ ਗੱਲਾਂ

• ਕਾਰਜਸ਼ੀਲਤਾ ਸੁਰੱਖਿਆ ਨਹੀਂ ਹੈ: ਇੱਕ AI ਦੁਆਰਾ ਬਣਾਇਆ ਗਿਆ ਐਪ ਜੋ ਦੇਖਣ ਵਿੱਚ ਅਤੇ ਕੰਮ ਕਰਨ ਵਿੱਚ ਬਿਲਕੁਲ ਸਹੀ ਲੱਗਦਾ ਹੈ, ਫਿਰ ਵੀ ਇਸ ਵਿੱਚ SQL injection ਵਰਗੀਆਂ ਗੰਭੀਰ ਕਮੀਆਂ ਹੋ ਸਕਦੀਆਂ ਹਨ।
• ਅਣਡਿੱਠੇ ਖ਼ਤਰੇ (Blindspot) ਦਾ ਜੋਖਮ: ਵਾਈਬ-ਕੋਡਿੰਗ ਇੱਕ ਖ਼ਤਰਨਾਕ ਪਾੜਾ ਪੈਦਾ ਕਰਦੀ ਹੈ ਜਿੱਥੇ ਉਪਭੋਗਤਾਵਾਂ ਕੋਲ AI ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਦੁਆਰਾ ਕੀਤੀਆਂ ਗਈਆਂ ਗਲਤੀਆਂ ਨੂੰ ਪਛਾਣਨ ਲਈ ਤਕਨੀਕੀ ਸੰਦਰਭ ਦੀ ਘਾਟ ਹੁੰਦੀ ਹੈ।
• Production ਦਾ ਖ਼ਤਰਾ: ਮੌਜੂਦਾ AI ਏਜੰਟ ਭਿਆਨਕ ਗਲਤੀਆਂ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹਨ, ਜਿਸ ਵਿੱਚ ਪੂਰੇ production databases ਨੂੰ ਡਿਲੀਟ ਕਰਨਾ ਅਤੇ ਨਿੱਜੀ ਐਪਸ ਨੂੰ ਹੈਕਰਾਂ ਦੇ ਸਾਹਮਣੇ ਖੋਲ੍ਹਣਾ ਸ਼ਾਮਲ ਹੈ।