ਸਹੂਲਤ ਦਾ ਜਾਲ
ਜਦੋਂ ਇੱਕ AI ਏਜੰਟ ਤੁਹਾਡੇ ਕੀਬੋਰਡ ਨੂੰ ਹੱਥ ਲਗਾਏ ਬਿਨਾਂ ਤੁਹਾਡੀਆਂ ਉਡਾਣਾਂ ਬੁੱਕ ਕਰ ਸਕਦਾ ਹੈ, ਤੁਹਾਡੇ ਇਨਵੌਇਸਾਂ ਦਾ ਭੁਗਤਾਨ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਤੁਹਾਡੇ CRM ਨੂੰ ਅਪਡੇਟ ਕਰ ਸਕਦਾ ਹੈ,
ਜੇਕਰ ਤੁਹਾਡਾ ਏਜੰਟ ਪੈਸੇ ਮੂਵ ਕਰ ਸਕਦਾ ਹੈ, ਪਾਸਵਰਡ ਬਦਲ ਸਕਦਾ ਹੈ, ਐਗਜ਼ੀਕਿਊਟੇਬਲ ਡਾਊਨਲੋਡ ਕਰ ਸਕਦਾ ਹੈ, ਜਾਂ ਉਪਭੋਗਤਾ ਦੀ ਤਰਫੋਂ ਸੁਨੇਹੇ ਭੇਜ ਸਕਦਾ ਹੈ, ਤਾਂ ਇਸਨੂੰ ਰੁਕ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਹਮੇਸ਼ਾ। ਸੰਵੇਦਨਸ਼ੀਲ ਕਾਰਜਾਂ ਲਈ ਵਰਕਫਲੋ ਵਿੱਚ 'ਹਾਰਡ ਸਟੌਪਸ' (hard stops) ਬਣਾਓ। ਇੱਕ ਕਨਫਰਮੇਸ਼ਨ ਡਾਇਲਾਗ ਵਿੱਚ ਬਿਲਕੁਲ ਉਹੀ ਦਿਖਾਉਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਏਜੰਟ ਕਰਨ ਦਾ ਇਰਾਦਾ ਰੱਖਦਾ ਹੈ, ਜੋ ਉਪਭੋਗਤਾ ਦੀ ਅਸਲ ਬੇਨਤੀ ਤੋਂ ਲਿਆ ਗਿਆ ਹੋਵੇ, ਨਾ ਕਿ ਮੌਜੂਦਾ ਪੇਜ 'ਤੇ ਮਿਲੇ ਟੈਕਸਟ ਤੋਂ। ਜੇਕਰ ਉਪਭੋਗਤਾ ਨੇ ਇਨਵੌਇਸ ਦਾ ਭੁਗਤਾਨ ਕਰਨ ਲਈ ਕਿਹਾ ਹੈ, ਤਾਂ ਕਨਫਰਮੇਸ਼ਨ ਵਿੱਚ ਉਪਭੋਗਤਾ ਦੇ ਰਿਕਾਰਡਾਂ ਜਾਂ ਉਹਨਾਂ ਦੀ ਸਪੱਸ਼ਟ ਇਨਪੁਟ ਤੋਂ ਪ੍ਰਾਪਤ ਭੁਗਤਾਨਕਰਤਾ ਅਤੇ ਰਕਮ ਦਿਖਾਈ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ, ਨਾ ਕਿ ਉਸ ਫੀਲਡ ਤੋਂ ਜਿਸ ਨੂੰ ਏਜੰਟ ਨੇ ਹੁਣੇ ਸਕ੍ਰੇਪ ਕੀਤਾ ਹੈ। ਇਹ ਇੱਕੋ ਇੱਕ ਅਭਿਆਸ ਜ਼ਿਆਦਾਤਰ ਇੰਜੈਕਸ਼ਨ ਕੋਸ਼ਿਸ਼ਾਂ ਨੂੰ ਨਾਕਾਮ ਕਰ ਦਿੰਦਾ ਹੈ, ਕਿਉਂਕਿ ਹਮਲਾਵਰ ਤੁਹਾਡੀ ਤਰਫੋਂ "ਹਾਂ" (Yes) 'ਤੇ ਕਲਿੱਕ ਨਹੀਂ ਕਰ ਸਕਦਾ।
ਏਜੰਟ ਜੋ ਦੇਖਦਾ ਹੈ ਉਸ ਬਾਰੇ ਪਾਰਦਰਸ਼ੀ ਬਣੋ
ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇਹ ਦੇਖਣ ਦਾ ਹੱਕ ਹੈ ਕਿ ਕਦੋਂ ਕੋਈ ਏਜੰਟ ਵੈੱਬਪੇਜ ਵਿੱਚ ਦਰਜ ਹਦਾਇਤਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਏਜੰਟ ਅਜਿਹੇ ਟੈਕਸਟ ਨੂੰ ਪੜ੍ਹਦਾ ਹੈ ਜਿਸ ਵਿੱਚ "ਪਿਛਲੀਆਂ ਹਦਾਇਤਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰੋ" (ignore previous instructions) ਜਾਂ "ਸਿਸਟਮ ਓਵਰਰਾਈਡ" (system override) ਵਰਗੀ ਆਦੇਸ਼ਾਤਮਕ ਭਾਸ਼ਾ ਸ਼ਾਮਲ ਹੋਵੇ, ਤਾਂ ਉਸ 'ਤੇ ਕਾਰਵਾਈ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਉਸ ਖੋਜ ਨੂੰ ਉਪਭੋਗਤਾ ਦੇ ਸਾਹਮਣੇ ਲਿਆਓ। ਇਸ ਤੋਂ ਵੀ ਬਿਹਤਰ ਇਹ ਹੋਵੇਗਾ ਕਿ ਏਜੰਟ ਦੇ ਰੀਜ਼ਨਿੰਗ ਟ੍ਰੇਸ (reasoning trace) ਵਿੱਚ ਖਾਸ DOM ਐਲੀਮੈਂਟ ਜਾਂ ਟੈਕਸਟ ਸਨੀਪੇਟ ਨੂੰ ਫਲੈਗ ਕਰੋ। ਦਿਖਣਯੋਗਤਾ ਇੱਕ ਚੁੱਪ ਹਮਲੇ ਨੂੰ ਇੱਕ ਸਪੱਸ਼ਟ ਅਸਧਾਰਨ ਘਟਨਾ ਵਿੱਚ ਬਦਲ ਦਿੰਦੀ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਉਪਭੋਗਤਾ ਪਛਾਣ ਲੈਣਗੇ ਕਿ ਇੱਕ ਰੈਂਡਮ ਕਮੈਂਟ ਫੀਲਡ ਨੂੰ ਉਹਨਾਂ ਦੇ ਸਹਾਇਕ ਨੂੰ ਹੁਕਮ ਨਹੀਂ ਦੇਣੇ ਚਾਹੀਦੇ।
ਪੇਜ 'ਤੇ ਅਧਿਕਾਰ ਦਾ ਦਾਅਵਾ ਕਰਨ ਵਾਲੀਆਂ ਗੱਲਾਂ ਨੂੰ ਰੱਦ ਕਰੋ
ਵੈੱਬ ਕੰਟੈਂਟ ਜੋ "ਐਡਮਿਨ" (admin), "ਸਿਸਟਮ" (system), ਜਾਂ "ਡਿ