ਤੁਹਾਡੀਆਂ AI ਸੁਰੱਖਿਆ ਨੀਤੀਆਂ ਠੀਕ ਹਨ। ਤੁਹਾਡਾ ਆਰਕੀਟੈਕਚਰ ਨਹੀਂ।
ਤੁਹਾਡੇ ਕੋਲ AI ਸੁਰੱਖਿਆ ਨੀਤੀਆਂ ਹਨ। ਤੁਹਾਡੇ ਕੋਲ ਨਿਯਮ ਹਨ। ਤੁਹਾਡੇ ਕੋਲ ਟੈਸਟਿੰਗ ਹੈ। ਤੁਹਾਡਾ ਆਰਕੀਟੈਕਚਰ ਇਹਨਾਂ ਨਿਯਮਾਂ ਨੂੰ ਲਾਗੂ ਨਹੀਂ ਕਰਦਾ।
AI ਜੋਖਮ ਵੱਖਰੇ ਤਰੀਕੇ ਨਾਲ ਹਿੱਲਦਾ ਹੈ। ਇਹ ਇੱਕੋ ਜਗ੍ਹਾ 'ਤੇ ਨਹੀਂ ਰਹਿੰਦਾ। ਪੁਰਾਣੇ ਟੂਲ ਇੱਕ ਹੀ ਰਸਤੇ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਨ। ਉਹ ਪੂਰੀ execution ਨੂੰ ਮਿਸ ਕਰ ਦਿੰਦੇ ਹਨ। AI ਜੋਖਮ ਆਮ ਕੰਮ ਵਾਂਗ ਲੱਗਦਾ ਹੈ।
Samsung ਇੱਕ ਸਬਕ ਦਿੰਦਾ ਹੈ। ਕਿਸੇ ਨੇ ਉਹਨਾਂ ਨੂੰ ਹੈਕ ਨਹੀਂ ਕੀਤਾ। ਟੂਲ ਨੇ ਕੰਮ ਕੀਤਾ। ਡਾਟਾ ਮੁੱਖ ਦਰਵਾਜ਼ੇ ਰਾਹੀਂ ਬਾਹਰ ਚਲਾ ਗਿਆ।
ਤੁਹਾਨੂੰ runtime 'ਤੇ ਧਿਆਨ ਦੇਣਾ ਚਾਹੀਦਾ ਹੈ। Runtime ਉਹ ਹੈ ਜਿੱਥੇ ਵਿਵਹਾਰ (behavior) ਵਾਪਰਦਾ ਹੈ।
- ਇੱਕ prompt ਇੱਕ tool ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ।
- ਇੱਕ tool ਡਾਟਾ ਬਦਲਦਾ ਹੈ।
- ਇੱਕ record ਇੱਕ workflow ਨੂੰ trigger ਕਰਦਾ ਹੈ।
ਅਲਰਟ ਬਹੁਤ ਦੇਰ ਨਾਲ ਆਉਂਦਾ ਹੈ।
ਆਪਣੇ controls ਨੂੰ execution path 'ਤੇ ਲਿਆਓ। ਇਹ ਪੁੱਛਣਾ ਬੰਦ ਕਰੋ ਕਿ ਮਾਡਲ ਕੀ output ਦਿੰਦਾ ਹੈ। ਇਹ ਪੁੱਛੋ ਕਿ ਮਾਡਲ ਕਿੱਥੇ ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ।
ਆਪਣੀ ਸੁਰੱਖਿਆ ਨੂੰ 'reach' ਦੇ ਆਲੇ-ਦੁਆਲੇ ਬਣਾਓ।