Anthropic ਦੇ ਪ੍ਰੋਂਪਟ-ਲੀਕ ਬੱਗ ਕਾਰਨ ਇੱਕ ਹਫ਼ਤੇ ਦਾ ਯੂਜ਼ਰ ਡੇਟਾ ਉਜਾੜ ਗਿਆ।

ਇਹ ਉਲੰਘਣਾ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

Anthropic ਦਾ ਮਾਡਲ ਇੰਟਰਫੇਸ ਡਿਵੈਲਪਰਾਂ ਨੂੰ "prompts" ਭੇਜਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ—ਇਹ ਉਹ ਟੈਕਸਟ ਹੈ ਜੋ ਭਾਸ਼ਾ ਮਾਡਲ (language model) ਦੇ ਜਵਾਬ ਨੂੰ ਨਿਰਦੇਸ਼ਿਤ ਕਰਦਾ ਹੈ। ਇਸ ਘਟਨਾ ਵਿੱਚ, ਸਟੋਰੇਜ ਦੀ ਇੱਕ ਖਾਮੀ ਕਾਰਨ ਅਣਅਧਿਕਾਰਤ ਪੱਖ ਸੱਤ ਦਿਨਾਂ ਤੱਕ ਉਹਨਾਂ ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਪੜ੍ਹ ਸਕੇ। ਇਹ ਲੀਕ ਕੋਈ ਵੱਡਾ ਹੈਕ ਨਹੀਂ ਸੀ; ਪ੍ਰੋਂਪਟ ਨੂੰ ਸੇਵ ਕਰਨ ਅਤੇ ਫੈਚ (fetch) ਕਰਨ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਇੱਕ ਛੋਟੀ ਜਿਹੀ ਲਾਪਰਵਾਹੀ ਨੇ ਇਹ ਰਸਤਾ ਖੋਲ੍ਹ ਦਿੱਤਾ।

ਕੀ ਗਲਤ ਹੋਇਆ

ਯੂਜ਼ਰ ਡੇਟਾ ਨੂੰ ਮਾਡਲ ਵੇਟਸ (model weights) ਤੋਂ ਵੱਖ ਰੱਖਣ ਨਾਲ ਖਤਰੇ ਨੂੰ ਸੀਮਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਆਡਿਟ ਟ੍ਰੇਲ (audit trails) ਬਣਾਉਣ ਨਾਲ ਅਸਾਧਾਰਨ ਗਤੀਵਿਧੀਆਂ ਦਾ ਜਲਦੀ ਪਤਾ ਲੱਗ ਜਾਂਦਾ ਹੈ।

AI ਸਟਾਰਟਅੱਪਸ ਲਈ ਤੁਰੰਤ ਕਦਮ

  • ਪ੍ਰੋਂਪਟ ਹੈਂਡਲਿੰਗ ਨੂੰ ਮਜ਼ਬੂਤ ਬਣਾਓ – ਹਰ ਆਉਣ ਵਾਲੇ ਪ੍ਰੋਂਪਟ ਨੂੰ ਸੰਵੇਦਨਸ਼ੀਲ ਇਨਪੁਟ ਵਜੋਂ ਮੰਨੋ। ਇਸਨੂੰ ਸਟੋਰੇਜ ਵਿੱਚ ਇਨਕ੍ਰਿਪਟ (encrypt) ਕਰੋ, ਪੜ੍ਹਨ/ਲਿਖਣ ਦੇ ਅਧਿਕਾਰਾਂ ਨੂੰ ਸੇਵਾਵਾਂ ਦੇ ਸਭ ਤੋਂ ਛੋਟੇ ਸਮੂਹ ਤੱਕ ਸੀਮਤ ਰੱਖੋ, ਅਤੇ ਇਹ ਯਕੀਨੀ ਬਣਾਓ ਕਿ ਸਿਰਫ਼ ਮਾਡਲ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਇੰਜਣ ਹੀ ਇਸਨੂੰ ਪ੍ਰਾਪਤ ਕਰ ਸਕੇ।
  • ਯੂਜ਼ਰ ਡੇਟਾ ਨੂੰ ਮਾਡਲ ਵੇਟਸ ਤੋਂ ਵੱਖ ਰੱਖੋ – ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਇੱਕ ਸਮਰਪਿਤ ਰਿਪੋਜ਼ਟਰੀ (repository) ਵਿੱਚ ਸਟੋਰ ਕਰੋ ਜੋ ਮਾਡਲ ਫਾਈਲਾਂ ਤੋਂ ਭੌਤਿਕ ਅਤੇ ਤਰਕਪੂਰਨ (logically) ਤੌਰ 'ਤੇ ਵੱਖਰੀ ਹੋਵੇ। ਇਹ ਵੰਡ ਕਿਸੇ ਵੀ ਇੱਕ ਉਲੰਘਣਾ ਦੇ ਪ੍ਰਭਾਵ (blast radius) ਨੂੰ ਸੀਮਤ ਕਰਦੀ ਹੈ।
  • ਆਡਿਟ ਟ੍ਰੇਲ ਬਣਾਓ – ਪ੍ਰੋਂਪਟ ਸਟੋਰੇਜ ਤੱਕ ਹਰ ਪਹੁੰਚ ਨੂੰ ਟਾਈਮਸਟੈਂਪ, ਯੂਜ਼ਰ ਆਈਡੀ (user IDs), ਅਤੇ ਸੋਰਸ ਆਈਪੀ (source IPs) ਦੇ ਨਾਲ ਲੌਗ ਕਰੋ। ਰੀਅਲ-ਟਾਈਮ ਐਨਾਲਿਟਿਕਸ ਚਲਾਓ ਜੋ ਅਸਾਧਾਰਨ ਰੀਡ ਵਾਲੀਅਮ ਜਾਂ ਅਣਉਮੀਦ ਸੇਵਾਵਾਂ ਤੋਂ ਪਹੁੰਚ ਹੋਣ 'ਤੇ ਅਲਰਟ ਜਾਰੀ ਕਰਨ।

ਅੱਗੇ ਕੀ ਦੇਖਣਾ ਹੈ

ਸਾਰੰਸ਼: ਪ੍ਰੋਂਪਟ-ਹੈਂਡਲਿੰਗ ਦੀ ਇੱਕ ਇਕੱਲੀ ਖਾਮੀ ਇੱਕ ਹਫ਼ਤੇ ਦੇ ਡੇਟਾ ਐਕਸਪੋਜ਼ਰ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀ ਹੈ। AI ਸੰਸਥਾਪਕਾਂ ਨੂੰ ਪ੍ਰੋਂਪਟ ਸਟੋਰੇਜ ਲਈ ਉਹੀ ਸਖ਼ਤੀ ਵਰਤਣੀ ਚਾਹੀਦੀ ਹੈ ਜੋ ਉਹ ਕਿਸੇ ਵੀ ਹੋਰ ਯੂਜ਼ਰ-ਡੇਟਾ ਸਿਸਟਮ ਲਈ ਵਰਤਦੇ ਹਨ, ਨਹੀਂ ਤਾਂ ਉਹ Anthropic ਦੀ ਮਹਿੰਗੀ ਗਲਤੀ ਨੂੰ ਦੁਹਰਾਉਣਗੇ।