ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇਹ ਤਿੰਨ ਕੰਟਰੋਲ ਕੀਤੇ ਬਿਨਾਂ AI ਟੂਲ ਨਾ ਦਿਓ

ਆਪਣੀ ਟੀਮ ਨੂੰ AI ਟੂਲ ਦੇਣਾ ਆਸਾਨ ਲੱਗਦਾ ਹੈ। ਤੁਸੀਂ ਇੱਕ ਮਾਡਲ ਨੂੰ ਕਨੈਕਟ ਕਰਦੇ ਹੋ, ਇੱਕ shared key ਨੂੰ config ਵਿੱਚ ਪਾਉਂਦੇ ਹੋ, ਅਤੇ ਇਸਨੂੰ ਲਾਂਚ ਕਰ ਦਿੰਦੇ ਹੋ।

ਇਹ ਜ਼ਿੰਮੇਵਾਰ ਲੱਗਦਾ ਹੈ। ਪਰ ਅਸਲ ਵਿੱਚ ਇਹ ਖ਼ਤਰਨਾਕ ਹੈ।

shared keys ਅਤੇ logs ਦੀ ਘਾਟ ਨਾਲ ਜੁੜੀਆਂ ਸਮੱਸਿਆਵਾਂ ਪਹਿਲੇ ਦਿਨ ਹੀ ਸਾਹਮਣੇ ਨਹੀਂ ਆਉਂਦੀਆਂ। ਕੁਝ ਵੀ ਟੁੱਟਦਾ ਨਹੀਂ ਹੈ। ਟੂਲ ਕੰਮ ਕਰਦੇ ਹਨ। ਸਮੱਸਿਆਵਾਂ ਉਦੋਂ ਤੱਕ ਲੁਕੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ ਜਦੋਂ ਤੱਕ ਉਹ ਸੰਕਟ ਦਾ ਰੂਪ ਨਹੀਂ ਧਾਰ ਲੈਂਦੀਆਂ।

ਜੇਕਰ ਤੁਸੀਂ AI ਨੂੰ ਸੁਰੱਖਿਅਤ ਤਰੀਕੇ ਨਾਲ ਸਕੈਲ (scale) ਕਰਨਾ ਚਾਹੁੰਦੇ ਹੋ, ਤਾਂ ਤੁਹਾਨੂੰ ਪਹਿਲੇ commit ਤੋਂ ਹੀ ਤਿੰਨ ਚੀਜ਼ਾਂ ਬਣਾਉਂਦੀਆਂ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ:

  • Per-user keys
  • Audit logging
  • Cost controls

ਇੱਕ shared key ਇੱਕ ਜਾਲ ਹੈ। ਜੇਕਰ ਕੋਈ ਡਿਵੈਲਪਰ ਕੰਮ ਛੱਡ ਦਿੰਦਾ ਹੈ ਜਾਂ ਕੋਈ key ਸਕ੍ਰੀਨਸ਼ੌਟ ਵਿੱਚ ਲੀਕ ਹੋ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਤੁਹਾਡੇ ਸਾਹਮਣੇ ਇੱਕ ਚੋਣ ਹੁੰਦੀ ਹੈ। ਜਾਂ ਤਾਂ ਤੁਸੀਂ key ਨੂੰ rotate ਕਰਦੇ ਹੋ ਅਤੇ ਇੱਕੋ ਵਾਰ ਸਭ ਦੇ ਟੂਲ ਖਰਾਬ ਕਰ ਦਿੰਦੇ ਹੋ। ਜਾਂ ਫਿਰ, ਤੁਸੀਂ ਕੁਝ ਨਹੀਂ ਕਰਦੇ ਅਤੇ ਇੱਕ ਸਾਬਕਾ ਕਰਮਚਾਰੀ ਨੂੰ ਆਪਣੇ ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਦਿੰਦੇ ਹੋ।

Per-user keys ਇਸ ਨੂੰ ਸਰਲ ਬਣਾਉਂਦੀਆਂ ਹਨ। ਜੇਕਰ ਕੋਈ ਇੱਕ ਵਿਅਕਤੀ ਕੰਮ ਛੱਡਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਸਿਰਫ਼ ਇੱਕ key ਨੂੰ ਡੀਐਕਟੀਵੇਟ ਕਰਦੇ ਹੋ, ਅਤੇ ਕਿਸੇ ਹੋਰ ਨੂੰ ਇਸਦਾ ਪਤਾ ਨਹੀਂ ਲੱਗਦਾ। ਹਰ request ਦੀ ਇੱਕ ਪਛਾਣ ਹੁੰਦੀ ਹੈ। ਤੁਸੀਂ ਤੁਰੰਤ ਜਵਾਬ ਦੇ ਸਕਦੇ ਹੋ ਕਿ "ਇਹ ਕਿਸਨੇ ਕੀਤਾ"।

Audit logging ਤੁਹਾਡਾ ਬੀਮਾ ਹੈ। ਤੁਸੀਂ ਅਤੀਤ ਦਾ ਪਿਛਲੇ ਸਮੇਂ ਵਿੱਚ ਆਡਿਟ (audit) ਨਹੀਂ ਕਰ ਸਕਦੇ। ਜੇਕਰ ਤੁਸੀਂ ਸ਼ੁਰੂ ਤੋਂ log ਨਹੀਂ ਕਰਦੇ, ਤਾਂ ਜਦੋਂ ਸੁਰੱਖਿਆ ਜਾਂ compliance ਸਵਾਲ ਪੁੱਛਦੇ ਹਨ, ਤਾਂ ਤੁਹਾਡੇ ਕੋਲ ਕੋਈ ਸਬੂਤ ਨਹੀਂ ਹੁੰਦਾ।

ਡਿਫੌਲਟ ਰੂਪ ਵਿੱਚ ਹਰ prompt ਜਾਂ completion ਨੂੰ log ਨਾ ਕਰੋ। ਇਹ ਇੱਕ ਨਵਾਂ ਸੁਰੱਖਿਆ ਜੋਖਮ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਇਸ ਦੀ ਬਜਾਏ metadata log ਕਰੋ: ਕੌਣ, ਕਦੋਂ, ਕਿਹੜਾ ਮਾਡਲ, ਅਤੇ ਲਾਗਤ (cost)।

Cost control ਅਚਾਨਕ ਆਉਣ ਵਾਲੇ ਝਟਕਿਆਂ ਤੋਂ ਬਚਾਉਂਦਾ ਹੈ। AI ਦਾ ਖਰਚਾ ਅਚਾਨਕ ਵਧ-ਘਟ ਸਕਦਾ ਹੈ। ਇੱਕ loop ਵਿੱਚ ਫਸਿਆ ਹੋਇਆ agent ਕੁਝ ਹੀ ਘੰਟਿਆਂ ਵਿੱਚ ਤੁਹਾਡਾ ਬਜਟ ਖਤਮ ਕਰ ਸਕਦਾ ਹੈ। Per-user caps ਅਤੇ budget alerts ਦੀ ਵਰਤੋਂ ਕਰੋ। ਇਹ ਇੱਕ ਵੱਡੇ ਇਨਵੌਇਸ ਨੂੰ ਇੱਕ ਸਧਾਰਨ ਨੋਟੀਫਿਕੇਸ਼ਨ ਵਿੱਚ ਬਦਲ ਦਿੰਦਾ ਹੈ।

ਇਹ ਤਿੰਨ ਕੰਟਰੋਲ ਵੱਖ-ਵੱਖ ਫੀਚਰ ਨਹੀਂ ਹਨ। ਇਹ ਮਿਲ ਕੇ ਕੰਮ ਕਰਦੇ ਹਨ। ਜੇਕਰ ਤੁਸੀਂ ਵਿਅਕਤੀ ਦੀ ਪਛਾਣ ਨਹੀਂ ਕਰ ਸਕਦੇ, ਤਾਂ ਤੁਸੀਂ ਪ੍ਰਤੀ ਵਿਅਕਤੀ ਲਾਗਤ (cost) ਨੂੰ ਟ੍ਰੈਕ ਨਹੀਂ ਕਰ ਸਕਦੇ।

ਕੁਝ ਲੋਕ ਇਸਨੂੰ gold-plating ਕਹਿੰਦੇ ਹਨ। ਇਹ ਅਜਿਹਾ ਨਹੀਂ ਹੈ।

Gold-plating ਅਨਿਸ਼ਚਿਤ ਕੰਮ ਹੈ। ਇਹ ਕੰਟਰੋਲ ਯਕੀਨੀ ਹਨ। ਕੋਈ ਨਾ ਕੋਈ ਕੰਮ ਛੱਡ ਕੇ ਜਾਵੇਗਾ। ਕੋਈ key ਲੀਕ ਹੋਵੇਗੀ। ਬਿੱਲ ਅਚਾਨਕ ਵਧ ਜਾਵੇਗਾ।

ਇਸ ਕੰਮ ਨੂੰ ਹੁਣ ਕਰਨ ਵਿੱਚ ਸਿਰਫ਼ ਇੱਕ ਦੁਪਹਿਰ ਲੱਗੇਗੀ। ਇਸਨੂੰ ਬਾਅਦ ਵਿੱਚ ਕਰਨ ਲਈ ਇੱਕ ਵੱਡੇ ਅਤੇ ਭਾਰੀ ਦਬਾਅ ਵਾਲੇ migration ਦੀ ਲੋੜ ਪਵੇਗੀ।

ਇਸਨੂੰ ਸਸਤੇ ਵਿੱਚ ਬਣਾਓ। ਇਸਨੂੰ ਪਹਿਲਾਂ ਬਣਾਓ।

Source: https://dev.to/azeemsidd3/if-youre-giving-developers-ai-tools-you-need-per-user-keys-audit-logging-and-cost-controls-on-47ia

Optional learning community: https://t.me/GyaanSetuAi