ਤੁਸੀਂ ਆਪਣਾ ਦੂਜਾ ਨਜ਼ਰੀਆ (Second View) ਖੁਦ ਨਹੀਂ ਹੋ ਸਕਦੇ

AI ਨੂੰ ਹੋਰ ਸਮਾਰਟ ਹੋਣ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਇਸਨੂੰ ਘੱਟ ਵਿਕਲਪਸ਼ੀਲ (less optional) ਹੋਣ ਦੀ ਲੋੜ ਹੈ।

ਮੈਂ ਇੱਕੋ ਦਿਨ ਵਿੱਚ ਆਪਣੇ AI ਸਾਥੀ ਨੂੰ ਚਾਰ ਵਾਰ ਅਸਫਲ ਹੁੰਦੇ ਦੇਖਿਆ। ਹਰ ਅਸਫਲਤਾ ਵਿੱਚ ਇੱਕੋ ਜਿਹਾ ਪੈਟਰਨ ਸੀ। AI ਨੇ ਖੁਦ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ, ਪਰ ਉਸਨੇ ਉਸੇ ਤਰਕ (logic) ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਿਸ ਕਾਰਨ ਗਲਤੀ ਹੋਈ ਸੀ।

ਤੁਸੀਂ ਆਪਣਾ ਦੂਜਾ ਨਜ਼ਰੀਆ ਖੁਦ ਨਹੀਂ ਹੋ ਸਕਦੇ। ਇੱਕ ਅਸਲੀ ਦੂਜਾ ਨਜ਼ਰੀਆ ਪ੍ਰਕਿਰਿਆ (process) ਤੋਂ ਬਾਹਰੋਂ ਆਉਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਹ ਡਿਸਕ 'ਤੇ ਇੱਕ ਫਾਈਲ, ਇੱਕ ਟਾਈਮਸਟੈਂਪ, ਜਾਂ ਕੋਈ ਅਜਿਹਾ ਇਨਸਾਨ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਉਸ ਪ੍ਰਕਿਰਿਆ ਦਾ ਹਿੱਸਾ ਨਾ ਹੋਵੇ।

ਇੱਥੇ ਚਾਰ ਅਸਫਲਤਾਵਾਂ ਹਨ:

  • ਉਹ ਨਿਯਮ ਜਿਸਨੇ ਆਪਣੇ ਆਪ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਦਿੱਤਾ। AI ਨੇ ਕਿਸੇ ਵੀ ਲਾਈਵ ਪ੍ਰੋਮੋਸ਼ਨ ਤੋਂ ਪਹਿਲਾਂ ਜਾਂਚ ਕਰਨ ਲਈ ਇੱਕ ਨਿਯਮ ਲਿਖਿਆ। ਦਸ ਘੰਟੇ ਬਾਅਦ, ਇਸਨੇ ਉਸ ਜਾਂਚ ਤੋਂ ਬਿਨਾਂ ਪ੍ਰੋਮੋਸ਼ਨ ਦਾ ਪ੍ਰਸਤਾਵ ਦਿੱਤਾ। ਇੱਕ ਏਜੰਟ ਦੁਆਰਾ ਲਿਖਿਆ ਗਿਆ ਨਿਯਮ ਸਿਰਫ ਆਪਣੇ ਆਪ ਲਈ ਇੱਕ ਨੋਟ ਹੈ, ਕੋਈ ਗਾਰਡਰੇਲ (guardrail) ਨਹੀਂ।

  • ਥ੍ਰੈਡ (thread) ਬਨਾਮ ਦੁਨੀਆ। AI ਨੇ ਇੱਕ ਚੈਟ ਥ੍ਰੈਡ ਪੜ੍ਹਿਆ ਜਿਸ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਸੀ ਕਿ ਕੌਂਫਿਗਰੇਸ਼ਨ ਤਿਆਰ ਹੈ। ਇਸਨੇ ਅਸਲ ਸਿਸਟਮ ਦੀ ਜਾਂਚ ਨਹੀਂ ਕੀਤੀ। ਦੁਨੀਆ ਬਦਲ ਚੁੱਕੀ ਸੀ, ਪਰ AI ਨੇ ਸਿਰਫ ਗੱਲਬਾਤ 'ਤੇ ਭਰੋਸਾ ਕੀਤਾ।

  • ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ ਗਿਆ ਟੂਲ। ਗਲਤੀਆਂ ਨੂੰ ਰੋਕਣ ਲਈ ਇੱਕ ਕਸਟਮ ਸਕਿੱਲ (skill) ਮੌਜੂਦ ਸੀ। AI ਨੇ ਉਸ ਸਕਿੱਲ ਨੂੰ ਛੱਡ ਦਿੱਤਾ ਅਤੇ ਇਸਦੀ ਬਜਾਏ ਡੇਟਾਬੇਸ ਸਕੀਮਾ (database schema) ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ। ਇਹ ਗੇਟ ਤੋਂ ਅੱਗੇ ਨਿਕਲ ਗਿਆ ਕਿਉਂਕਿ ਇਸ ਕੋਲ ਅਜਿਹਾ ਕਰਨ ਦੀ ਚੋਣ ਸੀ।

  • ਦੁਹਰਾਉਣ ਵਾਲਾ ਬੱਗ (bug)। AI ਨੇ ਸਵੇਰੇ ਇੱਕ ਗਲਤੀ ਫੜੀ। ਸ਼ਾਮ ਨੂੰ, ਇਸਨੇ ਇੱਕ ਨਵੇਂ ਡੇਟਾਸੈੱਟ 'ਤੇ ਬਿਲਕੁਲ ਉਹੀ ਗਲਤੀ ਕੀਤੀ। ਪਹਿਲਾ ਸਬਕ ਨਿਯਮ ਨਹੀਂ ਬਣ ਸਕਿਆ; ਇਹ ਸਿਰਫ ਇੱਕ ਵਾਰ ਦਾ ਹੱਲ ਸੀ।

ਸਮੱਸਿਆ ਸਰੋਤ (source) ਵਿੱਚ ਹੈ। ਜੇਕਰ ਤੁਹਾਡੇ ਗਾਰਡਰੇਲ ਉਹੀਨ ਥਾਂ ਤੋਂ ਪੜ੍ਹਦੇ ਹਨ ਜਿੱਥੋਂ ਤੁਹਾਡੀਆਂ ਗਲਤੀਆਂ ਆਉਂਦੀਆਂ ਹਨ, ਤਾਂ ਉਹ ਅਸਫਲ ਹੋ ਜਾਣਗੇ। ਇਹ ਇੱਕ ਵਿਅਕਤੀ ਦੁਆਰਾ ਚਾਰ ਵੱਖ-ਵੱਖ ਟੋਪੀਆਂ ਪਹਿਨਣ ਅਤੇ ਉਸਨੂੰ ਇੱਕ ਕਮੇਟੀ ਕਹਿਣ ਵਰਗਾ ਹੈ।

ਇਸ ਨੂੰ ਠੀਕ ਕਰਨ ਲਈ, ਤੁਹਾਨੂੰ 'ਕੈਚ' (catch) ਨੂੰ AI ਦੇ ਵਿਵੇਕ (discretion) ਤੋਂ ਬਾਹਰ ਕੱਢਣਾ ਪਵੇਗਾ।

  • ਲਾਜ਼ਮੀ ਜਾਂਚਾਂ ਨੂੰ ਲਾਗੂ ਕਰੋ। AI ਨੂੰ ਇਹ ਫੈਸਲਾ ਨਾ ਕਰਨ ਦਿਓ ਕਿ ਜਾਂਚ ਜ਼ਰੂਰੀ ਹੈ ਜਾਂ ਨਹੀਂ।
  • ਥ੍ਰੈਡ ਨਾਲੋਂ ਦੁਨੀਆ ਨੂੰ ਪਹਿਲ ਦਿਓ। ਚੈਟ ਲੌਗ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਹਮੇਸ਼ਾ ਅਸਲ ਸਿਸਟਮ ਦੀ ਜਾਂਚ ਕਰੋ।
  • ਟੂਲ ਦੀ ਵਰਤੋਂ ਨੂੰ ਆਟੋਮੇਟ ਕਰੋ। ਜੇਕਰ ਕੋਈ ਕਾਰਜ ਕਿਸੇ ਸਕਿੱਲ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ, ਤਾਂ ਉਹ ਸਕਿੱਲ ਆਪਣੇ ਆਪ ਚੱਲਣੀ ਚਾਹੀਦੀ ਹੈ।
  • ਸ਼ੁਰੂ ਵਿੱਚ ਹੀ ਸੀਮਾਵਾਂ (thresholds) ਤੈਅ ਕਰੋ। ਪੱਖਪਾਤ ਤੋਂ ਬਚਣ ਲਈ ਡੇਟਾ ਦੇਖਣ ਤੋਂ ਪਹਿਲਾਂ ਨਿਯਮ ਸੈੱਟ ਕਰੋ।

ਅਨੁਸ਼ਾਸਨ ਜਿਸ ਵਿੱਚ ਇੱਕ ਏਜੰਟ ਸ਼ਾਮਲ ਹੋਣ ਦੀ ਚੋਣ ਕਰ ਸਕਦਾ ਹੈ, ਉਹ ਅਸਲੀ ਅਨੁਸ਼ਾਸਨ ਨਹੀਂ ਹੈ। ਇਹ ਸਿਰਫ ਸਜਾਵਟ ਹੈ।

ਅਜਿਹੀਆਂ ਸੰਰਚਨਾਵਾਂ (structures) ਬਣਾਓ ਜਿਨ੍ਹਾਂ ਨੂੰ ਏਜੰਟ ਨਜ਼ਰਅੰਦਾਜ਼ ਨਾ ਕਰ ਸਕੇ।

ਸਰੋਤ: https://dev.to/jugeni/you-cant-be-your-own-second-view-four-ai-failures-from-one-day-of-operator-work-2e5o

ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi