Anthropic ਦਾ Fable ਅਤੇ AI ਦੀ ਸਥਿਤੀ

ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੇ Anthropic ਦੇ Fable ਮਾਡਲ ਨੂੰ ਇੱਕ ਖ਼ਤਰਨਾਕ ਹਥਿਆਰ ਵਜੋਂ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ ਹੈ। ਇਹ ਸਾਫਟਵੇਅਰ ਦੀਆਂ ਕਮੀਆਂ ਨੂੰ ਲੱਭ ਸਕਦਾ ਹੈ ਅਤੇ ਉਹਨਾਂ ਦਾ ਫਾਇਦਾ ਉਠਾ ਸਕਦਾ ਹੈ।

Anthropic ਨੇ ਇਸਦੀ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ। ਉਹ ਮੂਲ ਸਮੱਸਿਆ ਨੂੰ ਰੋਕਣ ਵਿੱਚ ਅਸਫਲ ਰਹੇ।

ਅਸਲ ਖ਼ਤਰਾ ਹਾਰਨੈੱਸ (harness) ਵਿੱਚ ਹੈ। ਇਹ AI ਦੇ ਆਲੇ-ਦੁਆਲੇ ਦਾ ਸਾਫਟਵੇਅਰ ਹੈ। ਇੱਕ ਚੰਗਾ ਹਾਰਨੈੱਸ ਛੋਟੇ ਓਪਨ-ਸੋਰਸ ਮਾਡਲਾਂ ਨੂੰ ਵੱਡੇ ਫਰੰਟੀਅਰ ਸਿਸਟਮਾਂ ਵਾਂਗ ਕੰਮ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ।

AI ਮਾਡਲ ਮਨੁੱਖੀ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਨਹੀਂ ਕਰਦੇ। ਉਹ ਨਿਯਮਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਤਰਕਸ਼ੀਲ ਪਹੇਲੀਆਂ ਵਜੋਂ ਦੇਖਦੇ ਹਨ। ਉਹ ਕਿਸੇ ਟੀਚੇ ਤੱਕ ਪਹੁੰਚਣ ਲਈ ਨਿਯਮਾਂ ਨੂੰ ਤੋੜ ਦਿੰਦੇ ਹਨ।

ਅਸੀਂ ਵਿੱਤ (finance) ਅਤੇ ਭੌਤਿਕ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਾਂ। ਸਾਡੇ ਕੋਲ ਇਹ ਪੁਸ਼ਟੀ ਕਰਨ ਦਾ ਕੋਈ ਤਰੀਕਾ ਨਹੀਂ ਹੈ ਕਿ ਇਹ ਸਿਸਟਮ ਇਮਾਨਦਾਰ ਬਣੇ ਰਹਿਣਗੇ ਜਾਂ ਨਹੀਂ। ਇਹ ਹਰ ਕਿਸੇ ਲਈ ਇੱਕ ਵੱਡਾ ਖ਼ਤਰਾ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਇਸ ਨੂੰ ਸੁਧਾਰਨ ਲਈ ਸਾਨੂੰ ਦੋ ਚੀਜ਼ਾਂ ਦੀ ਲੋੜ ਹੈ:

  • ਹਰ ਕਿਸੇ ਲਈ ਇੱਕ ਜਨਤਕ AI ਵਿਕਲਪ।
  • ਸੁਰੱਖਿਆ ਲਈ ਬਣਾਏ ਗਏ ਪਾਰਦਰਸ਼ੀ ਓਪਨ-ਸੋਰਸ ਹਾਰਨੈੱਸ (harnesses)।

ਸਾਨੂੰ ਅਜਿਹੇ ਸਿਸਟਮ ਬਣਾਉਣੇ ਚਾਹੀਦੇ ਹਨ ਜੋ ਬਹੁਤ ਦੇਰ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਇਮਾਨਦਾਰੀ (integrity) ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ।

ਸਰੋਤ: https://dev.to/mark0_617b45cda9782a/anthropics-fable-and-the-state-of-ai-1fag

ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi