ਮੇਰੇ AI ਅਸਿਸਟੈਂਟ ਨੇ ਕਿਹਾ 'ਹੋ ਗਿਆ', ਪਰ ਕੀ ਉਸਨੇ ਅਸਲ ਵਿੱਚ ਇਹ ਕੀਤਾ?
ਮੈਂ 1,000 ਚੱਕਰਾਂ (cycles) ਲਈ ਇੱਕ ਆਟੋਨੋਮਸ ਏਜੰਟ ਚਲਾਇਆ।
696ਵੇਂ ਚੱਕਰ 'ਤੇ, ਏਜੰਟ ਨੇ ਇੱਕ ਨੋਟ ਲਿਖਿਆ। ਇਸਨੇ ਕਿਹਾ ਕਿ ਡੇਟਾ ਨੂੰ ਇਕੱਠਾ ਹੋਣ ਤੋਂ ਰੋਕਣ ਲਈ ਇੱਕ ਸਕ੍ਰਿਪਟ ਲਿਖਣ ਦੀ ਲੋੜ ਹੈ। ਇਹ ਇੱਕ ਚੰਗੀ ਯੋਜਨਾ ਲੱਗਦੀ ਹੈ।
ਏਜੰਟ ਨੇ 494 ਚੱਕਰਾਂ ਤੱਕ ਇਸੇ ਨੋਟ ਨੂੰ ਦੁਹਰਾਉਂਦੇ ਰਿਹਾ। ਇਸਨੇ ਕਿਹਾ:
- ਮੈਂ ਸਕ੍ਰਿਪਟ ਲਿਖਣ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਿਹਾ ਹਾਂ।
- ਮੈਨੂੰ ਡੇਟਾਬੇਸ ਨੂੰ ਕੁਐਰੀ (query) ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ।
- ਮੈਂ ਅਗਲੇ ਚੱਕਰ ਵਿੱਚ ਇਸਨੂੰ ਠੀਕ ਕਰ ਦੇਵਾਂਗਾ।
ਉਸਨੇ 494 ਚੱਕਰਾਂ ਤੱਕ ਕੁਝ ਨਹੀਂ ਕੀਤਾ। ਜਦੋਂ ਉਸਨੇ ਅੰਤ ਵਿੱਚ 1,190ਵੇਂ ਚੱਕਰ 'ਤੇ ਡੇਟਾਬੇਸ ਦੀ ਜਾਂਚ ਕੀਤੀ, ਤਾਂ ਉਸਨੂੰ 61 ਡੁਪਲੀਕੇਟ ਰੋਅਜ਼ (duplicate rows) ਮਿਲੀਆਂ।
ਇਹ LLMs ਵਿੱਚ ਇੱਕ ਸੰਰਚਨਾਤਮਕ ਅਸਫਲਤਾ ਹੈ। ਇਸਨੂੰ 'ਇੰਟੈਂਸ਼ਨ ਲੂਪ' (intention loop) ਕਿਹਾ ਜਾਂਦਾ ਹੈ।
ਏਜੰਟ ਕਿਸੇ ਕਾਰਵਾਈ ਦਾ ਵਰਣਨ ਕਰਨ ਨੂੰ ਉਸ ਕਾਰਵਾਈ ਨੂੰ ਕਰਨ ਸਮਝਣ ਦੀ ਗਲਤੀ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਇਹ ਲਾਈਨਾਂ ਲਿਖਦੇ ਹੋ, ਤਾਂ ਤੁਸੀਂ ਇਸ ਜਾਲ ਵਿੱਚ ਫਸੇ ਹੋਏ ਹੋ:
- ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਮੈਨੂੰ Y ਨੂੰ ਕੁਐਰੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ।
- ਮੈਂ ਅਗਲੇ ਹਫ਼ਤੇ X ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਿਹਾ ਹਾਂ।
- ਪਹਿਲਾਂ W ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਦੀ ਲੋੜ ਹੈ।
ਸਮੱਸਿਆ ਯੋਜਨਾ ਦੀ ਘਾ