ਸੈਮ ਅਲਟਮਾਨ ਦਾ ਦਾਅਵਾ: ਸਕੇਲਿੰਗ ਦੇ ਸ਼ੱਕੀ ਲੋਕਾਂ ਨੇ AI ਵਿਕਾਸ ਨੂੰ ਰੋਕਿਆ

OpenAI ਦੇ CEO ਸੈਮ ਅਲਟਮਾਨ ਸਕੇਲਿੰਗ ਦੀ ਸ਼ਕਤੀ ਦਾ ਪੂਰੇ ਜ਼ੋਰ ਨਾਲ ਸਮਰਥਨ ਕਰ ਰਹੇ ਹਨ, ਉਨ੍ਹਾਂ ਦਾ ਤਰਕ ਹੈ ਕਿ ਖੋਜਕਰਤਾਵਾਂ ਦੀ ਪਿਛਲੀ ਪੀੜ੍ਹੀ ਨੇ Large Language Models (LLMs) ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਘੱਟ ਮਾਪ ਕੇ ਤਰੱਕੀ ਨੂੰ ਰੋਕਿਆ। ਜਿਵੇਂ-ਜਿਵੇਂ transformer architectures ਦੀ ਸੀਮਾ ਬਾਰੇ ਬਹਿਸ ਤੇਜ਼ ਹੋ ਰਹੀ ਹੈ, ਅਲਟਮਾਨ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਅਨੁਭਵੀ ਸਬੂਤ (empirical evidence) ਬਹੁਤ ਜ਼ਿਆਦਾ ਰੂਪ ਵਿੱਚ ਕੰਪਿਊਟ ਅਤੇ ਡੇਟਾ ਦੇ ਨਿਰੰਤਰ ਵਿਸਤਾਰ ਦੇ ਪੱਖ ਵਿੱਚ ਹਨ।

ਬੌਧਿਕ ਅੜੀਅਲਪਨ ਦੀ ਕੀਮਤ

ਸਟੈਨਫੋਰਡ ਵਿੱਚ ਇੱਕ ਹਾਲੀਆ ਮੌਜੂਦਗੀ ਦੌਰਾਨ, ਅਲਟਮਾਨ ਨੇ ਸਕੇਲਿੰਗ ਦੇ ਸਮਰਥਕਾਂ ਅਤੇ ਸ਼ੱਕੀ ਲੋਕਾਂ ਵਿਚਕਾਰ ਟਕਰਾਅ ਬਾਰੇ ਗੱਲ ਕੀਤੀ, ਖਾਸ ਤੌਰ 'ਤੇ ਮੇਟਾ (Meta) ਦੇ ਯਾਨ ਲੈਕੁਨ (Yann LeCun) ਵਰਗੇ ਆਲੋਚਕਾਂ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ, ਜਿਨ੍ਹਾਂ ਨੇ LLMs ਨੂੰ ਇੱਕ "dead end" ਵਜੋਂ ਦਰਸਾਇਆ ਹੈ। ਅਲਟਮਾਨ ਦਾ ਸੁਝਾਅ ਹੈ ਕਿ ਸਕੇਲਿੰਗ ਪਰਿਕਲਪਨਾ (hypothesis) ਦਾ ਜ਼ਿਆਦਾਤਰ ਵਿਰੋਧ ਇਸ ਲਈ ਹੈ ਕਿਉਂਕਿ ਖੋਜਕਰਤਾ ਇਸ ਗੱਲ ਦੀਆਂ ਭਵਿੱਖਬਾਣੀਆਂ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਭਰੋਸਾ ਕਰਦੇ ਹਨ ਕਿ AI ਕੀ ਨਹੀਂ ਕਰ ਸਕਦਾ।

ਉਨ੍ਹਾਂ ਨੇ ਤਰਕ ਦਿੱਤਾ ਕਿ ਉਦਯੋਗ ਦੀਆਂ ਕੁਝ ਸ਼ਖਸੀਅਤਾਂ ਨੇ ਆਪਣੀ ਪੇਸ਼ੇਵਰ ਪਛਾਣ ਨੂੰ ਖਾਸ ਸਿਧਾਂਤਕ ਪੱਖਾਂ ਨਾਲ ਜੋੜ ਲਿਆ ਹੈ, ਜਿਸ ਕਾਰਨ ਉਹ ਨਵੇਂ ਡੇਟਾ ਦਾ ਵਿਰੋਧ ਕਰਦੇ ਹਨ ਜੋ ਉਨ੍ਹਾਂ ਦੇ ਪੁਰਾਣੇ ਵਿਸ਼ਵਾਸਾਂ ਦੇ ਉਲਟ ਹੁੰਦਾ ਹੈ। ਇਹ ਮੰਨਦੇ ਹੋਏ ਕਿ ਰੋਬੋਟਿਕਸ ਵਰਗੇ ਖੇਤਰਾਂ ਵਿੱਚ ਤਰੱਕੀ ਲਈ "world models" ਜ਼ਰੂਰੀ ਹਨ, ਅਲਟਮਾਨ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ LLMs ਦਾ ਮੌਜੂਦਾ ਰਸਤਾ ਕੋਈ ਪਾਸਾ ਨਹੀਂ ਹੈ, ਸਗੋਂ ਬੁੱਧੀ ਦਾ ਮੁੱਖ ਇੰਜਣ ਹੈ।

ਅਨੁਭਵੀ ਸਬੂਤ: ਪੈਟਰਨ ਮੈਚਿੰਗ ਤੋਂ ਅੱਗੇ ਵਧਣਾ

ਸਕੇਲਿੰਗ ਦੇ ਅਲਟਮਾਨ ਦੇ ਬਚਾਅ ਵਿੱਚ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਨੁਕਤਿਆਂ ਵਿੱਚੋਂ ਇੱਕ LLMs ਦਾ ਸਿਰਫ਼ text predictors ਤੋਂ ਅਸਲ ਤਰਕ ਕਰਨ ਦੇ ਯੋਗ ਸਾਧਨਾਂ ਵਿੱਚ ਬਦਲਾਅ ਹੈ। ਉਨ੍ਹਾਂ ਨੇ ਇੱਕ ਹਾਲੀਆ ਮੀਲ ਪੱਥਰ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ ਜਿੱਥੇ ਇੱਕ OpenAI ਮਾਡਲ ਨੇ ਇੱਕ ਅਜਿਹੇ ਗਣਿਤਕ ਅਨੁਮਾਨ (mathematical conjecture) ਨੂੰ ਸਫਲਤਾਪੂਰਵਕ ਗਲਤ ਸਾਬਤ ਕਰ ਦਿੱਤਾ ਜੋ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਮਨੁੱਖੀ ਮਾਹਰਾਂ ਦੁਆਰਾ ਅਣਸੁਲਝਿਆ ਰਿਹਾ ਸੀ।

ਇਹ ਵਿਕਾਸ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਇਹ ਉਸ ਕਥਨ ਨੂੰ ਚੁਣੌਤੀ ਦਿੰਦਾ ਹੈ ਕਿ LLMs ਸਿਰਫ਼ "stochastic parrots" ਹਨ ਜੋ ਅਸਲ ਖੋਜ ਕਰਨ ਦੇ ਯੋਗ ਨਹੀਂ ਹਨ। ਅਲਟਮਾਨ ਨੇ ਕਿਹਾ, "ਇਸ ਲਈ ਸਪੱਸ਼ਟ ਹੈ ਕਿ LLMs ਨਵਾਂ ਗਿਆਨ ਪ੍ਰਾਪਤ ਕਰਨ ਦੇ ਯੋਗ ਹਨ," ਅਤੇ ਨੋਟ ਕੀਤਾ ਕਿ ਗਣਿਤਕ ਭਾਈਚਾਰਾ ਹੁਣ AI-ਅਧਾਰਿਤ ਸਬੂਤਾਂ ਦੇ ਪ੍ਰਭਾਵਾਂ ਨਾਲ ਸਰਗਰਮੀ ਨਾਲ ਨਜਿੱਠ ਰਿਹਾ ਹੈ। ਇਹ ਤਬਦੀਲੀ ਸੁਝਾਉਂਦੀ ਹੈ ਕਿ ਸਕੇਲਿੰਗ ਸਿਰਫ਼ fluency ਵਿੱਚ ਸੁਧਾਰ ਨਹੀਂ ਕਰਦੀ; ਇਹ ਬੌਧਿਕ ਸਮਰੱਥਾ ਦੇ ਖੇਤਰ ਨੂੰ ਵੀ ਵਧਾਉਂਦੀ ਹੈ।

ਸੀਮਾ: Reasoning ਬਨਾਮ Long-Horizon Tasks

ਆਪਣੀ ਉਤਸ਼ਾਹਵਾਦੀ ਭਾਵਨਾ ਦੇ ਬਾਵਜੂਦ, ਅਲਟਮੈਨ ਤਕਨਾਲੋਜੀ ਦੀਆਂ ਮੌਜੂਦਾ ਸੀਮਾਵਾਂ ਦੇ ਸਬੰਧ ਵਿੱਚ ਅਸਲੀਅਤ ਨਾਲ ਜੁੜੇ ਹੋਏ ਹਨ। ਉਨ੍ਹਾਂ ਨੇ "long-horizon tasks"—ਜਿਵੇਂ ਕਿ ਗੁੰਝਲਦਾਰ ਵਰਕਫਲੋਅਜ਼ ਜਿਨ੍ਹਾਂ ਲਈ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਉੱਚ-ਪੱਧਰੀ ਫੈਸਲੇ ਲੈਣ ਦੀ ਸਮਰੱਥਾ ਅਤੇ ਬਹੁ-ਪੜਾਅ ਯੋਜਨਾਬੰਦੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ—ਦੇ ਸਬੰਧ ਵਿੱਚ ਪ੍ਰਦਰਸ਼ਨ ਵਿੱਚ ਇੱਕ ਸਪੱਸ਼ਟ ਅੰਤਰ ਨੋਟ ਕੀਤਾ। ਇਨ੍ਹਾਂ ਖਾਸ ਖੇਤਰਾਂ ਵਿੱਚ, ਉਨ੍ਹਾਂ ਨੇ ਮੰਨਿਆ ਕਿ LLMs ਅਜੇ ਵੀ "ਲੋਕਾਂ ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਮਾੜੇ ਲੱਗਦੇ ਹਨ।"

ਵਿਆਪਕ AI ਲੈਂਡਸਕੇਪ ਲਈ, ਇਹ ਅੰਤਰ ਖੋਜ ਦੀ ਅਗਲੀ ਸੀਮਾ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ। ਉਦਯੋਗ "scaling for knowledge" ਤੋਂ "scaling for reasoning and agency" ਦੇ ਪੜਾਅ ਵੱਲ ਵਧ ਰਿਹਾ ਹੈ। ਜਿਵੇਂ ਕਿ OpenAI ਅਤੇ Anthropic (CEO ਡਾਰੀਓ ਅਮੋਡੀ ਦੀ ਅਗਵਾਈ ਹੇਠ, ਜੋ ਅਲਟਮੈਨ ਦੇ ਸਕੇਲਿੰਗ ਵਿਸ਼ਵਾਸ ਨੂੰ ਸਾਂਝਾ ਕਰਦੇ ਹਨ) ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਕੰਪਿਊਟ (compute) ਵਿੱਚ ਅਰਬਾਂ ਡਾਲ ਰਹੀਆਂ ਹਨ, ਇਸ ਦਾ ਉਦੇਸ਼ ਮੌਜੂਦਾ ਬੁੱਧੀ ਅਤੇ ਭਰੋਸੇਯੋਗ, ਲੰਬੇ ਸਮੇਂ ਦੀ ਖੁਦਮੁਖਤਿਆਰੀ ਦੇ ਵਿਚਕਾਰਲੇ ਪਾੜੇ ਨੂੰ ਪੂਰਨਾ ਹੈ।

ਮੁੱਖ ਗੱਲਾਂ

• ਸਕੇਲਿੰਗ ਮੁੱਖ ਡਰਾਈਵਰ ਹੈ: ਅਲਟਮੈਨ ਦਾ ਤਰਕ ਹੈ ਕਿ ਵਧੇ ਹੋਏ ਕੰਪਿਊਟ ਅਤੇ ਡੇਟਾ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਘੱਟ ਅੰਕਾਂ ਵਿੱਚ ਮਾਪਣ ਕਾਰਨ ਇਤਿਹਾਸਕ ਤੌਰ 'ਤੇ AI ਦੀਆਂ ਪ੍ਰਾਪਤੀਆਂ ਦੀ ਰਫ਼ਤਾਰ ਹੌਲੀ ਰਹੀ ਹੈ।
• ਨਕਲ ਦੀ ਬਜਾਏ ਖੋਜ: ਗੁੰਝਲਦਾਰ ਗਣਿਤਿਕ ਅਨੁਮਾਨਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਦੀ OpenAI ਮਾਡਲਾਂ ਦੀ ਯੋਗਤਾ ਇਹ ਸਾਬਤ ਕਰਦੀ ਹੈ ਕਿ LLMs ਅਸਲ ਗਿਆਨ ਦੀ ਸਿਰਜਣਾ ਵੱਲ ਵਧ ਰਹੇ ਹਨ।
• ਅਗਲੀ ਰੁਕਾਵਟ: ਹਾਲਾਂਕਿ ਸਕੇਲਿੰਗ ਕਈ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਦੀ ਹੈ, ਪਰ ਲੰਬੇ ਸਮੇਂ ਵਾਲੇ ਅਤੇ ਉੱਚ-ਫੈਸਲੇ ਲੈਣ ਵਾਲੇ ਕੰਮਾਂ ਵਿੱਚ ਮਨੁੱਖੀ ਪੱਧਰ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਉਦਯੋਗ ਦੀ ਅਗਲੀ ਵੱਡੀ ਰੁਕਾਵਟ ਬਣਿਆ ਹੋਇਆ ਹੈ।