iPronics, ਵੈਲੇਨਸ਼ੀਆ-ਅਧਾਰਿਤ ਇੱਕ ਸਟਾਰਟਅੱਪ, ਨੇ $125 ਮਿਲੀਅਨ ਦੇ ਫਾਈਨੈਂਸਿੰਗ ਰਾਊਂਡ ਨੂੰ ਪੂਰਾ ਕੀਤਾ ਹੈ, ਜਿਸ ਵਿੱਚ Nvidia ਵੀ ਸਮਾ込めਸ਼ ਹੈ। ਇਹ ਨਕਦੀ ਇਸਦੇ ਪ੍ਰੋਗਰਾਮਯੋਗ ਆਪਟੀਕਲ ਸਵਿੱਚਾਂ (optical switches) ਦੀ ਰੋਲਆਊਟ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਤੇਜ਼ ਕਰੇਗੀ, ਜਿਸ ਬਾਰੇ ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਬੈਂਡਵਿਡਥ ਦੀਆਂ ਉਹਨਾਂ ਰੁਕਾਵਟਾਂ ਨੂੰ ਖਤਮ ਕਰ ਸਕਦੀ ਹੈ ਜੋ ਇਸ ਸਮੇਂ ਵੱਡੇ ਡਾਟਾ ਸੈਂਟਰਾਂ ਵਿੱਚ AI ਟ੍ਰੇਨਿੰਗ ਨੂੰ ਹੌਲੀ ਕਰ ਰਹੀਆਂ ਹਨ।

ਅੱਜ ਦੇ AI ਦੇ ਪਿੱਛੇ ਬੈਂਡਵਿਡਥ ਦੀ ਘਾਟ

ਆਧੁਨਿਕ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (language models) ਜਾਂ ਵਿਜ਼ਨ ਸਿਸਟਮਾਂ ਦੀ ਟ੍ਰੇਨਿੰਗ ਸਰਵਰਾਂ ਵਿਚਕਾਰ ਪੈਟਾਬਾਈਟਸ (petabytes) ਡਾਟਾ ਅਜਿਹੀਆਂ ਰਫ਼ਤਾਰ ਨਾਲ ਲਿਜਾ ਰਹੀ ਹੈ ਜਿਸ ਨੂੰ ਇਲੈਕਟ੍ਰੀਕਲ ਤਾਂਬੇ ਦੇ ਇੰਟਰਕਨੈਕਟਸ (copper interconnects) ਸਹਿ ਨਹੀਂ ਸਕਦੇ। ਜਿਵੇਂ-ਜਿਵੇਂ GPUs ਅਤੇ ਕਸਟਮ AI ਚਿਪਸ ਤੇਜ਼ ਹੁੰਦੀਆਂ ਜਾ ਰਹੀਆਂ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਆਪਸ ਵਿੱਚ ਜੋੜਨ ਵਾਲਾ ਨੈੱਟਵਰਕ ਸੀਮਾ ਬਣ ਜਾਂਦਾ ਹੈ। ਡਾਟਾ-ਸੈਂਟਰ ਸੰਚਾਲਕਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇੱਕ ਸਿੰਗਲ AI ਵਰਕਲੋਡ ਨੂੰ ਵਧਾਉਣ ਲਈ ਅਕਸਰ ਉਹਨਾਂ ਨੂੰ ਹੋਰ ਸਵਿੱਚ ਜੋੜਨੇ ਪੈਂਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਫਲੋਰ ਸਪੇਸ, ਪਾਵਰ ਅਤੇ ਕੂਲਿੰਗ ਸਮਰੱਥਾ ਦੀ ਵਰਤੋਂ ਹੁੰਦੀ ਹੈ। ਨਤੀਜੇ ਵਜੋਂ ਇੱਕ ਮਹਿੰਗਾ ਅਤੇ ਅਕੁਸ਼ਲ ਸਟੈਕ ਬਣਦਾ ਹੈ ਜੋ ਇੱਕ ਮਾਡਲ ਦੇ ਵਿਹਾਰਕ ਆਕਾਰ ਨੂੰ ਸੀਮਤ ਕਰ ਦਿੰਦਾ ਹੈ।

ਇਲਾਜ ਵਜੋਂ ਪ੍ਰਕਾਸ਼-ਅਧਾਰਿਤ ਨੈੱਟਵਰਕਿੰਗ

iPronics ਇਸ ਸਮੱਸਿਆ ਦਾ ਹੱਲ ਇਲੈਕਟ੍ਰਾਨਿਕ ਨਹੀਂ, ਸਗੋਂ ਫੋਟੋਨਿਕ (photonic) ਸਵਿਚਿੰਗ ਨਾਲ ਕਰਦਾ ਹੈ। ਇਲੈਕਟ੍ਰੀਕਲ ਸਿਗਨਲਾਂ ਦੇ ਮੈਟਲ ਟ੍ਰੇਸ ਰਾਹੀਂ ਜਾਣ ਦੀ ਬਜਾਏ, ਇਸਦੇ ਡਿਵਾਈਸ ਸਿਲੀਕਾਨ-ਅਧਾਰਿਤ ਵੇਵਗਾਈਡਸ (waveguides) ਰਾਹੀਂ ਪ੍ਰਕਾਸ਼ ਨੂੰ ਰੂਟ ਕਰਦੇ ਹਨ। ਇਸਦੀ ਮੁੱਖ ਪੇਸ਼ਕਸ਼, iPronics ONE, ਤੁਲਨਾਤਮਕ ਰਵਾਇਤੀ ਉਪਕਰਣਾਂ ਨਾਲੋਂ ਲਗਭਗ ਵੀਹ ਗੁਣਾ ਛੋਟੀ ਹੈ। ਫੁੱਟਪ੍ਰਿੰਟ ਨੂੰ ਘਟਾ ਕੇ, ਇਹ ਸਿਸਟਮ ਰੈਕ ਸਪੇਸ ਨੂੰ ਖਾਲੀ ਕਰਦਾ ਹੈ ਅਤੇ ਕੂਲਿੰਗ ਲਈ ਲੋੜੀਂਦੀ ਪਾਵਰ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ। ਪ੍ਰਕਾਸ਼ ਤਾਂਬੇ ਦੀ ਤੁਲਨਾ ਵਿੱਚ ਬਿਨਾਂ ਕਿਸੇ ਕਮੀ (attenuation) ਦੇ ਲੰਬੀ ਦੂਰੀ ਤੱਕ ਉੱਚੀਆਂ ਦਰਾਂ 'ਤੇ ਡਾਟਾ ਲਿਜਾ ਸਕਦਾ ਹੈ, ਇਸ ਲਈ ਇਹ ਸਵਿੱਚ ਘੱਟ ਲੇਟੈਂਸੀ (latency) ਅਤੇ ਉੱਚ ਥਰੂਪੁੱਟ (throughput) ਦਾ ਵਾਅਦਾ ਕਰਦੇ ਹਨ। ਇੱਕ ਵਾਧੂ ਸਾਫਟਵੇਅਰ ਲੇਅਰ ਆਪਣੇ ਆਪ ਕਨੈਕਸ਼ਨਾਂ ਨੂੰ ਰੀਕੌਂਫਿਗਰ ਕਰਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਉਹਨਾਂ ਅਸਫਲਤਾਵਾਂ ਤੋਂ ਬਚਿਆ ਜਾ ਸਕਦਾ ਹੈ ਜੋ ਕਿਸੇ ਰੈਕ ਨੂੰ ਬੰਦ ਕਰ ਸਕਦੀਆਂ ਹਨ।

Nvidia ਦਾ ਨਿਵੇਸ਼ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

Nvidia ਦੀ ਭਾਗੀਦਾਰੀ ਦਾ ਮਤਲਬ ਸਿਰਫ਼ ਪੂੰਜੀ ਤੋਂ ਵੱਧ ਹੈ। ਚਿਪ ਬਣਾਉਣ ਵਾਲੀ ਕੰਪਨੀ ਨੇ ਵਾਰ-ਵਾਰ "ਡਾਟਾ-ਸੈਂਟਰ-ਰੇਡੀ" ਨੈੱਟਵਰਕਿੰਗ ਦੀ ਮੰਗ ਕੀਤੀ ਹੈ ਜੋ ਉਸਦੇ AI ਐਕਸਲਰੇਟਰਾਂ ਦੇ ਨਾਲ ਤਾਲਮੇਲ ਰੱਖ ਸਕੇ। iPronics ਦਾ ਸਮਰਥਨ ਕਰਕੇ, Nvidia ਇਹ ਸੰਕੇਤ ਦੇ ਰਿਹਾ ਹੈ ਕਿ ਫੋਟੋਨਿਕ ਸਵਿਚਿੰਗ ਉਸਦੇ GPUs ਲਈ ਇੱਕ ਮਿਆਰੀ ਪੂਰਕ ਬਣ ਸਕਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਉਹਨਾਂ ਗਾਹਕਾਂ ਲਈ ਸਪਲਾਈ ਚੇਨ ਸੁਖਾਲੀ ਹੋ ਜਾਵੇਗੀ ਜੋ ਪਹਿਲਾਂ ਹੀ Nvidia ਹਾਰਡਵੇਅਰ ਖਰੀਦਦੇ ਹਨ। ਇਸ ਰਾਊਂਡ ਨੇ ਟੈਲੀਕਾਮ ਅਤੇ ਸੈਮੀਕੰਡਕਟਰ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਦੇ ਤਜਰਬੇ ਵਾਲੇ ਨਿਵੇਸ਼ਕਾਂ ਨੂੰ ਵੀ ਆਕਰਸ਼ਿਤ ਕੀਤਾ ਹੈ, ਜੋ ਆਪਟੀਕਲ ਹੱਲਾਂ ਵੱਲ ਇੱਕ ਵਿਆਪਕ ਉਦਯੋਗਿਕ ਧੱਕੇ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ।

ਕਿਸ ਨੂੰ ਫਾਇਦਾ ਹੋ ਸਕਦਾ ਹੈ

  • ਕਲਾਉਡ ਪ੍ਰੋਵਾਈਡਰ (Cloud providers) ਇੱਕੋ ਫੁੱਟਪ੍ਰਿੰਟ ਵਿੱਚ ਵਧੇਰੇ ਕੰਪਿਊਟ ਪੈਕ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਟ੍ਰੇਨਿੰਗ ਰਨ ਦੀ ਲਾਗਤ ਘਟ ਜਾਂਦੀ ਹੈ।
  • AI ਸੇਵਾਵਾਂ 'ਤੇ ਨਿਰਭਰ ਕਾਰੋਬਾਰੀ ਸੰਸਥਾਵਾਂ (Enterprises) ਨੂੰ ਤੇਜ਼ ਇਨਫਰੈਂਸ (inference) ਅਤੇ ਘੱਟ ਰੁਕਾਵਟਾਂ ਦੇਖਣ ਨੂੰ ਮਿਲ ਸਕਦੀਆਂ ਹਨ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਬਿਹਤਰ ਯੂਜ਼ਰ ਅਨੁਭਵ।
  • ਹਾਰਡਵੇਅਰ ਵੈਂਡਰ ਜੋ ਆਪਣੇ ਚਿਪਸ ਦੇ ਨਾਲ ਫੋਟੋਨਿਕ ਸਵਿੱਚਾਂ ਨੂੰ ਜੋੜਦੇ ਹਨ, ਉਹ ਭੀੜ ਵਾਲੇ ਬਾਜ਼ਾਰ ਵਿੱਚ ਆਪਣੀਆਂ ਪੇਸ਼ਕਸ਼ਾਂ ਨੂੰ ਵੱਖਰਾ ਬਣਾ ਸਕਦੇ ਹਨ।

ਮੌਜੂਦਾ ਨੈੱਟਵਰਕਿੰਗ ਵੈਂਡਰ ਜੋ ਇਲੈਕਟ੍ਰੀਕਲ Ethernet ਅਤੇ InfiniBand ਵਿੱਚ ਵਿਸ਼ੇਸ਼ਤਾ ਰੱਖਦੇ ਹਨ, ਉਹ ਆਪਣੀ ਮਾਰਕੀਟ ਹਿੱਸਾ ਗੁਆ ਸਕਦੇ ਹਨ ਜੇਕਰ ਗਾਹਕ ਆਪਟੀਕਲ ਫੈਬਰਿਕਸ (optical fabrics) ਵੱਲ ਵਧਦੇ ਹਨ। ਇਹ ਤਬਦੀਲੀ ਡਾਟਾ-ਸੈਂਟਰ ਇੰਜੀਨੀਅਰਾਂ ਲਈ ਨਵੇਂ ਖਰੀਦ ਚੱਕਰਾਂ (procurement cycles) ਅਤੇ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਕੰਮਾਂ ਲਈ ਵੀ ਮਜਬੂਰ ਕਰਦੀ ਹੈ।

ਅਪਣਾਉਣ ਦੇ ਰਾਹ ਵਿੱਚ ਰੁਕਾਵਟਾਂ

ਫੋਟੋਨਿਕ ਕੰਪੋਨੈਂਟਸ ਦੀ ਕੀਮਤ ਅਜੇ ਵੀ ਮੈਚੋਰ ਤਾਂਬੇ ਦੇ ਸਮਾਨ ਉਪਕਰਣਾਂ ਨਾਲੋਂ ਪ੍ਰਤੀ ਪੋਰਟ ਜ਼ਿਆਦਾ ਹੈ, ਅਤੇ ਆਪਟੀਕਲ ਸਵਿੱਚਾਂ ਦੇ ਪ੍ਰਬੰਧਨ ਲਈ ਈਕੋਸਿਸਟਮ ਘੱਟ ਵਿਕਸਤ ਹੈ। ਮੌਜੂਦਾ ਡਾਟਾ-ਸੈਂਟਰ ਪ੍ਰਬੰਧਨ ਸਟੈਕ ਵਿੱਚ iPronics ਦੇ ਹਾਰਡਵੇਅਰ ਨੂੰ ਜੋੜਨ ਲਈ ਸਾਫਟਵੇਅਰ ਅਡੈਪਟਰਾਂ ਅਤੇ ਸਟਾਫ ਸਿਖਲਾਈ ਦੀ ਲੋੜ ਹੋਵੇਗੀ। ਸ਼ੁਰੂਆਤੀ ਅਪਣਾਉਣ ਵਾਲਿਆਂ ਨੂੰ ਉੱਚੀ ਸ਼ੁਰੂਆਤੀ ਲਾਗਤ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ, ਅਤੇ ਪਾਇਲਟ ਵਾਤਾਵਰਣ ਤੋਂ ਬਾਹਰ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਇਸ ਤਕਨਾਲੋਜੀ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਅਜੇ ਤੱਕ ਅਜ਼ਮਾਈ ਨਹੀਂ ਗਈ ਹੈ।

ਅੱਗੇ ਕੀ ਦੇਖਣਾ ਹੈ

  • ਪ੍ਰੋਡਕਟ ਰੋਲਆਊਟਸ: iPronics ONE ਦੇ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਉਤਪਾਦਨ ਦੀ ਸਮਾਂ-ਸੀਮਾ ਇਹ ਦਿਖਾਏਗੀ ਕਿ ਕੀ ਕੰਪਨੀ ਸਪਲਾਈ ਦੀਆਂ ਰੁਕਾਵਟਾਂ ਤੋਂ ਬਿਨਾਂ ਮੰਗ ਨੂੰ ਪੂਰਾ ਕਰ ਸਕਦੀ ਹੈ।
  • ਗਾਹਕਾਂ ਦੀਆਂ ਜਿੱਤਾਂ: ਪ੍ਰਮੁੱਖ ਕਲਾਉਡ ਆਪਰੇਟਰਾਂ ਜਾਂ ਹਾਈਪਰਸਕੇਲਰਾਂ (hyperscalers) ਨਾਲ ਇਕਰਾਰਨਾਮੇ ਤਕਨਾਲੋਜੀ ਦੀ ਤਿਆਰੀ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨਗੇ।
  • ਹੋਰ ਫੰਡਿੰਗ: ਵਾਧੂ ਰਾਊਂਡ ਬਾਜ਼ਾਰ ਦੇ ਵਿਸ਼ਵਾਸ ਦਾ ਸੰਕੇਤ ਦੇ ਸਕਦੇ ਹਨ ਜਾਂ ਫਿਰ ਵਧੇਰੇ ਫੰਡਾਂ ਦੀ ਲੋੜ ਨੂੰ ਦਰਸਾ ਸਕਦੇ ਹਨ।
  • ਸਟੈਂਡਰਡਾਈਜ਼ੇਸ਼ਨ: ਆਪਟੀਕਲ-ਸਵਿੱਚ ਇੰਟਰਫੇਸਾਂ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨ ਵਾਲੇ ਉਦਯੋਗਿਕ ਸੰਸਥਾਨ ਇਸ ਨੂੰ ਤੇਜ਼ ਕਰ ਸਕਦੇ ਹਨ ਜਾਂ ਰੋਕ ਸਕਦੇ ਹਨ।

Nvidia ਦੇ ਸਮਰਥਨ ਨਾਲ ਮਿਲੀ $125 ਮਿਲੀਅਨ ਦੀ ਫੰਡਿੰਗ, ਫੋਟੋਨਿਕ ਨੈੱਟਵਰਕਿੰਗ ਨੂੰ ਉਹਨਾਂ ਸਾਰਿਆਂ ਦੀ ਨਜ਼ਰ ਵਿੱਚ ਲਿਆਉਂਦੀ ਹੈ ਜੋ AI-ਅਧਾਰਿਤ ਕਲਾਉਡ ਸੇਵਾਵਾਂ 'ਤੇ ਨਿਰਭਰ ਹਨ। ਕੀ ਤੇਜ਼, ਛੋਟੇ ਅਤੇ ਵਧੇਰੇ ਕੁਸ਼ਲ ਡਾਟਾ