pxpipe: PNG ਇਮੇਜ ਕੰਪਰੈਸ਼ਨ ਦੀ ਵਰਤੋਂ ਕਰਕੇ AI ਟੋਕਨ ਲਾਗਤਾਂ ਨੂੰ 70% ਤੱਕ ਘਟਾਉਣਾ

pxpipe ਨਾਮ ਦਾ ਇੱਕ ਨਵਾਂ ਓਪਨ-ਸੋਰਸ ਟੂਲ ਡੈਂਸ ਟੈਕਸਟ (dense text) ਨੂੰ PNG ਇਮੇਜਾਂ ਵਿੱਚ ਬਦਲ ਕੇ ਡਿਵੈਲਪਰਾਂ ਦੁਆਰਾ ਕੰਟੈਕਸਟ ਵਿੰਡੋਜ਼ (context windows) ਦੇ ਪ੍ਰਬੰਧਨ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਕ੍ਰਾਂਤੀ ਲਿਆ ਰਿਹਾ ਹੈ। ਟੈਕਸਟ ਅਤੇ ਵਿਜ਼ਨ ਟੋਕਨਾਂ ਵਿਚਕਾਰ ਕੀਮਤ ਦੇ ਅੰਤਰ ਦਾ ਫਾਇਦਾ ਉਠਾਉਂਦੇ ਹੋਏ, ਇਹ ਟੂਲ ਉੱਚ-ਵਾਲੀਅਮ ਵਾਲੇ AI ਵਰਕਫਲੋਜ਼ ਲਈ ਸੰਚਾਲਨ ਲਾਗਤਾਂ ਨੂੰ ਘਟਾਉਣ ਦਾ ਇੱਕ ਕਾਾਰਕ ਤਰੀਕਾ ਪੇਸ਼ ਕਰਦਾ ਹੈ।

ਇਮੇਜ-ਅਧਾਰਤ ਟੋਕਨ ਕੰਪਰੈਸ਼ਨ ਦੇ ਪਿੱਛੇ ਦਾ ਗਣਿਤ

pxpipe ਦੀ ਮੁੱਖ ਨਵੀਨਤਾ ਇਸ ਗੱਲ ਵਿੱਚ ਹੈ ਕਿ LLM ਪ੍ਰੋਵਾਈਡਰ, ਖਾਸ ਕਰਕੇ Anthropic, ਵੱਖ-ਵੱਖ ਮੋਡੈਲਿਟੀਜ਼ (modalities) ਦੀ ਕੀਮਤ ਕਿਵੇਂ ਤੈਅ ਕਰਦੇ ਹਨ। ਸਟੈਂਡਰਡ ਟੈਕਸਟ ਪ੍ਰੋਸੈਸਿੰਗ ਵਿੱਚ, ਲਾਗਤ ਲਗਭਗ ਪ੍ਰਤੀ ਅੱਖਰ ਇੱਕ ਟੋਕਨ ਦੇ ਹਿਸਾਬ ਨਾਲ ਵਧਦੀ ਹੈ। ਹਾਲਾਂਕਿ, ਇਮੇਜ ਪ੍ਰੋਸੈਸਿੰਗ ਪਿਕਸਲ ਡਾਇਮੈਂਸ਼ਨਾਂ ਦੇ ਅਧਾਰ 'ਤੇ ਇੱਕ ਨਿਸ਼ਚਿਤ ਟੋਕਨ ਲਾਗਤ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ, ਚਾਹੇ ਉਨ੍ਹਾਂ ਪਿਕਸਲਾਂ ਦੇ ਅੰਦਰ ਜਾਣਕਾਰੀ ਦੀ ਘਣਤਾ (density) ਕੁਝ ਵੀ ਹੋਵੇ।

ਭਾਰੀ ਅਤੇ ਸਟੈਟਿਕ ਕੰਟੈਂਟ—ਜਿਵੇਂ ਕਿ ਵਿਸ਼ਾਲ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ, ਵਿਆਪਕ ਟੂਲ ਡਾਕੂਮੈਂਟੇਸ਼ਨ, ਜਾਂ ਲੰਬੀ ਚੈਟ ਹਿਸਟਰੀ—ਨੂੰ ਸੰਖੇਪ, ਹਾਈ-ਡੈਂਸਿਟੀ PNGs ਵਿੱਚ ਰੈਂਡਰ ਕਰਕੇ, pxpipe ਜਾਣਕਾਰੀ ਨੂੰ ਬਹੁਤ ਜ਼ਿਆਦਾ ਕੁਸ਼ਲਤਾ ਨਾਲ "ਪੈਕ" ਕਰ ਸਕਦਾ ਹੈ। ਉਦਾਹਰਨ ਲਈ, ਇੱਕ 48,000-ਅੱਖਰਾਂ ਵਾਲਾ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਜੋ ਆਮ ਤੌਰ 'ਤੇ ਲਗਭਗ 25,000 ਟੈਕਸਟ ਟੋਕਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਉਸਨੂੰ ਸਿਰਫ਼ ਲਗਭਗ 2,700 ਟੋਕਨਾਂ ਦੀ ਲਾਗਤ ਵਾਲੇ ਇੱਕ ਸਿੰਗਲ PNG ਪੇਜ ਵਿੱਚ ਕੰਪਰੈਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ ਲਗਭਗ 3.1 ਅੱਖਰ ਪ੍ਰਤੀ ਇਮੇਜ ਟੋਕਨ ਦੀ ਘਣਤਾ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ।

ਅਸਲ-ਦੁਨੀਆ ਦੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਭਾਰੀ ਲਾਗਤ ਦੀ ਬਚਤ

Agentic ਵਰਕਫਲੋਜ਼ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਲਈ ਇਸ ਤਕਨੀਕ ਦਾ ਆਰਥਿਕ ਪ੍ਰਭਾਵ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਇਸ ਟੂਲ ਨੂੰ ਬਣਾਉਣ ਵਾਲੇ ਡਿਵੈਲਪਰ Steven Chong ਅਨੁਸਾਰ, ਔਸਤ ਕੁੱਲ ਬਚਤ 59% ਤੋਂ 70% ਦੇ ਵਿਚਕਾਰ ਹੈ। Fable 5 ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਇੱਕ ਦਸਤਾਵੇਜ਼ੀ ਪ੍ਰਦਰਸ਼ਨ ਵਿੱਚ, ਸੈਸ਼ਨ ਦੀ ਲਾਗਤ $42.21 ਤੋਂ ਘਟ ਕੇ ਸਿਰਫ਼ $6.06 ਰਹਿ ਗਈ।

pxpipe ਇੱਕ ਲੋਕਲ ਪ੍ਰੌਕਸੀ (local proxy) ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ ਜੋ Claude Code ਵਰਗੇ ਟੂਲਸ ਨੂੰ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਰਿਕੁਐਸਟਾਂ ਨੂੰ ਰੋਕਦਾ ਹੈ। ਇਹ ਸਮਝਦਾਰੀ ਨਾਲ ਫੈਸਲਾ ਕਰਦਾ ਹੈ ਕਿ ਕਿਸ ਚੀਜ਼ ਨੂੰ ਕੰਪਰੈਸ ਕਰਨਾ ਹੈ: ਉੱਚ ਰੀਜ਼ਨਿੰਗ ਸਟੀਕਤਾ (reasoning accuracy) ਬਣਾਈ ਰੱਖਣ ਲਈ ਹਾਲੀਆ ਸੁਨੇਹੇ ਅਤੇ ਮਾਡਲ ਆਉਟਪੁੱਟ ਕੱਚੇ ਟੈਕਸਟ ਵਜੋਂ ਲਗਾਤਾਰ ਪਾਸ ਹੁੰਦੇ ਰਹਿੰਦੇ ਹਨ, ਜਦੋਂ ਕਿ "ਭਾਰੀ" ਬੈਕਗ੍ਰਾਊਂਡ ਕੰਟੈਕਸਟ ਨੂੰ ਇਮੇਜਾਂ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ। ਵਰਤਮਾਨ ਵਿੱਚ, ਇਹ ਟੂਲ ਡਿਫੌਲਟ ਰੂਪ ਵਿੱਚ Claude Fable 5 ਅਤੇ GPT 5.6 ਨੂੰ ਸਪੋਰਟ ਕਰਦਾ ਹੈ।

ਸਮਝੌਤੇ (Trade-offs): ਸਟੀਕਤਾ, ਰਫਤਾਰ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ

ਹਾਲਾਂਕਿ ਲਾਗਤ ਦੇ ਫਾਇਦੇ ਅਸਵੀਕਾਰਨਯੋਗ ਹਨ, ਪਰ pxpipe ਕੋਈ ਜਾਦੂਈ ਹੱਲ (silver bullet) ਨਹੀਂ ਹੈ। ਇਹ ਵਿਧੀ ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ "lossy" ਹੈ। ਕਿਉਂਕਿ ਮਾਡਲ ਸਿੱਧੇ ਟੈਕਸਟ ਪੜ੍ਹਨ ਦੀ ਬਜਾਏ ਵਿਜ਼ਨ ਇਨਕੋਡਰ (vision encoder) 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ, ਇਸ ਲਈ ਅੱਖਰਾਂ ਦੇ ਵਿਗੜਨ ਦਾ ਖਤਰਾ ਹੁੰਦਾ ਹੈ। ਇਹ ਟੂਲ ਨੂੰ ਉਹਨਾਂ ਕੰਮਾਂ ਲਈ ਅਣਉਚਿਤ ਬਣਾਉਂਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਲਈ ਪੂਰਨ ਸਟੀਕਤਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਜਿਵੇਂ ਕਿ ਕ੍ਰਿਪਟੋਗ੍ਰਾਫਿਕ ਹੈਸ਼ (cryptographic hashes) ਜਾਂ ਵਿਸ਼ੇਸ਼ ਕੋਡ ਸਟ੍ਰਿੰਗਾਂ ਨੂੰ ਪੜ੍ਹਨਾ।

ਇਸ ਤੋਂ ਇਲਾਵਾ, ਲੇਟੈਂਸੀ (latency) ਦਾ ਨੁਕਸਾਨ ਵੀ ਹੈ। ਟੈਕਸਟ ਪ੍ਰੋਸੈਸ ਕਰਨ ਦੀ ਤੁਲਨਾ ਵਿੱਚ ਵਿਜ਼ਨ ਇਨਕੋਡਰ ਰਾਹੀਂ ਇਮੇਜਾਂ ਨੂੰ ਚਲਾਉਣਾ ਕੰਪਿਊਟੇਸ਼ਨਲ ਰੂਪ ਵਿੱਚ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਹੈ, ਜਿਸ ਨਾਲ ਜਵਾਬ ਦੇਣ ਦਾ ਸਮਾਂ (response time) ਹੌਲੀ ਹੋ ਜਾਂਦਾ ਹੈ। ਬੈਂਚਮਾਰਕ ਸਫਲਤਾ ਦੇ ਵੱਖ-ਵੱਖ ਪੱਧਰ ਦਿਖਾਉਂਦੇ ਹਨ: ਜਿੱਥੇ Fable 5 ਨੇ ਨਵੇਂ ਗਣਿਤ ਦੇ ਸਵਾਲਾਂ 'ਤੇ 100% ਸਟੀਕਤਾ ਪ੍ਰਾਪਤ ਕੀਤੀ, ਉੱਥੇ ਹੀ Opus 4.7 ਅਤੇ 4.8 ਵਰਗੇ ਹੋਰ ਮਾਡਲਾਂ ਨੇ ਰੈਂਡਰ ਕੀਤੀਆਂ ਇਮੇਜਾਂ ਦਾ ਲਗਭਗ 7% ਗਲਤ ਪੜ੍ਹਿਆ।

ਇਹ AI ਉਦਯੋਗ ਲਈ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਇਹ ਵਿਕਾਸ ਇਸ ਗੱਲ ਦਾ ਸੰਕੇਤ ਹੈ ਕਿ ਡਿਵੈਲਪਰ "ਕੰਟੈਕਸਟ ਮੈਨੇਜਮੈਂਟ" (context management) ਨੂੰ ਕਿਵੇਂ ਅਨੁਕੂਲਿਤ ਕਰਦੇ ਹਨ। ਜਿਵੇਂ-ਜਿਵੇਂ LLM ਕੰਟੈਕਸਟ ਵਿੰਡੋਜ਼ ਵਧਦੀਆਂ ਹਨ, ਉਸ ਡੇਟਾ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਦੀ ਲਾਗਤ AI ਏਜੰਟਾਂ ਨੂੰ ਵਧਾਉਣ ਲਈ ਮੁੱਖ ਰੁਕਾਵਟ ਬਣ ਜਾਂਦੀ ਹੈ। pxpipe DeepSeek ਦੀ OCR-ਅਧਾਰਤ ਕੰਪਰੈਸ਼ਨ ਦੇ ਸਮਾਨ ਰਸਤੇ 'ਤੇ ਚੱਲਦਾ ਹੈ, ਜੋ ਦਸ ਗੁਣਾ ਤੱਕ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਕੰਪਰੈਸ ਕਰ ਸਕਦਾ ਹੈ। ਜੇਕਰ ਇਹ ਰੁਝਾਨ ਜਾਰੀ ਰਹਿੰਦਾ ਹੈ, ਤਾਂ AI ਪ੍ਰੋਵਾਈਡਰਾਂ ਨੂੰ ਇਮੇਜ-ਅਧਾਰਤ ਟੈਕਸਟ ਕੰਪਰੈਸ਼ਨ ਰਾਹੀਂ ਵੱਡੇ "ਆਰਬਿਟਰੇਜ" (arbitrage) ਨੂੰ ਰੋਕਣ ਲਈ ਵਿਜ਼ਨ ਟੋਕਨਾਂ ਲਈ ਆਪਣੇ ਕੀਮਤ ਮਾਡਲਾਂ ਨੂੰ ਐਡਜਸਟ ਕਰਨ ਲਈ ਮਜਬੂਰ ਹੋਣਾ ਪੈ ਸਕਦਾ ਹੈ।

ਮੁੱਖ ਗੱਲਾਂ (Key Takeaways)

• ਲਾਗਤ ਵਿੱਚ ਭਾਰੀ ਕਮੀ: pxpipe ਡੈਂਸ ਟੈਕਸਟ ਨੂੰ ਹਾਈ-ਡੈਂਸਿਟੀ PNG ਇਮੇਜਾਂ ਵਿੱਚ ਬਦਲ ਕੇ AI ਸੈਸ਼ਨ ਦੀ ਲਾਗਤ ਨੂੰ 70% ਤੱਕ ਘਟਾ ਸਕਦਾ ਹੈ।
• ਰਣਨੀਤਕ ਕੰਟੈਕਸਟ ਮੈਨੇਜਮੈਂਟ: ਇਹ ਟੂਲ ਇੱਕ ਪ੍ਰੌਕਸੀ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ, ਜੋ ਲਾਗਤ ਅਤੇ ਸਟੀਕਤਾ ਨੂੰ ਸੰਤੁਲਿਤ ਕਰਨ ਲਈ ਸਟੈਟਿਕ ਡਾਕੂਮੈਂਟੇਸ਼ਨ ਨੂੰ ਇਮੇਜਾਂ ਵਜੋਂ ਭੇਜਦਾ ਹੈ ਅਤੇ ਹਾਲੀਆ ਗੱਲਬਾਤ ਨੂੰ ਟੈਕਸਟ ਵਜੋਂ ਰੱਖਦਾ ਹੈ।
• ਸਟੀਕਤਾ ਦੇ ਸਮਝੌਤੇ: ਹਾਲਾਂਕਿ ਆਮ ਕੰਟੈਕਸਟ ਲਈ ਇਹ ਬਹੁਤ ਕੁਸ਼ਲ ਹੈ, ਪਰ ਇਹ ਵਿਧੀ ਲੇਟੈਂਸੀ ਅਤੇ ਅੱਖਰਾਂ ਦੀਆਂ ਗਲਤੀਆਂ ਦਾ ਖਤਰਾ ਪੈਦਾ ਕਰਦੀ ਹੈ, ਜੋ ਇਸਨੂੰ ਹੈਸ਼ (hashes) ਵਰਗੀਆਂ ਸਟੀਕ ਸਟ੍ਰਿੰਗਾਂ ਲਈ ਘੱਟ ਆਦਰਸ਼ ਬਣਾਉਂਦੀ ਹੈ।