Orchestration Collapse ਆ ਗਿਆ ਹੈ
Google ਨੇ ਹੁਣੇ AI agents ਬਣਾਉਣ ਦੇ ਨਿਯਮ ਬਦਲ ਦਿੱਤੇ ਹਨ।
Gemini models ਲਈ ਨਵੀਂ Interactions API ਹੁਣ ਲਾਈਵ ਹੈ। ਇਹ ਕੋਈ ਛੋਟੀ ਅਪਡੇਟ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਬਣਤਰੂਪ ਤਬਦੀਲੀ (structural shift) ਹੈ ਜੋ ਕਈ ਮੌਜੂਦਾ frameworks ਨੂੰ ਬੇਕਾਰ ਬਣਾ ਦਿੰਦੀ ਹੈ।
ਸਾਲਾਂ ਤੋਂ, developers AI ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਵੱਡੇ middleware layers ਬਣਾਉਂਦੇ ਆ ਰਹੇ ਹਨ। ਤੁਹਾਨੂੰ ਆਪਣੇ session databases, context pruning services, ਅਤੇ memory management tools ਖੁਦ ਬਣਾਉਣੇ ਪੈਂਦੇ ਸਨ। ਜੇਕਰ ਤੁਸੀਂ Gemini ਲਈ LangGraph ਜਾਂ AutoGen ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਸੀ, ਤਾਂ ਤੁਸੀਂ ਇਸ "plumbing" ਨੂੰ ਸੰਭਾਲਣ ਵਿੱਚ ਮਹੀਨੇ ਬਿਤਾਏ।
Interactions API ਇਸ ਸਭ ਨੂੰ ਆਪਣੇ ਅੰਦਰ ਸਮੋ ਲੈਂਦੀ ਹੈ।
ਕੀ ਬਦਲ ਗਿਆ ਹੈ?
• Server-side state: Google ਹੁਣ ਆਪਣੇ infrastructure 'ਤੇ conversation history ਅਤੇ memory ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ। ਯੂਜ਼ਰ ਨੇ ਕੀ ਕਿਹਾ ਸੀ, ਇਹ ਯਾਦ ਰੱਖਣ ਲਈ ਤੁਹਾਨੂੰ ਹੁਣ Redis store ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। • Background execution: ਤੁਸੀਂ ਲੰਬੇ ਕੰਮਾਂ (long tasks) ਨੂੰ ਚਲਾਉਣ ਲਈ ਇੱਕ ਸਿੰਗਲ flag ਸੈੱਟ ਕਰ ਸਕਦੇ ਹੋ। ਹੁਣ ਹੋਰ ਕਿਸੇ custom job queues ਜਾਂ Celery clusters ਦੀ ਲੋੜ ਨਹੀਂ। • Managed Agents: Google ਇੱਕ ਸੁਰੱਖਿਅਤ Linux sandbox ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਤੁਹਾਡੇ agents ਹੁਣ code ਚਲਾ ਸਕਦੇ ਹਨ, ਵੈੱਬ ਬ੍ਰਾਊਜ਼ ਕਰ ਸਕਦੇ ਹਨ, ਅਤੇ ਫਾਈਲਾਂ ਨੂੰ natively ਸੰਭਾਲ ਸਕਦੇ ਹਨ। • Unified Endpoint: ਹੁਣ ਇੱਕ URL ਵੱਖ-ਵੱਖ Chat ਅਤੇ Generate Content APIs ਦੀ ਜਗ੍ਹਾ ਲੈ ਲੈਂਦਾ ਹੈ।
ਮੈਂ ਇਸਦਾ ਖੁਦ ਟੈਸਟ ਕੀਤਾ। ਮੈਂ ਇੱਕ LangGraph workflow ਨੂੰ Interactions API 'ਤੇ ਤਬਦੀਲ ਕੀਤਾ। ਮੇਰਾ session-state code 400 ਲਾਈਨਾਂ ਤੋਂ ਘਟ ਕੇ ਸਿਰਫ਼ ਇੱਕ ਸਿੰਗਲ parameter ਰਹਿ ਗਿਆ।
ਇਹੀ Orchestration Collapse ਹੈ। ਜਦੋਂ vendor state, tools, ਅਤੇ async execution ਨੂੰ natively ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਡਾ custom framework ਇੱਕ ਜ਼ਰੂਰਤ ਨਹੀਂ ਰਹਿੰਦਾ। ਇਹ ਸਿਰਫ਼ ਇੱਕ ਚੋਣ (choice) ਬਣ ਕੇ ਰਹਿ ਜਾਂਦਾ ਹੈ।
ਕੀ ਤੁਹਾਨੂੰ migrate ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?
Migrate ਕਰੋ ਜੇਕਰ:
- ਤੁਹਾਡਾ workflow ਸਿਰਫ਼ Gemini 'ਤੇ ਚੱਲਦਾ ਹੈ।
- ਤੁਸੀਂ session state ਜਾਂ databases ਨੂੰ ਸੰਭਾਲਣ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਮਾਂ ਬਿਤਾਉਂਦੇ ਹੋ।
- ਤੁਸੀਂ ਆਪਣਾ engineering overhead ਘਟਾਉਣਾ ਚਾਹੁੰਦੇ ਹੋ।
ਆਪਣੇ ਮੌਜੂਦਾ framework ਨਾਲ ਜੁੜੇ ਰਹੋ ਜੇਕਰ:
- ਤੁਹਾਨੂੰ cross-model orchestration ਦੀ ਲੋੜ ਹੈ (ਉਦਾਹਰਨ ਲਈ, Claude ਅਤੇ GPT ਦੋਵਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ)।
- ਤੁਹਾਨੂੰ ਗੁੰਝਲਦਾਰ human-in-the-loop approval workflows ਦੀ ਲੋੜ ਹੈ।
ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਕੰਮ ਤੁਹਾਡੇ infrastructure ਤੋਂ Google ਦੇ infrastructure ਵੱਲ ਜਾ ਰਿਹਾ ਹੈ। ਇਹ custom middleware engineering ਨੂੰ 40% ਤੋਂ 60% ਤੱਕ ਘਟਾ ਸਕਦਾ ਹੈ।
ਇਸਦਾ trade-off lock-in ਹੈ। ਤੁਹਾਡਾ state ਹੁਣ Google ਦੇ ਸਰਵਰਾਂ 'ਤੇ ਰਹਿੰਦਾ ਹੈ। ਬਾਅਦ ਵਿੱਚ ਕਿਸੇ ਹੋਰ provider 'ਤੇ ਜਾਣ ਲਈ ਮੁੜ-ਬਣਾਉਣ (rebuild) ਦੀ ਲੋੜ ਪਵੇਗੀ। ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ ਲਈ, ਰਫ਼ਤਾਰ ਅਤੇ ਲਾਗਤ ਦੀ ਬਚਤ ਇਸਨੂੰ ਇੱਕ ਫਾਇਦੇਮੰਦ ਸੌਦਾ ਬਣਾਉਂਦੀ ਹੈ।
Optional learning community: https://t.me/GyaanSetuAi