The Orchestration Collapse Is Here

Google baru sahaja mengubah peraturan untuk membina ejen AI.

Interactions API baharu untuk model Gemini kini telah dilancarkan. Ia bukan sekadar kemas kini kecil. Ia merupakan anjakan struktur yang menjadikan banyak rangka kerja (framework) sedia ada tidak lagi diperlukan.

Selama bertahun-tahun, pembangun membina lapisan middleware yang besar untuk menguruskan AI. Anda perlu membina pangkalan data sesi, perkhidmatan pemangkasan konteks (context pruning), dan alatan pengurusan memori anda sendiri. Jika anda menggunakan LangGraph atau AutoGen untuk Gemini, anda menghabiskan masa berbulan-bulan hanya untuk menguruskan "kerja perpaipan" ini.

Interactions API menyerap kesemua perkara tersebut.

What changed?

• Server-side state: Google kini menguruskan sejarah perbualan dan memori pada infrastruktur mereka. Anda tidak lagi memerlukan stor Redis untuk mengingati apa yang dikatakan oleh pengguna. • Background execution: Anda boleh menetapkan satu flag sahaja untuk menjalankan tugas yang lama. Tiada lagi barisan kerja (job queues) tersuai atau kluster Celery. • Managed Agents: Google menyediakan sandbox Linux yang selamat. Ejen anda kini boleh menjalankan kod, melayari web, dan mengurus fail secara asli (natively). • Unified Endpoint: Satu URL kini menggantikan API Chat dan Generate Content yang terfragmentasi.

Saya telah menguji perkara ini sendiri. Saya memindahkan aliran kerja LangGraph ke Interactions API. Kod keadaan sesi (session-state) saya berkurang daripada 400 baris kepada hanya satu parameter tunggal.

Inilah Keruntuhan Orkestrasi. Apabila vendor menyediakan keadaan (state), alatan, dan pelaksanaan asinkron (async execution) secara asli, rangka kerja tersuai anda tidak lagi menjadi satu keperluan. Ia menjadi satu pilihan.

Should you migrate?

Migrate if:

  • Aliran kerja anda hanya berjalan pada Gemini.
  • Anda menghabiskan terlalu banyak masa menguruskan keadaan sesi atau pangkalan data.
  • Anda ingin mengurangkan beban kejuruteraan (engineering overhead) anda.

Stay with your current framework if:

  • Anda memerlukan orkestrasi rentas-model (contohnya, menggunakan Claude dan GPT).
  • Anda memerlukan aliran kerja kelulusan human-in-the-loop yang kompleks.

Kerja kejuruteraan kini berpindah daripada infrastruktur anda kepada Google. Ini boleh mengurangkan kejuruteraan middleware tersuai sebanyak 40% hingga 60%.

Pertukaran (trade-off) yang perlu dihadapi adalah 'lock-in'. Keadaan (state) anda kini berada di pelayan Google. Berpindah ke penyedia lain kemudian hari akan memerlukan pembinaan semula. Bagi kebanyakan pasukan, penjimatan masa dan kos menjadikan pertukaran ini satu langkah yang menguntungkan.

Source: https://dev.to/aarhamforensics_eb3c024eb/interactions-api-gemini-models-agents-the-orchestration-collapse-explained-2940

Optional learning community: https://t.me/GyaanSetuAi