Google telah melancarkan pratonton Genkit Agents API untuk TypeScript dan Go, dengan menambah “detached turns” dan penghadang (guardrail) human-in-the-loop untuk memudahkan pembinaan dan kawalan ejen AI gred pengeluaran.

Mengapa API baharu ini penting

Pembangun telah lama bergelut dengan dua masalah apabila melancarkan ejen AI: tugasan berdurasi panjang yang melambatkan keseluruhan saluran paip (pipeline), dan kesukaran untuk menjamin tindakan yang selamat serta boleh dipercayai. “Detached turns” membolehkan ejen terus bekerja pada operasi yang panjang tanpa mengunci aliran kerja sekeliling, manakala pilihan human-in-the-loop mewajibkan semakan manual sebelum output ejen dilaksanakan. Bersama-sama, kedua-duanya mengurangkan masa henti (downtime) dan mencegah kesilapan yang menelan kos tinggi.

Jalan yang membawa ke sini

Awal tahun ini, rangka kerja sumber terbuka dan perkhidmatan awan mula menawarkan komponen plug-and-play untuk AI perbualan, tetapi kebanyakan daripadanya memaksa pembangun menulis kod orkestrasi tersuai. Genkit daripada Google mengisi jurang tersebut dengan SDK tahap tinggi yang menghapuskan kod boilerplate bagi pengendalian permintaan, pengurusan keadaan (state management), dan pemilihan model.

Apa yang sebenarnya dilakukan oleh ciri-ciri ini

  • Detached turns: Apabila ejen perlu mengambil data daripada API luaran, menjalankan rantaian penaakulan berbilang langkah, atau menunggu input pengguna, ia menyerahkan kerja tersebut kepada proses latar belakang. Aliran kerja utama akan menerima penanda tempat (placeholder) dan meneruskan tugas, sekali gus mengelakkan pemberhentian penuh yang akan menyekat tugasan hiliran (downstream tasks).
  • Human-in-the-loop: Sebelum keputusan ejen dilaksanakan—contohnya, meluluskan pinjaman atau mengemas kini pangkalan data—satu gesaan UI akan muncul untuk penyemak manusia. Penyemak boleh menerima, mengubah suai, atau menolak cadangan tersebut, memberikan organisasi jaring keselamatan tanpa meninggalkan automasi.

Alat pelengkap yang muncul

Di samping Genkit, komuniti sumber terbuka sedang melancarkan utiliti yang menangani kos dan penyahpepijatan (debugging), dua titik kesukaran yang sering menyertai saluran paip AI.

  • ORA: Orkestrator tugasan berasaskan Go yang dibungkus sebagai binari tunggal. Ia membahagikan tugasan besar kepada subtugasan yang lebih kecil dan secara automatik menghalakan setiap satu ke model termurah yang mampu mengendalikannya, membantu pasukan mengawal perbelanjaan awan.
  • Python AI error explainer: Sebuah perpustakaan yang memproses jejak timbunan (stack traces) dan log yang kabur, kemudian mengembalikan ringkasan dalam bahasa mudah, punca yang berkemungkinan, dan langkah pemulihan. Dengan menukarkan data ralat mentah kepada cerapan yang boleh diambil tindakan, ia mempercepatkan kitaran maklum balas pembangun.

Siapa yang menang, siapa yang bimbang

Apa yang perlu diperhatikan seterusnya

Jika pratonton ini menunaikan janjinya, ejen AI boleh beralih daripada bot sembang eksperimental kepada komponen boleh dipercayai yang dipercayai oleh perniagaan untuk bertindak, berhenti seketika, dan meminta bantuan apabila risiko adalah tinggi.