Alur kerja multi-agen sedang mendominasi GitHub saat ini. Pengembang merangkai model bahasa besar, memberikan spesialisasi sempit pada setiap agen, dan mengorkestrasi output mereka untuk menangani tugas yang tidak dapat ditangani oleh satu model sendirian. Hasilnya bisa sangat mengesankan. Satu agen melakukan riset, yang lain membuat draf, yang ketiga memeriksa fakta, dan yang keempat memformat output akhir. Namun, di balik semua koordinasi tersebut, terdapat ketergantungan yang rapuh. Jika langkah paling awal, yaitu mengubah input manusia menjadi instruksi yang dapat dibaca mesin, berjalan lambat atau tidak akurat, seluruh rangkaian akan hancur. Agen downstream tidak dapat memperbaiki data sampah. Ia hanya bisa meneruskannya.
Hambatan inilah tempat Iflytek/domux hadir. Ini adalah model open-source yang dibangun khusus untuk satu tugas berisiko tinggi: pemahaman perintah yang cepat. Alih-alih menghasilkan esai atau melakukan percakapan terbuka, domux mengurai bahasa alami dan mengekspor data terstruktur yang kaku yang dapat langsung dikonsumsi oleh agen lain. Sistem apa pun yang membutuhkan input terstruktur secara real-time, mulai dari hub rumah pintar hingga panel kontrol industri, dapat menggunakannya sebagai lapisan persepsi.
Mata rantai terlemah dalam rangkaian tersebut
Pertimbangkan apa yang terjadi ketika seorang pengguna memberikan perintah sederhana seperti “buat lebih terang di sini.” Dalam pengaturan multi-agen, ucapan tersebut mungkin perlu melewati pengontrol pencahayaan, monitor energi, dan pencatat keamanan. Jika parser awal mengembalikan kalimat yang samar seperti “pengguna ingin lebih banyak cahaya,” setiap agen berikutnya harus menafsirkan ulang maknanya. Beberapa mungkin tertahan menunggu parameter yang tepat. Yang lain mungkin menebak ruangan atau tingkat kecerahan dan melakukan kesalahan. Alur kerja pun terhenti.
Latensi memperburuk masalah ini. Tambahkan beberapa ratus milidetik penundaan parsing pada titik masuk, dan pada saat informasi mencapai agen ketiga, sistem sudah terasa rusak. Lingkungan real-time tidak mentoleransi awal yang lambat. Pengembang menemukan bahwa kerangka kerja orkestrasi terlihat indah pada diagram arsitektur, tetapi runtuh saat diberi input yang ambigu atau lamban. Anda memerlukan lapisan khusus yang menstandarisasi perintah sebelum sisa alur kerja mulai berpikir.
Domux dirancang untuk menjadi lapisan tersebut. Ia menerima bahasa manusia yang berantakan dan mengubahnya menjadi skema bersih yang dapat diperlakukan sebagai ground truth oleh agen downstream.
Kecepatan, struktur, dan akurasi
Proyek ini mengiklankan tiga karakteristik yang secara langsung memengaruhi perilaku produksi.
Pertama, ia merespons dalam waktu kurang dari 150 milidetik. Ambang batas tersebut sangat penting. Dalam pengaturan interaktif, respons di bawah seperempat detik terasa seketika, sementara apa pun yang mendekati satu detik penuh akan melatih pengguna untuk meninggalkan alat tersebut. Baik input berasal dari suara atau antarmuka obrolan, domux menjaga alur tetap berjalan.
Kedua, ia memetakan input ke skema tujuh-bidang yang ketat. Tidak ada teks bebas untuk didekode oleh sistem downstream. Setiap perintah dimasukkan ke dalam kolom yang dapat diprediksi.
Ketiga, ia mengklaim akurasi 98,37 persen bersamaan dengan kepatuhan format 100 persen. Akurasi berarti model biasanya memahami pengguna dengan benar. Kepatuhan format berarti output secara struktural valid setiap saat. Parser yang akurasinya 99 persen tetapi sesekali menghilangkan bidang atau menciptakan bidang baru adalah sebuah liabilitas dalam rantai otomatis. Satu baris yang salah format dapat merusak agen konsumen.
Berikut adalah tampilan output yang sebenarnya. Ketika model memproses perintah, ia mengembalikan rekaman yang dipisahkan oleh pipa (pipe-delimited):
action|device|attribute|value|unit|room|floor
turnOn|light|brightness|80|percent|living room|ground floor
Format ini disengaja. Teks yang dipisahkan oleh pipa sangat mudah untuk diparsing dalam bahasa pemrograman apa pun tanpa ketergantungan yang berat. Ini menghindari pembengkakan JSON dan latensi dari serialisasi bersarang. Agen pencahayaan dapat membaca kolom action dan device dan bertindak segera. Agen pencatat dapat mengekstrak room dan floor tanpa menjalankan proses inferensi lainnya. Struktur ini menghilangkan ambiguitas melalui desain.
Menangani niat manusia yang tidak beraturan
Orang sungguhan tidak berbicara seperti dokumentasi API. Mereka mengatakan hal-hal seperti “buat lebih terang” atau “buat tempat ini lebih hangat.” Parser yang rapuh akan gagal dalam hal itu. Domux menangani ketidakjelasan tersebut dengan memetakan niat ke tindakan penyesuaian dan membiarkan sistem downstream menyelesaikan nilai pastinya. Jika seseorang berkata “buat lebih terang,” model tersebut mengidentifikasi tindakan tersebut sebagai peningkatan kecerahan. Tingkat numerik spesifik diserahkan kepada agen pencahayaan untuk ditentukan berdasarkan pembacaan saat ini, waktu dalam sehari, atau