Semua orang mahu membina pasukan ejen AI. Demo-demo yang ditunjukkan kelihatan sangat menarik. Satu ejen membuat penyelidikan, satu lagi menulis kod, dan ejen ketiga menjalankan ujian. Namun, kebanyakan sistem ini berkongsi satu rahsia gelap: ia rapuh. Ia berfungsi dengan cantik semasa demo selama lima minit, tetapi hancur semasa penyiasatan sebenar. Titik kegagalan jarang sekali disebabkan oleh keupayaan penaakulan model bahasa atau bilangan ejen dalam kumpulan tersebut. Ia adalah ruang di antara mereka. Sistem berbilang ejen gagal pada satah kolaborasi.
Perangkap Penyelia
Seni bina lalai adalah sangat ringkas dan menarik. Seorang ejen penyelia menerima matlamat, membahagikannya kepada subtugasan, dan menyerahkannya kepada ejen pekerja. Pekerja melaksanakan tugasan, mengembalikan hasil, dan penyelia menyatukan segalanya menjadi jawapan akhir. Corak ini memadai jika anda merumuskan sepuluh artikel, mentranskripsi fail audio, atau mengekstrak data daripada seratus halaman web yang seragam. Tugasan-tugasan tersebut adalah bebas. Mereka tidak memberi maklum balas.
Penyiasatan yang kompleks adalah berbeza. Apabila seorang ejen menemui penemuan yang mengejutkan, keseluruhan hala tuju kerja mungkin perlu berubah. Jika sistem tidak mempunyai cara yang berstruktur untuk menyebarkan peralihan tersebut, ejen lain akan terus bergerak ke arah yang salah. Anda akhirnya mendapat koleksi monolog selari dan bukannya satu perbualan. Penyelia menjadi satu kekangan, bukannya penyelaras.
Apa Yang Hilang Apabila Penyelarasan Gagal
Apabila penyiasatan menjadi mendalam, anda perlu mengetahui lebih daripada sekadar jawapan akhir. Anda perlu tahu siapa yang tahu apa dan bila. Anda perlu menjejaki penemuan mana yang memacu hala tuju kerja. Anda perlu memahami mengapa seorang ejen mengubah rancangannya dua jam yang lalu. Tanpa satah kolaborasi, semua ini tidak dapat dilihat. Anda mempunyai log. Log hanyalah hingar kronologi. Ia merekodkan bahawa Ejen C tiba-tiba mula menganalisis transaksi pangkalan data dan bukannya panggilan API, tetapi ia tidak menjelaskan mengapa. Anda hanya boleh memerhatikannya berlaku dan membuat tekaan.
Bayangkan tindak balas insiden keselamatan. Ejen A meneliti log pelayan dan menyimpulkan bahawa pencerobohan tidak bermula di sana. Ia mengembalikan outputnya kepada penyelia. Ejen B, yang ditugaskan untuk menganalisis trafik rangkaian, tidak pernah melihat kesimpulan itu sebagai hipotesis yang ditolak. Oleh kerana huraian tugasan asalnya masih menganggap pelayan sebagai suspek utama, Ejen B membazirkan satu lagi kitaran mencari cap jari dalam log yang sama. Sistem tersebut melakukan kerja yang sama dua kali dan tidak belajar apa-apa daripada larian pertama.
Satah Kolaborasi Bukanlah Memori
Satah kolaborasi bukan sekadar bekas memori untuk fakta. Memori menyimpan maklumat. Keadaan kolaborasi menyimpan kerja yang sedang berjalan. Pangkalan data vektor yang penuh dengan dokumen memberikan bahan rujukan kepada ejen. Ia tidak memberitahu ejen bahawa Ejen X sedang menguji hipotesis yang akan menjadikan tugasan semasa Ejen Y tidak diperlukan lagi. Memori adalah konteks statik. Keadaan kolaborasi adalah peta operasi secara langsung.
Jika anda keliru antara kedua-duanya, anda akan membina sistem yang boleh mendapatkan setiap perenggan buku panduan syarikat anda tetapi tidak dapat memberitahu anda sama ada ejen lain baru sahaja membuktikan tugasan semasa anda tidak relevan.
Lima Bekas Keadaan Bersama
Satah kolaborasi yang sebenar memerlukan lima bekas khusus.
Dakwaan. Ini adalah hipotesis aktif yang sedang diuji oleh ejen. Dalam penyiasatan penipuan, satu dakwaan mungkin ialah "anomali berkait dengan tugasan berkelompok hujung minggu." Setiap ejen sepatutnya dapat melihat dakwaan mana yang masih terbuka, yang sedang diuji, dan siapa yang memilikinya. Tanpa