𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵: 𝗣𝗮𝗻𝗱𝘂𝗮𝗻 𝗣𝗲𝗺𝗯𝗶𝗻𝗮𝗮𝗻 𝗣𝗿𝗼𝗱𝘂𝗸𝘀𝗶𝗼𝗻
Ejen AI anda berkemungkinan besar sedang menipu pengguna anda.
Ini berlaku kerana pengetahuannya menjadi lapuk sebaik sahaja anda melancarkannya. Saluran RAG statik merosot dengan cepat. Perusahaan melihat penurunan ketepatan sebanyak 23% dalam tempoh 90 hari selepas penggunaan.
Carian web Amazon Bedrock AgentCore menyelesaikan masalah ini. Ia membolehkan ejen membuat pertanyaan pada URL secara langsung semasa masa inferens. Anda tidak memerlukan fungsi Lambda atau kunci API pihak ketiga seperti Tavily atau SerpAPI.
Apa yang anda perlu tahu untuk produksi:
- Seni bina: Model menentukan bila untuk memanggil alatan tersebut. Ia mengambil petikan teks secara langsung dan mengembalikannya ke dalam gelung penaakulan (reasoning loop).
- Keselamatan: Gunakan IAM untuk mengehadkan skop carian anda. Anda boleh mencipta senarai putih (allowlist) domain yang dipercayai untuk menghalang ejen daripada mengakses sumber yang tidak boleh dipercayai.
- Prestasi: Jangkakan kependaman (latency) perjalanan balik (round-trip) selama 1.2 hingga 2.8 saat. Gunakan ini untuk fakta, bukan untuk sembang bawah satu saat.
- Strategi Kos: Gunakan Claude Haiku untuk mengelaskan pertanyaan terlebih dahulu. Jika sesuatu pertanyaan memerlukan data langsung, halakan ia ke Claude 3.5 Sonnet. Ini mengurangkan kos setiap sesi sebanyak 35% hingga 45%.
"Knowledge Decay Cliff" (Jurang Kemerosotan Pengetahuan) adalah benar. Dalam sektor yang bergerak pantas seperti kewangan atau undang-undang, ketepatan akan runtuh selepas 60 hari menggunakan data statik.
Jangan gantikan pangkalan data vektor anda sepenuhnya. Gunakan pendekatan hibrid: • Gunakan RAG vektor untuk pengetahuan dalaman dan peribadi anda. • Gunakan carian web AgentCore untuk kesegaran masa nyata luaran.
Tetapan ini sedia untuk produksi bagi menjawab soalan satu pusingan (single-turn). Jika anda memerlukan penyelidikan pelbagai langkah (multi-hop) yang kompleks, anggap ia sebagai eksperimen.
Berhenti membina ejen berasaskan data lapuk. Bina untuk dunia sebenar.
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi