𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵: 𝗧𝗵𝗲 𝗣𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻 𝗕𝘂𝗶𝗹𝗱 𝗚𝘂𝗶𝗱𝗲

AI agent ของคุณอาจกำลังโกหกผู้ใช้งานอยู่

สิ่งนี้เกิดขึ้นเพราะความรู้ของมันจะล้าสมัยทันทีที่คุณเริ่มใช้งานจริง ไพป์ไลน์ RAG แบบ Static จะเสื่อมประสิทธิภาพอย่างรวดเร็ว โดยองค์กรต่างๆ พบว่าความแม่นยำลดลงถึง 23% ภายใน 90 วันหลังการติดตั้งใช้งาน (deployment)

Amazon Bedrock AgentCore web search ช่วยแก้ปัญหานี้ โดยช่วยให้ agent สามารถสืบค้น URL ที่เป็นปัจจุบันได้ในขณะที่ทำการประมวลผล (inference time) คุณไม่จำเป็นต้องใช้ Lambda functions หรือ API key จากบุคคลที่สามอย่าง Tavily หรือ SerpAPI

สิ่งที่คุณต้องรู้สำหรับการใช้งานจริง (production):

  • สถาปัตยกรรม (Architecture): โมเดลจะเป็นผู้ตัดสินใจเองว่าจะเรียกใช้เครื่องมือเมื่อใด โดยจะดึงข้อมูลข้อความบางส่วนที่เป็นปัจจุบันและส่งกลับไปยังลูปการใช้เหตุผล (reasoning loop)
  • ความปลอดภัย (Security): ใช้ IAM เพื่อกำหนดขอบเขตการค้นหา คุณสามารถสร้าง allowlist ของโดเมนที่เชื่อถือได้ เพื่อป้องกันไม่ให้ agent เข้าถึงแหล่งข้อมูลที่ไม่น่าเชื่อถือ
  • ประสิทธิภาพ (Performance): คาดการณ์ความหน่วง (latency) แบบไป-กลับที่ 1.2 ถึง 2.8 วินาที ควรใช้ฟีเจอร์นี้เพื่อหาข้อเท็จจริง ไม่ใช่สำหรับการแชทที่ต้องการการตอบสนองในระดับเสี้ยววินาที
  • กลยุทธ์ด้านต้นทุน (Cost Strategy): ใช้ Claude Haiku ในการจำแนกประเภทคำถามก่อน หากคำถามนั้นต้องการข้อมูลที่เป็นปัจจุบัน ให้ส่งต่อไปยัง Claude 3.5 Sonnet วิธีนี้จะช่วยลดต้นทุนต่อเซสชันลงได้ 35% ถึง 45%

ปรากฏการณ์ความรู้เสื่อมถอย (Knowledge Decay Cliff) นั้นเกิดขึ้นจริง ในภาคส่วนที่มีการเปลี่ยนแปลงอย่างรวดเร็ว เช่น การเงินหรือกฎหมาย ความแม่นยำจะลดฮวบลงหลังจากใช้ข้อมูลแบบ static ไปได้ 60 วัน

อย่าเปลี่ยนไปใช้ vector database ใหม่ทั้งหมด ให้ใช้แนวทางแบบไฮบริด (hybrid approach): • ใช้ vector RAG สำหรับความรู้ภายในที่เป็นส่วนตัวของคุณ • ใช้ AgentCore web search สำหรับข้อมูลภายนอกที่ต้องการความสดใหม่แบบเรียลไทม์

การตั้งค่านี้พร้อมสำหรับการใช้งานจริง (production-ready) สำหรับการตอบคำถามแบบรอบเดียว (single-turn) หากคุณต้องการการวิจัยแบบหลายขั้นตอนที่ซับซ้อน (multi-hop research) ให้ถือว่ายังอยู่ในขั้นทดลอง

เลิกสร้าง agent บนข้อมูลที่ล้าสมัย แล้วสร้างเพื่อโลกแห่งความเป็นจริง

Source: https://dev.to/aarhamforensics_eb3c024eb/amazon-bedrock-agentcore-web-search-the-production-build-guide-41ad

Optional learning community: https://t.me/GyaanSetuAi