𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗜𝘀𝗻'𝘁 𝗕𝗿𝗼𝗸𝗲𝗻. 𝗬𝗼𝘂𝗿 𝗖𝗼𝗺𝗽𝗮𝗻𝘆'𝘀 𝗧𝗿𝘂𝘁𝗵 𝗜𝘀.

เอเจนต์ AI มีหน้าที่เพียงอย่างเดียว นั่นคือการชำระเงินตามใบแจ้งหนี้ของผู้ขายที่ได้รับการอนุมัติแล้ว ทีมการเงินต้องการเลิกทำขั้นตอนนี้ด้วยตัวเอง

ในวันอังคารวันหนึ่ง เอเจนต์ได้หยิบใบแจ้งหนี้จำนวน 48,000 Ksh ขึ้นมา ระบบ ERP ระบุว่าใบแจ้งหนี้นี้ได้รับการอนุมัติแล้วแต่ยังไม่ได้ชำระเงิน เอเจนต์ตรวจสอบกฎเกณฑ์ต่างๆ ทุกอย่างผ่านเกณฑ์ มันจึงดำเนินการชำระเงินใบแจ้งหนี้นั้น

ปัญหาคืออะไรน่ะหรือ? ใบแจ้งหนี้นั้นถูกมนุษย์ชำระไปแล้วเมื่อวันพฤหัสบดีที่ผ่านมา

ไม่มีระบบใดผิดพลาด แต่ทุกระบบกลับให้ข้อมูลที่ไม่ตรงกัน:

• ระบบ ERP บอกว่ายังไม่ได้ชำระเงินเพราะการซิงค์ข้อมูลกับธนาคารล้มเหลว • ข้อมูลจากธนาคาร (bank feed) บอกว่าชำระแล้ว • ข้อความใน Slack บอกให้ระงับการชำระเงินทั้งหมดแก่ผู้ขายรายนี้ • อีเมลจากผู้ขายยืนยันว่าพวกเขาได้รับเงินแล้ว

ทุกระบบต่างถือครองจิ๊กซอว์คนละชิ้น แต่ไม่มีระบบใดสามารถตอบคำถามเดียวที่สำคัญที่สุดได้เลยว่า: ใบแจ้งหนี้ฉบับนี้ได้รับการชำระเงินแล้วหรือยัง?

พนักงานที่เป็นมนุษย์จะตรวจพบความผิดปกตินี้ ไม่ใช่เพราะพวกเขาฉลาดกว่า แต่เป็นเพราะพวกเขาสัมผัสได้ถึง "แรงเสียดทาน" (friction) มนุษย์จะจดจำงานได้หรือสังเกตเห็นข้อความใน Slack มนุษย์ทำหน้าที่เป็นเหมือนกาวที่เชื่อมต่อระบบที่ยุ่งเหยิงเข้าด้วยกัน เราใช้การตัดสินใจ (judgment) เข้ามาช่วย

เอเจนต์ AI ไม่มีสัญชาตญาณ พวกมันอ่านข้อมูลด้วยความเร็วระดับเครื่องจักร เมื่อเห็นคำว่า "Approved" และ "Unpaid" พวกมันก็ลงมือทำทันที พวกมันไม่รู้สึกว่ามีบางอย่างผิดปกติ

เอเจนต์ไม่ได้ล้มเหลว มันทำงานตรงตามที่ออกแบบไว้ทุกประการ ความล้มเหลวที่แท้จริงคือสิ่งที่ผมเรียกว่า epistemic collapse (การล่มสลายทางพุทธิปัญญา)

บริษัทส่วนใหญ่พยายามแก้ไขเอเจนต์ด้วยการใช้ prompt ที่ดีขึ้นหรือโมเดลที่ดีขึ้น แต่นี่เป็นการแก้ปัญหาที่ผิด คุณไม่สามารถใช้ prompt เพื่อดึงข้อมูลที่ไม่มีอยู่จริงในข้อมูลของคุณออกมาได้

ปัญหาที่แท้จริงคือการขาด epistemic infrastructure (โครงสร้างพื้นฐานทางพุทธิปัญญา)

ข้อมูล (Data) คือสิ่งที่ระบบของคุณจัดเก็บ แต่ความจริง (Truth) คือสิ่งที่กำลังเกิดขึ้นจริง บริษัทส่วนใหญ่มีข้อมูลมากมายมหาศาล แต่กลับไม่มีความจริงเลยแม้แต่น้อย

ระบบในปัจจุบันมักจะนำสามสิ่งที่แตกต่างกันมาอัดรวมกันไว้ในฟิลด์เดียว:

  • Observation: สิ่งที่ระบบบอกว่าเกิดขึ้น
  • Truth: สิ่งที่เป็นความจริงจริงๆ
  • History: สิ่งที่เคยเป็นความจริง

เมื่อฐานข้อมูลระบุว่า "Status: Unpaid" มันจะลบประวัติและความคลุมเครือทิ้งไป และนำเสนอเพียงการสังเกตการณ์เดียวให้กลายเป็นความจริงสัมบูรณ์

เอเจนต์ AI คือบททดสอบความแข็งแกร่ง (stress test) ต่อปัญหาเก่าแก่ข้อนี้ พวกมันเข้ามาแทนที่มนุษย์ที่เคยคอยแก้ไขความขัดแย้งเหล่านี้อย่างเงียบๆ ในทุกวัน เมื่อไม่มีมนุษย์คอยเชื่อมช่องว่าง รอยร้าวในข้อมูลของคุณก็จะกลายเป็นความผิดพลาดที่มีราคาแพง

เลิกพยายามสร้างเอเจนต์ที่ดีขึ้น แต่จงเริ่มสร้างเลเยอร์ที่อยู่ภายใต้พวกมัน คุณต้องการระบบที่สามารถติดตามการสังเกตการณ์ ตรวจพบความไม่สอดคล้องกัน และระบุข้อมูลที่ล้าสมัยได้

ตราบใดที่คุณยังไม่สร้างชั้นข้อมูลความจริงขึ้นมา เอเจนต์ของคุณก็จะยังคงทำสิ่งที่ผิดพลาดได้อย่างสมบูรณ์แบบต่อไป

ที่มา: https://dev.to/code_with_mwai/your-ai-agent-isnt-broken-your-companys-truth-is-2cl8

ชุมชนแห่งการเรียนรู้ (เลือกเข้าร่วมได้): https://t.me/GyaanSetuAi