เอเจนต์ขับรถได้ แต่คุณยังต้องรู้เส้นทาง

หลายคนต้องการมอบหมายทุกอย่างให้ AI agent พวกเขาแค่กำหนดเป้าหมายให้เอเจนต์แล้วก็เดินจากไป พวกเขาต้องการมอบหมายงานแบบเบ็ดเสร็จเด็ดขาด

นี่คือกับดัก

เอเจนต์จะทำงานได้ดีเป็นส่วนใหญ่ แต่ปัญหาจะเกิดขึ้นเมื่อมันล้มเหลว เช่น เมื่อ build พัง หรือพฤติกรรมเปลี่ยนไป หรือเมื่อโมเดลเริ่มทำงานวนไปวนมาไม่จบสิ้น

หากคุณไม่เข้าใจสิ่งที่เอเจนต์สร้างขึ้น คุณก็จะไม่สามารถแก้ไขมันได้ คุณจะติดอยู่กับการจ้องมองโค้ดที่คุณไม่คุ้นเคย และคุณจะไม่มีแผนที่สำหรับค้นหาข้อผิดพลาดเลย

ให้คิดว่า AI agent ก็เหมือนกับนักพัฒนาซอฟต์แวร์ระดับ Junior นักพัฒนา Junior มักจะเจอปัญหาที่แก้ไม่ได้และต้องขอความช่วยเหลือจากคุณ คุณคือตาข่ายนิรภัยของพวกเขา

เมื่อเอเจนต์ล้มเหลว คุณคือตาข่ายนิรภัยเพียงหนึ่งเดียว ไม่มีใครอื่นอีกแล้ว หากคุณเองก็ไปไม่เป็นเหมือนกัน ทุกอย่างก็จะหยุดชะงัก คุณไม่สามารถแก้ไขระบบได้หากคุณเองก็หลงทางพอๆ กับเอเจนต์

เลิกถามว่าคุณจะส่งต่องานได้มากแค่ไหน แต่เริ่มถามว่าสิ่งไหนที่คุณต้องทำความเข้าใจต่อไป

คุณไม่จำเป็นต้องท่องจำโค้ดทุกบรรทัด เพราะนั่นจะทำให้จุดประสงค์ของการใช้เอเจนต์เสียไป แต่คุณต้องเข้าใจส่วนที่เป็นโครงสร้างหลักที่แบกรับการทำงานไว้:

• ข้อมูลเคลื่อนที่ผ่านระบบของคุณอย่างไร • สถานะของระบบ (system state) ถูกเก็บไว้ที่ไหน • เส้นทางการทำงานที่สำคัญ (critical path) ของแอปพลิเคชันของคุณ • จุดที่ส่วนประกอบต่างๆ เชื่อมต่อกัน

ลองใช้บททดสอบนี้เพื่อดูว่าคุณพร้อมหรือยัง:

คุณสามารถไล่สายการทำงาน (trace) ของคำขอ (request) เพียงหนึ่งรายการตั้งแต่ต้นจนจบได้หรือไม่? คุณสามารถอธิบายมันออกมาดังๆ ได้ไหม? และเมื่อเกิดข้อผิดพลาด คุณสามารถคาดเดาได้หรือไม่ว่ามันเกิดขึ้นที่ไหน?

หากคุณคาดเดาตำแหน่งของข้อผิดพลาดได้ แสดงว่าคุณเป็นผู้ควบคุม แต่ถ้าคุณแค่ก๊อปปี้ข้อผิดพลาดไปวางใน AI แล้วหวังว่ามันจะแก้ให้ได้ แสดงว่าคุณไม่ได้เป็นเจ้าของระบบนั้นจริงๆ คุณแค่กำลังเช่ามันมาใช้

ปล่อยให้เอเจนต์จัดการงานที่ซ้ำซากจำเจ และใช้ความเร็วที่ได้มานั้นไปโฟกัสที่สถาปัตยกรรม (architecture) แทน จงรักษาการควบคุมโครงสร้างหลัก (skeleton) ของระบบเอาไว้

คุณมอบหมายการพิมพ์โค้ดได้ แต่คุณไม่สามารถมอบหมายการเป็นปราการด่านสุดท้ายได้

Source: https://dev.to/jaikora/the-agent-can-drive-you-still-need-to-know-the-route-274

Optional learning community: https://t.me/GyaanSetuAi