เครื่องมือของ Agent จำเป็นต้องมีการควบคุมห่วงโซ่อุปทาน (Supply-Chain) ในตอนนี้
Prompt ที่ดีขึ้นก็ไม่สามารถช่วยรักษา Repository ที่มีเครื่องมือ Agent ที่ขาดการควบคุมได้
Coding agents ได้วิวัฒนาการไปแล้ว พวกมันไม่ได้อยู่แค่ในกล่องแชทอีกต่อไป พวกมันอ่านคำสั่ง เรียกใช้เครื่องมือ เชื่อมต่อกับ Marketplace และทำงานอยู่ภายใน Workflow ที่เข้าถึงไฟล์, Pull Requests และ Internal APIs
คำถามไม่ใช่ "โมเดลฉลาดพอหรือยัง?" อีกต่อไปแล้ว
คำถามที่แท้จริงคือ:
- ใครเป็นคนอนุญาตให้เครื่องมือนี้เข้ามาใน Workflow?
- เครื่องมือนี้สามารถเข้าถึงอะไรได้บ้าง?
- คุณจะรู้ได้อย่างไรหากสิทธิ์การเข้าถึงของมันเปลี่ยนไป?
นี่ไม่ใช่เรื่องของ Prompt Engineering แต่นี่คือการควบคุมห่วงโซ่อุปทาน (Supply-Chain Control)
คำแนะนำที่ไม่ดีก็เรื่องหนึ่ง แต่คำแนะนำที่ไม่ดีพร้อมกับสิทธิ์การเข้าถึง Shell, Repo Token หรือ Package Installer นั้นเป็นปัญหาคนละระดับกัน โมเดลไม่ได้ทำหน้าที่แค่สร้างข้อความอีกต่อไป แต่มันกำลังอยู่เบื้องหลังความสามารถ (Capability) ในการลงมือทำ
จงปฏิบัติกับเครื่องมือของ Agent เหมือนกับ Dependencies
คุณไม่ได้ติดตั้ง Package เพียงเพราะความรู้สึก (Vibes) แต่คุณใส่ใจเรื่อง Registry, ผู้ดูแล (Maintainer) และเวอร์ชัน เครื่องมือของ Agent ก็ควรได้รับการตรวจสอบอย่างเข้มงวดในลักษณะเดียวกัน
หากเครื่องมือของ Agent สามารถส่งผลกระทบต่อ Repository, Filesystem หรือ Network ของคุณ ให้ปฏิบัติตามกฎเหล่านี้:
• จัดทำบัญชีรายชื่อ (Inventory) ของเครื่องมือ Agent ระบุแหล่งที่มาและเจ้าของให้ชัดเจน • ทำ Versioning ให้กับคำสั่งของ Agent ปฏิบัติต่อการเปลี่ยนแปลงคำสั่งเหมือนกับการเปลี่ยนแปลง CI Config • ทำ Allowlist สำหรับแหล่งที่มาของเครื่องมือ โดยใช้ Marketplace ที่เชื่อถือได้ • แยกเครื่องมือสำหรับอ่าน (Read) ออกจากเครื่องมือสำหรับเขียน (Write) เครื่องมือค้นหาจำเป็นต้องมีสิทธิ์ที่ต่างจากเครื่องมือแก้ไข • บันทึกการเรียกใช้เครื่องมือ (Log tool calls) ให้ชัดเจน คุณต้องมี Audit Trail ที่มนุษย์สามารถอ่านและทำความเข้าใจได้จริง • ทำให้ความสามารถที่มีความเสี่ยงเห็นได้ชัดเจน การเข้าถึง Shell และการเขียนไฟล์ลง Filesystem ต้องโดดเด่นและสังเกตเห็นได้ง่ายระหว่างการตรวจสอบ (Review) • สร้างช่องทางการปิดการใช้งาน (Disable path) คุณต้องสามารถถอนเครื่องมือออกได้อย่างรวดเร็วหากเกิดข้อผิดพลาด
เป้าหมายคือการเปลี่ยนจากการ "เชื่อใจโดยไม่ได้ตั้งใจ" (Accidental Trust) ไปสู่ "การเชื่อใจอย่างมีหลักการ" (Intentional Trust)
ความได้เปรียบครั้งใหญ่ถัดไปจะไม่ใช่ของทีมที่มี Prompt ที่ล้ำสมัยที่สุด แต่จะเป็นของทีมที่มีการทำ Inventory, Allowlist และ Log ที่เรียบง่ายแต่เป็นระเบียบ
นั่นคือรูปแบบที่จะอยู่รอดในโปรเจกต์ที่ใช้งานจริง
Source: https://dev.to/hefty_69a4c2d631c9dd70724/agent-tools-need-supply-chain-controls-now-1co2
Optional learning community: https://t.me/GyaanSetuAi