บั๊กการรั่วไหลของ prompt ของ Anthropic ทำให้ข้อมูลผู้ใช้จำนวนหนึ่งสัปดาห์ถูกเปิดเผย

ทำไมการรั่วไหลครั้งนี้จึงสำคัญ

อินเทอร์เฟซโมเดลของ Anthropic ช่วยให้นักพัฒนาสามารถส่ง “prompts”—ซึ่งก็คือข้อความที่ใช้ควบคุมการตอบสนองของโมเดลภาษาได้ ในเหตุการณ์นี้ ข้อบกพร่องในการจัดเก็บข้อมูลทำให้บุคคลที่ไม่ได้รับอนุญาตสามารถอ่าน prompt เหล่านั้นได้เป็นเวลาเจ็ดวัน การรั่วไหลครั้งนี้ไม่ใช่การแฮ็กครั้งใหญ่ แต่เป็นเพียงความผิดพลาดเล็กน้อยในวิธีการบันทึกและดึงข้อมูล prompt ซึ่งเป็นช่องทางที่เปิดโอกาสให้เกิดเหตุการณ์นี้

เกิดอะไรขึ้น

การแยกข้อมูลผู้ใช้ออกจาก model weights จะช่วยจำกัดขอบเขตการรั่วไหล และการสร้าง audit trails จะช่วยให้ตรวจพบกิจกรรมที่ผิดปกติได้ตั้งแต่เนิ่นๆ

สิ่งที่สตาร์ทอัพด้าน AI ควรทำทันที

  • ยกระดับความปลอดภัยในการจัดการ prompt – ปฏิบัติต่อทุก prompt ที่ส่งเข้ามาเสมือนเป็นข้อมูลที่ละเอียดอ่อน ให้เข้ารหัสข้อมูลขณะจัดเก็บ (encrypt at rest) จำกัดสิทธิ์การอ่าน/เขียนให้เหลือเพียงบริการที่จำเป็นน้อยที่สุด และตรวจสอบให้แน่ใจว่ามีเพียงโมเดล execution engine เท่านั้นที่สามารถดึงข้อมูลไปใช้ได้
  • แยกข้อมูลผู้ใช้ออกจาก model weights – จัดเก็บ prompt ไว้ใน repository เฉพาะที่มีการแยกออกจากไฟล์โมเดลทั้งในทางกายภาพและทางตรรกะ การแยกส่วนนี้จะช่วยจำกัดขอบเขตความเสียหาย (blast radius) หากเกิดการรั่วไหลขึ้น
  • สร้าง audit trails – บันทึกการเข้าถึงการจัดเก็บ prompt ทุกครั้ง พร้อมระบุเวลา (timestamp), user ID และ IP ต้นทาง นอกจากนี้ ควรใช้การวิเคราะห์แบบเรียลไทม์เพื่อแจ้งเตือนเมื่อพบปริมาณการอ่านข้อมูลที่ผิดปกติ หรือมีการเข้าถึงจากบริการที่ไม่คาดคิด

สิ่งที่ต้องจับตามองต่อไป

สรุปประเด็นสำคัญ: ข้อบกพร่องเพียงจุดเดียวในการจัดการ prompt สามารถลุกลามไปสู่การรั่วไหลของข้อมูลที่ยาวนานถึงหนึ่งสัปดาห์ ผู้ก่อตั้งบริษัท AI ต้องใช้ความเข้มงวดในการจัดเก็บ prompt เช่นเดียวกับที่ใช้กับระบบข้อมูลผู้ใช้อื่นๆ มิฉะนั้นพวกเขาอาจต้องเผชิญกับความผิดพลาดที่มีราคาแพงเช่นเดียวกับ Anthropic