Anthropic ได้เปิดตัวลายน้ำสำหรับข้อความที่สร้างโดย Claude เพื่อตอบสนองข้อกำหนดของ EU AI Act ที่ระบุว่าเนื้อหาที่สังเคราะห์ขึ้นจะต้องมีการทำเครื่องหมายอย่างชัดเจนในรูปแบบที่เครื่องสามารถอ่านได้ บริษัทกล่าวว่าเทคนิคนี้จะระบุข้อความที่เขียนโดย AI โดยไม่ทำให้โมเดลช้าลงหรือใช้โทเคนเพิ่มขึ้น ซึ่งเป็นคำกล่าวอ้างที่หน่วยงานกำกับดูแลและคู่แข่งจะเริ่มทำการทดสอบในเร็วๆ นี้

ทำไมลายน้ำถึงมีความสำคัญ

ลายน้ำจะฝังรหัสลับ (private key) และบริบทโดยรอบลงในการตัดสินใจเลือกใช้คำ ผู้อ่านจะไม่สามารถมองเห็นรูปแบบนี้ได้ แต่เครื่องมือตรวจสอบที่ทราบรหัสลับจะสามารถตรวจพบได้ ในทางปฏิบัติ เครื่องมือปลายน้ำ (downstream tool) จะสแกนเอกสารและรายงานว่าข้อความนั้นถูกสร้างขึ้นโดย Claude หรือไม่

แรงกดดันด้านกฎระเบียบ

EU AI Act บังคับให้ผู้ให้บริการระบบ Generative AI ต้องฝังสัญญาณที่สามารถตรวจจับได้ลงในเนื้อหาที่สังเคราะห์ขึ้น

ข้อแลกเปลี่ยนทางธุรกิจ

บริษัทต่างๆ ต้องจัดการกับความกังวล 3 ประการ เมื่อต้องตัดสินใจว่าจะนำเครื่องหมายดังกล่าวมาใช้หรือไม่:

  • ข้อจำกัดด้านการติดตาม (Traceability limits) – ลายน้ำช่วยยืนยันว่าข้อความมาจากโมเดล AI แต่ไม่สามารถเชื่อมโยงผลลัพธ์เข้ากับผู้ใช้หรือบัญชีเฉพาะเจาะจงได้ ช่องว่างนี้ทำให้เกิดปัญหาเรื่องความรับผิดชอบเมื่อเนื้อหาที่สร้างโดย AI ถูกนำไปใช้ในทางที่ผิด
  • ความเสี่ยงด้านรายได้ (Revenue risk) – ผู้ให้บริการบางรายกังวลว่าลายน้ำที่มองเห็นได้อาจทำให้ลูกค้าหายไปถึงหนึ่งในสาม ซึ่งเป็นกลุ่มที่ต้องการข้อความที่ไม่มีเครื่องหมายด้วยเหตุผลด้านการแข่งขันหรือความเป็นส่วนตัว
  • ข้อจำกัดทางเทคนิค (Technical constraints) – การฝังรูปแบบอาจลดทอนความคิดสร้างสรรค์ในผลลัพธ์ของโมเดลลงเล็กน้อย โดยเฉพาะในข้อความสั้นๆ ซึ่งลายน้ำมีจำนวนคำให้ทำงานด้วยน้อย นอกจากนี้ ผู้ใช้ยังสามารถทำให้สัญญาณจางลงได้ด้วยการเรียบเรียงข้อความบางส่วนใหม่ด้วยตนเอง ซึ่งจะทำให้การตรวจจับทำได้ยากขึ้น

Anthropic เชื่อมั่นว่าแนวทางของตนจะช่วยหลีกเลี่ยงข้อเสียส่วนใหญ่เหล่านี้ได้ โดยการสอดแทรกรหัสลับเข้าไปในกระบวนการเลือกโทเคน บริษัทอ้างว่าวิธีนี้ไม่มีผลกระทบเรื่องความหน่วง (latency) และไม่มีค่าใช้จ่ายโทเคนเพิ่มเติม ซึ่งช่วยรักษาประสบการณ์การใช้งานที่ลูกค้าแบบชำระเงินคาดหวังไว้ได้

ความท้าทายทางเทคนิค

ความสามารถในการตรวจจับขึ้นอยู่กับการที่เครื่องมือตรวจสอบต้องมีรหัสลับชุดเดียวกับที่ใช้ในระหว่างการสร้าง ข้อความสั้นๆ ยังคงเป็นจุดอ่อนเนื่องจากรูปแบบทางสถิตินั้นไม่ชัดเจนนัก ซึ่งจะเพิ่มอัตราการตรวจไม่พบ (false-negative rates) นอกจากนี้ ลายน้ำยังไม่สามารถหยุดยั้งการแก้ไขในขั้นตอนปลายน้ำได้ ผู้ใช้ที่เขียนย่อหน้าใหม่เพียงครึ่งหนึ่งก็สามารถลบลายน้ำออกไปได้อย่างมีประสิทธิภาพ

บทสรุป: ลายน้ำของ Anthropic เป็นการตอบสนองต่อข้อกำหนดทางกฎหมายใหม่ แต่ผลกระทบของมันจะขึ้นอยู่กับว่ามันสามารถสร้างสมดุลระหว่างความสามารถในการตรวจจับ กับการลดความยืดหยุ่นและความเสี่ยงที่จะถูกข้ามผ่านได้ดีเพียงใด