Reddit เริ่มนำระบบการดูแลเนื้อหา (moderation) ที่ขับเคลื่อนด้วย AI มาใช้งาน ซึ่งช่วยให้บัญชีใหม่สามารถโพสต์ได้โดยไม่ต้องสะสมคะแนน karma สูงๆ ก่อน ผลการทดสอบเบื้องต้นในบางชุมชนพบว่ามีการโพสต์จากผู้ใช้งานใหม่เพิ่มขึ้น 22% ในขณะที่ระดับการละเมิดโดยรวมยังคงที่

ทำไมการเปลี่ยนแปลงนี้จึงสำคัญ

จนถึงตอนนี้ หลาย subreddit กำหนดเกณฑ์ขั้นต่ำของ karma หรืออายุบัญชีไว้ก่อนที่ผู้ใช้จะสามารถมีส่วนร่วมได้ กฎเหล่านี้ช่วยป้องกันสแปมและการคุกคาม แต่ในขณะเดียวกันก็ปิดกั้นผู้โพสต์หน้าใหม่ที่ตั้งใจเข้ามาใช้งานจริงๆ โดยเฉพาะในหัวข้อเฉพาะทางหรือหัวข้อที่กำลังเติบโตอย่างรวดเร็ว การเปลี่ยนจากการใช้เกณฑ์ด้านชื่อเสียงมาเป็น "คะแนนความน่าเชื่อถือ" (trust score) ที่สร้างโดย AI จะช่วยให้ Reddit หวังว่าจะลดอุปสรรคและขยายการมีส่วนร่วมให้กว้างขึ้น

เทคโนโลยีเบื้องหลังการขับเคลื่อนนี้

วิศวกรของ Reddit ได้สร้างโมเดลการเรียนรู้ของเครื่อง (machine-learning) ที่สามารถสแกนทุกโพสต์และทุกความคิดเห็นได้แบบเรียลไทม์ ระบบนี้ดึงข้อมูลจากการตัดสินใจในการดูแลเนื้อหาหลายล้านครั้งในอดีต ทำให้มีมุมมองที่กว้างกว่าตัวกรองแบบอิงตามกฎ (rule-based filters) ที่เคยใช้คัดกรองเนื้อหามาก่อน ความสามารถของระบบประกอบด้วย:

  • การวิเคราะห์ภาษา ที่ช่วยตรวจจับรูปแบบการใช้ถ้อยคำที่เป็นพิษ (toxic speech)
  • การจดจำภาพและวิดีโอ ที่ตรวจพบการละเมิดทางภาพ
  • ชุดกฎแบบไดนามิก ที่ปรับตัวตามปริมาณการใช้งานที่เปลี่ยนแปลงไปในแต่ละชุมชน

สิ่งนี้หมายถึงอะไรสำหรับผู้ใช้ใหม่

  1. ไม่ต้องปั่น karma อีกต่อไป – ผู้ใช้สามารถแบ่งปันไอเดียได้โดยไม่ต้องสะสมคะแนน upvotes ก่อน
  2. ใช้คะแนนความน่าเชื่อถือแทนการตรวจสอบอายุบัญชี – AI จะประเมินคุณภาพของสิ่งที่ส่งเข้ามาแทนการดูอายุของบัญชี
  3. มุมมองที่หลากหลายมากขึ้น – ผู้คนที่เคยรู้สึกว่าถูกปิดกั้นจากอุปสรรคในการเข้าถึงที่สูง สามารถเข้าร่วมการสนทนาได้แล้ว

ผลลัพธ์เบื้องต้น

ใน subreddit อย่าง r/technology ช่วงทดลองใช้งานพบว่ากิจกรรมของผู้โพสต์หน้าใหม่เพิ่มขึ้น 22% ที่สำคัญคือ สัดส่วนของสแปมหรือการคุกคามที่ถูกตรวจพบไม่ได้เพิ่มสูงขึ้น ซึ่งบ่งชี้ว่า AI สามารถควบคุมสัดส่วนสัญญาณต่อสัญญาณรบกวน (signal-to-noise ratio) ได้ดี ในขณะที่ยังเปิดโอกาสให้ผู้ใช้งานใหม่เข้ามามีส่วนร่วม

ตาข่ายรองรับความปลอดภัยโดยมนุษย์

Reddit ยอมรับว่า AI ไม่ได้สมบูรณ์แบบเสมอไป โดยมีกลไกการอุทธรณ์ที่ช่วยให้ผู้ใช้สามารถโต้แย้งการตัดสินใจลบเนื้อหาได้ และจะมีผู้ดูแล (moderator) ที่เป็นมนุษย์คอยตรวจสอบการอุทธรณ์เหล่านั้น ซึ่งการตรวจสอบเหล่านี้จะถูกส่งกลับไปเป็นข้อมูลในการฝึกฝน (training data) เพื่อทำให้โมเดลมีความแม่นยำมากขึ้นเมื่อเวลาผ่านไป

สิ่งที่ต้องจับตามองต่อไป

  • การขยายขนาดของโมเดล – AI จะยังคงรักษาความแม่นยำไว้ได้หรือไม่ เมื่อมีการขยายการใช้งานไปยัง subreddit นับแสนแห่งบนแพลตฟอร์ม?
  • ภาระงานของผู้ดูแล – ความคิดเห็นจากชุมชนอาจมีผลต่อการปรับปรุงระบบ