ร่างกฎระเบียบ "Chat Control" ของสหภาพยุโรปจะขยายขอบเขตการตรวจสอบเนื้อหาภาคบังคับไปยังบริการใดก็ตามที่มีการสื่อสารระหว่างบุคคล ซึ่งรวมถึงอินเทอร์เฟซแชท AI ด้วย หากมีการนำมาใช้ ผู้ให้บริการ AI เชิงสนทนาอาจถูกบังคับให้สแกนทุก prompt ของผู้ใช้เพื่อหาเนื้อหาที่ผิดกฎหมาย ซึ่งจะเปลี่ยนคำถามส่วนตัวเกี่ยวกับสุขภาพ กฎหมาย หรือธุรกิจ ให้กลายเป็นข้อมูลที่เจ้าหน้าที่สามารถตรวจสอบได้โดยอัตโนมัติ

ทำไมกฎหมายนี้จึงครอบคลุมถึง AI

เดิมที EU มีเป้าหมายเพื่อยับยั้งเนื้อหาที่ผิดกฎหมาย โดยเฉพาะสื่อล่วงละเมิดทางเพศเด็กในการสื่อสารผ่านแอปข้อความส่วนตัว อย่างไรก็ตาม ถ้อยคำในกฎหมายไม่ได้หยุดอยู่แค่ SMS หรือแพลตฟอร์มส่งข้อความเท่านั้น แต่มีการนิยาม "การสื่อสารระหว่างบุคคล" (interpersonal communication) ไว้กว้างพอที่จะครอบคลุมเครื่องมือใดก็ตามที่คนสองคนหรือมากกว่านั้นใช้แลกเปลี่ยนข้อความกัน และหน่วยงานกำกับดูแลได้ตีความนิยามนี้ให้รวมถึงหน้าต่างแชท AI ด้วย

การประเมินทางเทคนิคจากรัฐสมาชิกหลายแห่งระบุว่า การสนทนากับ AI มักมีรายละเอียดที่ละเอียดอ่อนมากกว่าข้อความทั่วไป โดยผู้ใช้มักจะเปิดเผยประวัติทางการแพทย์ กลยุทธ์ทางกฎหมาย หรือแผนธุรกิจที่เป็นความลับเพื่อขอคำแนะนำจากโมเดล ตัวกรองอัตโนมัติแบบเดียวกับที่ใช้สแกนข้อความระหว่างโทรศัพท์สามารถนำมาปรับใช้เพื่อวิเคราะห์ prompt ของ AI ได้ และเจ้าหน้าที่กังวลว่าผู้ไม่หวังดีอาจใช้ประโยชน์จากโมเดล Generative เพื่อผลิตเนื้อหาที่ผิดกฎหมายในปริมาณมาก

สิ่งที่กำลังเกิดขึ้นกับข้อมูล AI ในปัจจุบัน

แม้จะยังไม่มีกฎหมายใหม่ แต่บริษัท AI รายใหญ่ต่างก็มีการเก็บรวบรวมและจัดเก็บข้อมูลอินพุตของผู้ใช้อยู่แล้ว OpenAI จัดเก็บการสนทนาไว้เป็นค่าเริ่มต้นและใช้เพื่อปรับปรุงโมเดลของตน พร้อมทั้งแบ่งปันข้อมูลกับพันธมิตรและหน่วยงานบังคับใช้กฎหมายเมื่อจำเป็น Google ได้รวมบันทึกการแชท AI เข้ากับโปรไฟล์เดียวกับที่เก็บประวัติการค้นหาและข้อมูลตำแหน่งที่ตั้งของผู้ใช้ ซึ่งช่วยสร้างภาพรวมพฤติกรรมรายบุคคลที่ชัดเจนยิ่งขึ้น ส่วน Anthropic แม้จะทำการตลาดว่าเน้นความเป็นส่วนตัวมากกว่า แต่ก็ยังคงเก็บรักษา prompt ของผู้ใช้และปฏิบัติตามคำสั่งทางกฎหมายในการเปิดเผยข้อมูล

หาก "Chat Control" ขยายขอบเขตไปยัง AI ประสบการณ์ของผู้ใช้อาจเปลี่ยนไปอย่างสิ้นเชิง:

  • ทุก prompt จะต้องผ่านเครื่องมือสแกนอัตโนมัติก่อนที่โมเดลจะประมวลผล
  • ระบบอาจนำการแชท AI ไปตรวจสอบย้อนกลับกับประวัติการส่งข้อความที่มีอยู่เดิมของผู้ใช้ เพื่อสร้างภาพรวมการสื่อสารที่รวบรวมไว้ในที่เดียว
  • หัวข้อบางอย่าง เช่น คำแนะนำในการสังเคราะห์สารเคมี หรือกลยุทธ์ทางกฎหมายโดยละเอียด อาจถูกตรวจพบในเวลาจริง (real time) และรายงานต่อเจ้าหน้าที่

ผลกระทบต่อผู้พัฒนาและผู้ใช้

ผู้พัฒนาจะต้องเผชิญกับชั้นการปฏิบัติตามกฎระเบียบ (compliance layer) ใหม่ ซึ่งอาจเพิ่มต้นทุนการดำเนินงานและทำให้การอัปเดตโมเดลล่าช้าลง พวกเขาจำเป็นต้องรวมหรือซื้อสิทธิ์การใช้เครื่องมือสแกน รักษาบันทึกการตรวจสอบ (audit trails) และเสี่ยงต่อการถูกลงโทษหากตรวจไม่พบเนื้อหาที่ผิดกฎหมาย บริษัทขนาดเล็ก โดยเฉพาะผู้ที่นำเสนอโมเดลแบบ open-source อาจพบว่าภาระนี้สูงเกินไปจนอาจถูกบีบให้ออกจากตลาด

ผู้ใช้มีความเสี่ยงที่จะสูญเสียความเป็นส่วนตัวที่หลายคนถือว่าเป็นสิ่งจำเป็น ข้อมูล prompt สามารถเปิดเผยความคิดที่ลึกซึ้ง ความกังวลด้านสุขภาพส่วนบุคคล หรือไอเดียทางธุรกิจที่เป็นความลับ เมื่อข้อมูลเหล่านั้นถูกเก็บไว้ในคลังข้อมูลส่วนกลาง มันจะกลายเป็นเป้าหมายที่เสี่ยงต่อการนำไปใช้ในทางที่ผิด การรั่วไหลโดยไม่ตั้งใจ หรือการสอดแนมในวงกว้าง การปกป้องข้อมูลเหล่านั้น—ไม่ว่าจะเป็นการเสียเวลาจัดการการตั้งค่าหรือการซื้อเครื่องมือรักษาความปลอดภัยเพิ่มเติม—จะเปลี่ยนภาระจากผู้ให้บริการมาอยู่ที่ตัวบุคคลแทน

ข้อโต้แย้งจากหน่วยงานกำกับดูแล

ผู้กำหนดนโยบายโต้แย้งว่า เทคโนโลยีแบบเดียวกันที่ใช้เพื่อปกป้องเด็กบนโลกออนไลน์สามารถนำมาใช้กับ AI ได้โดยไม่กระทบต่อการใช้งานที่ถูกกฎหมาย พวกเขาชี้ให้เห็นว่าอาชญากรได้ใช้โมเดล Generative ในการร่างเนื้อหาที่ผิดกฎหมายอยู่แล้ว และกรอบการสแกนที่เป็นหนึ่งเดียวจะช่วยปิดช่องโหว่นี้ เป้าหมายของพวกเขาไม่ใช่การเฝ้าติดตามทุกการสนทนา แต่เป็นการจับกุมเพียงไม่กี่กรณีที่ละเมิดกฎหมาย

ขั้นตอนปฏิบัติเพื่อรักษาความเป็นส่วนตัวของ prompt ของคุณ

แม้ว่ากฎหมายจะผ่านการอนุมัติ ผู้ใช้ก็สามารถลดความเสี่ยงได้โดยการเลิกใช้บริการ AI บนคลาวด์สำหรับเรื่องที่ละเอียดอ่อน ระบบนิเวศของโมเดลที่รันในเครื่อง (locally run models) ที่กำลังเติบโตทำให้สิ่งนี้เป็นไปได้ด้วยฮาร์ดแวร์ระดับผู้บริโภคทั่วไป:

  • รันโมเดลบนเครื่องของคุณเอง. Llama 3.2 และ Mistral สามารถทำงานบน PC สำหรับเล่นเกมมาตรฐานได้ เครื่องมืออย่าง Ollama ช่วยจัดการการติดตั้งและการใช้ทรัพยากรแบบอัตโนมัติ ในขณะที่ Open WebUI มอบหน้าจอการใช้งาน (front-end) ที่สะอาดตาสำหรับการโต้ตอบ
  • ปฏิเสธการเก็บข้อมูลเพื่อการฝึกฝน (Opt out of training data collection). แพลตฟอร์มส่วนใหญ่จะมีเมนูการตั้งค่าที่หยุดไม่ให้ prompt ของคุณถูกนำไปใช้เพื่อปรับปรุงโมเดล ให้เปิดใช้งานฟังก์ชันนี้หากมีให้เลือก
  • ลบการสนทนาเก่าๆ. ล้างประวัติการแชทของคุณเป็นประจำเพื่อจำกัดข้อมูลที่ถูกจัดเก็บไว้
  • หลีกเลี่ยงการใช้ AI บนคลาวด์สำหรับหัวข้อที่เป็นความลับ. เก็บโมเดลแบบ on-premise ไว้สำหรับคำถามทางการแพทย์ คำแนะนำทางกฎหมาย หรือการสนทนาที่สำคัญต่อธุรกิจ

โมเดลแบบ Local อาจไม่ครอบคลุมเท่า GPT-4 แต่ก็สามารถจัดการงานเขียนทั่วไป การช่วยเขียนโค้ด และงานวิจัยได้ ข้อได้เปรียบหลักคือ prompt จะไม่หลุดออกจากอุปกรณ์ของคุณเลย ซึ่งช่วยขจัดความเสี่ยงจากการถูกสแกนข้อมูลโดยอัตโนมัติ

สิ่งที่ควรจับตามองต่อไป

กระบวนการทางกฎหมายของ EU จะดำเนินต่อไปในช่วงไม่กี่เดือนข้างหน้า โดยจะมีคณะกรรมการพิจารณาขอบเขตของ “การสื่อสารระหว่างบุคคล” (interpersonal communication) กลุ่มอุตสาหกรรมต่างๆ กำลังดำเนินการล็อบบี้เพื่อขอข้อยกเว้นหรือคำนิยามที่ชัดเจนยิ่งขึ้นเพื่อแยกบริการแชท AI ออกไป ขอให้จับตาดูแถลงการณ์จากผู้ให้บริการ AI รายใหญ่ เพราะพวกเขาอาจเปิดตัวการควบคุมความเป็นส่วนตัวแบบใหม่ หรือแม้แต่ยื่นฟ้องคัดค้านกฎระเบียบนี้ในชั้นศาล

หากกฎระเบียบนี้ผ่านตามร่างที่เสนอไว้ การประเมินเรื่องความเป็นส่วนตัวสำหรับผู้ใช้ AI จะเปลี่ยนไปอย่างสิ้นเชิง จนกว่าจะถึงตอนนั้น ให้ปฏิบัติกับทุก prompt เสมือนว่ามีบุคคลที่สามสามารถอ่านได้ และเลือกใช้โซลูชันแบบ local-first ในทุกที่ที่ทำได้ คำถามของคุณเป็นเรื่องส่วนตัว การปกป้องข้อมูลเหล่านั้นควรเป็นสิ่งที่ต้องให้ความสำคัญเป็นอันดับแรก ไม่ใช่สิ่งที่ค่อยมาคิดทีหลัง