AI Chatbots เป็นตัวกระตุ้นการปฏิเสธเหตุการณ์ Holocaust
UNESCO และองค์การสหประชาชาติได้ออกคำเตือนว่า Generative AI กำลังช่วยให้ผู้คนแพร่กระจายการปฏิเสธเหตุการณ์ Holocaust และประวัติศาสตร์ที่บิดเบือน
ผู้ไม่หวังดีใช้ AI ในการสร้างเนื้อหาปลอมจำนวนมหาศาล พวกเขาใช้มันเพื่อสร้างเรื่องเล่าจากพยานเท็จและภาพถ่ายทางประวัติศาสตร์ที่ถูกดัดแปลง
กฎความปลอดภัยในปัจจุบันมักจะล้มเหลว ผู้ใช้พบวิธีหลบเลี่ยงตัวกรองผ่านการใช้คำสั่ง (prompts) ง่ายๆ โดยพวกเขาไม่ได้ขอให้ปฏิเสธเหตุการณ์โดยตรง แต่ใช้วิธีขอให้ AI เขียนเรื่องราวสมมติที่ตั้งคำถามต่อข้อเท็จจริงทางประวัติศาสตร์แทน
รายงานฉบับนี้เน้นย้ำถึงความเสี่ยงหลักหลายประการ:
- โมเดล AI ทำนายคำโดยอิงจากข้อมูลที่ใช้ฝึกฝน หากข้อมูลเหล่านั้นรวมถึงทฤษฎีสมคบคิด AI ก็จะสร้างข้อกล่าวหาที่เป็นเท็จออกมา
- สคริปต์อัตโนมัติสามารถสร้างบทความปลอมได้หลายพันบทความในคราวเดียว
- "การปฏิเสธแบบนุ่มนวล" (Soft denial) ใช้ภาษาที่เป็นกลางเพื่อลดทอนขนาดของการฆ่าล้างเผ่าพันธุ์ ซึ่งเป็นเรื่องยากที่เครื่องจักรจะตรวจจับได้
- Deepfakes ใช้เสียงและวิดีโอที่ถูกเลียนแบบเพื่อทำให้คำโกหกดูเหมือนจริง
- เครื่องมือสร้างรูปภาพ (Image generators) สร้างภาพถ่ายที่สมจริงของเหตุการณ์ที่ไม่เคยเกิดขึ้นจริง
นอกจากนี้ยังมีช่องว่างทางภาษา กฎความปลอดภัยมักจะเข้มงวดในภาษาอังกฤษ แต่กลับอ่อนแอในภาษาอื่นๆ เช่น ภาษาอาหรับ ฝรั่งเศส หรือเยอรมัน ซึ่งทำให้ข้อมูลบิดเบือนสามารถแพร่กระจายไปทั่วโลกได้
UNESCO ต้องการให้บริษัทเทคโนโลยีมีความรับผิดชอบมากขึ้น โดยเสนอว่าบริษัทควรต้องรับผิดชอบต่อผลลัพธ์ที่ขัดแย้งกับข้อเท็จจริงทางประวัติศาสตร์ที่ได้รับการพิสูจน์แล้ว
บางบริษัทใช้ระบบพิเศษเพื่อตรวจสอบข้อเท็จจริงกับจดหมายเหตุอย่างเป็นทางการ อย่างไรก็ตาม สิ่งนี้ยังไม่ได้เป็นแนวทางปฏิบัติมาตรฐาน
เราต้องการความรู้เท่าทันดิจิทัล (digital literacy) ที่ดีขึ้น คุณต้องเข้าใจว่าโมเดล AI ทำงานอย่างไรและพวกมันส่งผลต่อการสร้างข้อมูลอย่างไร
Source: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e
ชุมชนการเรียนรู้เพิ่มเติม: https://t.me/GyaanSetuAi