บางครั้งกระแสต่อต้านก็มาถึงเร็วกว่าคู่มือการใช้งานผลิตภัณฑ์เสียอีก Meta ได้เรียนรู้บทเรียนนี้อย่างหนักเมื่อพวกเขาแอบเปิดตัวความสามารถใหม่ภายในโมเดล Muse Image AI ของตน เพียงเพื่อจะต้องเปลี่ยนทิศทางในอีกไม่กี่วันต่อมาท่ามกลางกระแสวิพากษ์วิจารณ์อย่างรุนแรง เครื่องมือนี้อนุญาตให้ผู้ใช้ Instagram ทุกคนสามารถสร้างภาพ AI ได้ง่ายๆ เพียงแค่แท็กบัญชีสาธารณะในคำสั่ง (prompt) ของพวกเขา การพิมพ์ @-mention จะช่วยให้ผู้ใช้สามารถสั่งการระบบให้สังเคราะห์ภาพใหม่ที่ดึงมาจากรูปลักษณ์ สุนทรียภาพ หรือเนื้อหาที่โพสต์ของบัญชีเป้าหมายได้ ขณะนี้ Meta ได้ปิดใช้งานฟีเจอร์ดังกล่าวไปโดยสิ้นเชิงแล้ว เหตุการณ์นี้ถือเป็นหนึ่งในการถอยกลับที่กะทันหันที่สุดครั้งหนึ่งในการผลักดันเพื่อรวม Generative AI เข้ากับแพลตฟอร์มต่างๆ ของบริษัทในช่วงที่ผ่านมา
ฟีเจอร์ที่จุดชนวนความโกรธแค้น
กลไกการทำงานนั้นตรงไปตรงมา และนั่นคือปัญหาที่แท้จริง ผู้ใช้สามารถเปิด Meta AI อธิบายภาพที่ต้องการ และอ้างอิงชื่อบัญชี Instagram สาธารณะ จากนั้นโมเดลจะวิเคราะห์รูปภาพที่เปิดเผยต่อสาธารณะของบัญชีนั้น และสร้างภาพที่ดัดแปลงขึ้นมาซึ่งสะท้อนถึงใบหน้า ร่างกาย สไตล์การแต่งกาย หรือแนวทางทางศิลปะของเจ้าของบัญชี สำหรับนักแสดง ช่างภาพ นางแบบ และผู้ใช้งานทั่วไปที่ตั้งค่าโปรไฟล์เป็นสาธารณะ สิ่งนี้หมายความว่าตัวตนดิจิทัลของพวกเขาอาจถูกนำมาผสมผสานใหม่ได้โดยไม่มีการร้องขอหรือการแจ้งเตือนใดๆ โดยตรง
Meta นำเสนอคุณสมบัตินี้ในฐานะตัวเร่งความคิดสร้างสรรค์ บริษัทน่าจะจินตนาการถึงแฟนคลับที่สร้างภาพพอร์ตเทรตที่มีสไตล์ของครีเอเตอร์หรือศิลปินคนโปรด หรือการนำธีมภาพมาตีความใหม่ แต่ช่องว่างระหว่างความตั้งใจและการนำไปใช้จริงนั้นห่างไกลกันอย่างสิ้นเชิง เนื่องจากเครื่องมือนี้ไม่ต้องการการยินยอมอย่างชัดเจนจากเจ้าของบัญชี ทุกโปรไฟล์สาธารณะจึงกลายเป็นวัตถุดิบที่ใครก็ตามที่มีคีย์บอร์ดสามารถนำไปใช้ได้ บัญชีส่วนตัวจะไม่ได้รับผลกระทบ แต่สำหรับผู้ใช้หลายล้านคนที่ยังคงเปิดโปรไฟล์เป็นสาธารณะด้วยเหตุผลทางวิชาชีพหรือทางสังคม แพลตฟอร์มนี้ได้ประกาศโดยปริยายว่ารูปลักษณ์ของพวกเขาพร้อมสำหรับการนำไปใช้ซ้ำด้วยอัลกอริทึม นี่ไม่ใช่การดึงข้อมูลจำนวนมาก (bulk data scraping) ในความหมายแบบดั้งเดิม แต่มันคือการสังเคราะห์บุคคลจริงแบบเจาะจงตามความต้องการ
นักวิจารณ์ชี้ให้เห็นอย่างรวดเร็วว่าสิ่งนี้เป็นการพลิกตรรกะพื้นฐานของการยินยอมทางดิจิทัล แพลตฟอร์มส่วนใหญ่ที่อนุญาตให้บุคคลที่สามใช้ภาพส่วนบุคคล แม้จะอยู่ภายใต้ข้อกำหนดการให้บริการที่กว้างขวาง ก็ไม่ได้มอบอำนาจการควบคุมให้แก่ผู้ใช้ทั่วไปในการโคลนรูปลักษณ์ของใครบางคนตามใจชอบ ความแตกต่างนี้มีความสำคัญ การดึงข้อมูลรูปภาพสาธารณะแบบตั้งรับเพื่อใช้เป็นชุดข้อมูลสำหรับฝึกฝน (training dataset) เป็นการต่อสู้ทางจริยธรรมในรูปแบบหนึ่ง แต่การสร้างดีพเฟก (deepfake) แบบเชิงรุกที่สั่งการโดยผู้ใช้และเชื่อมโยงกับบุคคลเฉพาะเจาะจงนั้นเป็นอีกเรื่องหนึ่งโดยสิ้นเชิง การทำให้บัญชีสาธารณะกลายเป็นเป้าหมายสำหรับการสังเคราะห์ด้วย AI ทำให้ Meta ลบเส้นแบ่งระหว่างการเปิดเผยต่อสาธารณะกับการสละสิทธิ์ในตัวตนต่อสาธารณะ
ความเสี่ยงด้านความเป็นส่วนตัวและปัญหาเรื่องการ "ปฏิเสธการเข้าร่วม" (Opt-Out)
เสียงวิพากษ์วิจารณ์มาจากหลายทิศทางและมีความรุนแรงอย่างมาก ทั้งนักรณรงค์ด้านความเป็นส่วนตัว สหภาพแรงงานสร้างสรรค์ และองค์กรด้านความปลอดภัย ต่างออกมาชี้ให้เห็นว่า Meta ได้สร้างระบบนี้ขึ้นมาแบบย้อนศร
Haley McNamara ผู้อำนวยการบริหารของ National Center on Sexual Exploitation เตือนว่าฟีเจอร์นี้อาจกลายเป็นเครื่องมือที่ชัดเจนสำหรับการข่มขู่กรรโชกทางเพศ (sextortion) และการหลอกลวงอื่นๆ ความกังวลของเธอไม่ใช่เรื่องสมมติ การล่วงละเมิดผ่านรูปภาพได้แพร่กระจายมากขึ้นเมื่อเครื่องมือ Generative พัฒนาขึ้น ระบบที่อนุญาตให้ผู้ใช้คนใดก็ได้เลียนแบบรูปลักษณ์ของอีกคนหนึ่งได้อย่างรวดเร็วและนำไปใส่ในสถานการณ์ใดก็ได้นั้น ช่วยลดอุปสรรคในกระบวนการที่ก่อนหน้านี้ต้องใช้ทักษะทางเทคนิคอย่างน้อยบางส่วน ฟีเจอร์ของ Meta ได้ทำให้ขั้นตอนแรกของการล่วงละเมิดผ่านรูปภาพกลายเป็นเรื่องที่ทำได้ง่ายในวงกว้าง
สิ่งที่ทำให้เรื่องนี้ซับซ้อนยิ่งขึ้นไปอีกคือ