ข้อมูลภายในของ Amazon แสดงให้เห็นว่าการหลอกลวงที่ขับเคลื่อนด้วย AI กำลังพุ่งสูงขึ้นในกลุ่มผู้ใช้งานอินเทอร์เน็ตหน้าใหม่ของอินเดีย โดยพบเหตุการณ์ฉ้อโกงเพิ่มขึ้นอย่างรวดเร็วในขณะที่มีผู้คนเข้าสู่โลกออนไลน์มากขึ้น การเพิ่มขึ้นอย่างรวดเร็วนี้กำลังคุกคามผู้บริโภคที่เพิ่งเริ่มเรียนรู้การใช้งานบริการดิจิทัล และอาจบั่นทอนความเชื่อมั่นในแพลตฟอร์มอีคอมเมิร์ซได้

ทำไมคลื่นการหลอกลวงนี้จึงสำคัญในขณะนี้

อินเดียมีผู้ใช้งานอินเทอร์เน็ตหน้าใหม่เพิ่มขึ้นหลายล้านคนในปีที่ผ่านมา ต้องขอบคุณสมาร์ทโฟนราคาถูกและการขยายตัวของบรอดแบนด์ ผู้ใช้งานเหล่านี้ยังขาดความรู้เท่าทันดิจิทัลที่จะช่วยให้ตรวจพบการทำ Phishing หรือข้อความปลอมแปลง ทำให้พวกเขากลายเป็นเป้าหมายหลักของมิจฉาชีพที่ปัจจุบันใช้เครื่องมือ Generative-AI เมื่อการหลอกลวงสำเร็จ เหยื่อจะสูญเสียเงิน ข้อมูลส่วนบุคคล หรือทั้งสองอย่าง และผลกระทบนี้จะส่งผลต่อเนื่องไปยังแพลตฟอร์มที่เป็นตัวกลางในการทำธุรกรรมด้วย

AI ถูกนำมาใช้เป็นอาวุธได้อย่างไร

  • เนื้อหาที่สร้างขึ้น (Synthetic content) – โมเดลการสร้างข้อความช่วยให้มิจฉาชีพสามารถผลิตอีเมล ข้อความแชท หรือโฆษณาที่ดูน่าเชื่อถือได้ในปริมาณมาก
  • Deepfakes – AI นำใบหน้าและเสียงไปตัดต่อใส่ในคลิปวิดีโอหรือเสียง ทำให้มิจฉาชีพสามารถปลอมตัวเป็นเจ้าหน้าที่ธนาคารหรือสมาชิกในครอบครัวได้
  • เหยื่อล่อช่วงเริ่มต้นใช้งาน (Onboarding bait) – มิจฉาชีพฝังลิงก์ยืนยันตัวตนปลอมไว้ในข้อความต้อนรับ โดยหวังว่าผู้ใช้ใหม่จะคลิกก่อนที่จะเรียนรู้วิธีการใช้งานที่ถูกต้อง

AI ที่ราคาถูกและใช้งานง่าย มาพบกับประชากรที่ยังอยู่ในช่วงเรียนรู้ความปลอดภัยออนไลน์ขั้นพื้นฐาน จึงกลายเป็นสถานการณ์ที่เลวร้ายอย่างยิ่ง (perfect storm)

ใครคือผู้ที่ต้องสูญเสีย

  • ผู้บริโภค – เหยื่อส่วนใหญ่เป็นผู้ที่เพิ่งสมัครใช้งานกระเป๋าเงินดิจิทัล แอปพลิเคชันช้อปปิ้ง หรือธนาคารออนไลน์ การถูกหลอกเพียงครั้งเดียวอาจทำให้เงินออมที่สะสมมาหลายสัปดาห์หายไปในพริบตา
  • แพลตฟอร์ม – Amazon และเว็บไซต์อีคอมเมิร์ซอื่นๆ ต้องเผชิญกับอัตราการเรียกคืนเงิน (charge-back) ที่สูงขึ้น และความเชื่อมั่นในแบรนด์ที่อาจเสียหายหากการฉ้อโกงไม่ได้รับการตรวจสอบ
  • หน่วยงานกำกับดูแล – การฉ้อโกงที่เกิดขึ้นอย่างต่อเนื่องอาจบีบให้ต้องมีการควบคุมเนื้อหาที่สร้างโดย AI อย่างเข้มงวดขึ้น ซึ่งจะเพิ่มต้นทุนด้านการปฏิบัติตามกฎระเบียบ (compliance costs) ให้กับบริษัทเทคโนโลยี

สิ่งที่ Amazon กำลังดำเนินการ

ทีมรักษาความปลอดภัยของ Amazon กำลังเพิ่มขั้นตอนการยืนยันตัวตนเพิ่มเติมในระหว่างการสร้างบัญชี และคอยตรวจสอบสื่อที่สร้างโดย AI ที่มีรูปแบบตรงกับการฉ้อโกงที่เคยเกิดขึ้น นอกจากนี้ บริษัทยังร่วมมือกับ NGO ในท้องถิ่นเพื่อจัดเวิร์กชอปสร้างความรู้เท่าทันดิจิทัล (digital-literacy) สำหรับผู้ใช้งานหน้าใหม่

มุมมองที่ต่างออกไป

นักวิเคราะห์บางส่วนแย้งว่ากระแสความตื่นตระหนกเรื่องการฉ้อโกงด้วย AI นั้นอาจเกินจริงไปเมื่อเทียบกับความเสี่ยงที่เกิดขึ้นจริง โดยระบุว่าการหลอกลวงแบบดั้งเดิมยังคงเป็นสาเหตุหลักของความสูญเสีย พวกเขาชี้ให้เห็นถึงเครื่องมือตรวจจับในระยะเริ่มต้นที่สามารถดักจับการโจมตีที่สร้างโดย AI ได้มากมายก่อนที่จะถึงมือผู้บริโภค

สิ่งที่ต้องจับตามอง

  • ความเคลื่อนไหวของหน่วยงานกำกับดูแล – แนวทางปฏิบัติใหม่ของอินเดียเกี่ยวกับสื่อสังเคราะห์ (synthetic media) อาจเปลี่ยนรูปแบบการตรวจสอบเนื้อหาของแพลตฟอร์ม
  • การอัปเกรดเทคโนโลยี – ความก้าวหน้าในการตรวจจับ Deepfake อาจช่วยสร้างความได้เปรียบกลับคืนสู่ผู้บริโภค
  • การให้ความรู้แก่ผู้ใช้ – ประสิทธิภาพของแคมเปญสร้างความรู้เท่าทันดิจิทัลจะเป็นตัวชี้วัดสำคัญในการยับยั้งแนวโน้มนี้

หากการหลอกลวงที่ขับเคลื่อนด้วย AI ยังคงรุดหน้าไปเร็วกว่าความตระหนักรู้ ผู้ที่ควรจะได้รับประโยชน์จากความรุ่งเรืองทางดิจิทัลของอินเดียอาจกลายเป็นกลุ่มคนที่หวาดระแวงต่ออินเทอร์เน็ตไปเลยก็ได้ ในช่วงไม่กี่เดือนข้างหน้านี้จะเป็นตัวตัดสินว่า มาตรการป้องกันที่เข้มงวดขึ้นหรือผู้ใช้งานที่ฉลาดขึ้น จะสามารถกู้คืนความเชื่อมั่นกลับมาได้หรือไม่

ที่มา: Times of India