Amazon의 내부 데이터에 따르면, 인도의 신규 인터넷 사용자들 사이에서 AI 기반 사기가 급증하고 있으며, 온라인 접속자가 늘어남에 따라 사기 사건도 급격히 증가하고 있습니다. 이러한 급증은 디지털 서비스를 막 배우기 시작한 소비자들을 위협하며, 이커머스 플랫폼에 대한 신뢰를 떨어뜨릴 수 있습니다.
이 파도가 지금 중요한 이유
저렴한 스마트폰과 광대역 인터넷의 확산 덕분에 인도는 지난해 수백만 명의 신규 인터넷 사용자를 확보했습니다. 이 사용자들은 피싱이나 사칭 메시지를 식별하는 데 필요한 디지털 숙련도가 부족하여, 생성형 AI 도구를 활용하는 사기꾼들의 주요 표적이 되고 있습니다. 사기가 성공하면 피해자는 금전적 손실이나 개인정보 유출, 혹은 둘 다를 겪게 되며, 그 여파는 거래가 이루어지는 플랫폼으로까지 이어집니다.
AI가 무기화되는 방식
- 합성 콘텐츠 – 텍스트 생성 모델을 통해 사기꾼들이 설득력 있는 이메일, 채팅 메시지 또는 광고를 대량으로 만들어낼 수 있습니다.
- 딥페이크 – AI가 영상이나 오디오 클립에 얼굴과 목소리를 합성하여, 사기꾼들이 은행 직원이나 가족인 것처럼 가장할 수 있게 합니다.
- 온보딩 미끼 – 사기꾼들은 신규 사용자가 사용법을 익히기 전에 클릭하도록 유도하기 위해, 환영 메시지에 가짜 인증 링크를 삽입합니다.
저렴하고 사용하기 쉬운 AI가 기본적인 온라인 보안을 익히고 있는 인구와 만나면서 최악의 상황이 만들어지고 있습니다.
누가 손해를 보는가
- 소비자 – 대부분의 피해자는 디지털 지갑, 쇼핑 앱 또는 온라인 뱅킹에 막 가입한 사람들입니다. 단 한 번의 사기 성공만으로도 몇 주 치의 저축액이 사라질 수 있습니다.
- 플랫폼 – 사기가 방치될 경우 Amazon을 비롯한 이커머스 사이트들은 더 높은 차지백(결제 취소) 비율과 브랜드 신뢰도 하락에 직면하게 됩니다.
- 규제 기관 – 지속적인 사기는 AI 생성 콘텐츠에 대한 더욱 엄격한 감독을 강제할 수 있으며, 이는 기술 기업들의 규제 준수 비용을 증가시킬 수 있습니다.
Amazon이 하고 있는 일
Amazon의 보안 팀은 계정 생성 시 추가 인증 단계를 도입하고, 알려진 사기 패턴과 일치하는 AI 생성 미디어를 식별하고 있습니다. 또한, 회사는 현지 NGO와 협력하여 신규 사용자를 대상으로 한 디지털 리터러시 워크숍을 운영하고 있습니다.
반론
일부 분석가들은 전통적인 사기가 여전히 손실의 대부분을 차지한다는 점을 언급하며, AI 사기에 대한 과도한 우려가 실제 위험을 과장하고 있다고 주장합니다. 이들은 많은 AI 기반 공격이 소비자에게 도달하기 전에 이미 차단하는 초기 단계 탐지 도구들을 지적합니다.
주목해야 할 점
- 규제 움직임 – 합성 미디어에 관한 인도의 새로운 가이드라인은 플랫폼이 콘텐츠를 검증하는 방식을 재편할 수 있습니다.
- 기술 업그레이드 – 딥페이크 탐지 기술의 발전은 다시 소비자 쪽으로 균형을 기울게 할 수 있습니다.
- 사용자 교육 – 디지털 리터러시 캠페인의 효과는 이러한 추세를 억제하는 데 있어 핵심 지표가 될 것입니다.
AI 기반 사기가 인식 속도보다 계속 빠르게 늘어난다면, 인도의 디지털 붐으로부터 혜택을 받아야 할 사람들이 오히려 인터넷 자체를 경계하게 될 수도 있습니다. 향후 몇 달간의 흐름을 통해 더 강력한 보호 조치가 필요한지, 아니면 더 똑똑해진 사용자들이 신뢰를 회복할 수 있을지가 드러날 것입니다.
출처: Times of India