Amazon’s interne gegevens laten zien dat door AI gedreven oplichting sterk toeneemt onder de nieuwste internetgebruikers in India, waarbij het aantal fraudegevallen scherp stijgt naarmate meer mensen online gaan. Deze golf vormt een bedreiging voor consumenten die net leren navigeren tussen digitale diensten en zou het vertrouwen in e-commerceplatforms kunnen schaden.

Waarom deze golf nu belangrijk is

India voegde vorig jaar miljoenen nieuwe internetgebruikers toe, dankzij goedkope smartphones en de uitbreiding van breedband. Deze gebruikers missen de digitale vaardigheden die helpen bij het herkennen van phishing of vervalste berichten, waardoor ze een primair doelwit zijn voor fraudeurs die nu generatieve AI-tools gebruiken. Wanneer een scam slaagt, verliezen slachtoffers geld, persoonlijke gegevens of beide, en de gevolgen werken door naar de platforms die de transacties faciliteren.

Hoe AI als wapen wordt ingezet

  • Synthetische content – Tekstgeneratiemodellen stellen oplichters in staat om op grote schaal overtuigende e-mails, chatberichten of advertenties te produceren.
  • Deepfakes – AI plakt gezichten en stemmen op video- of audiofragmenten, waardoor fraudeurs zich kunnen voordoen als bankmedewerkers of familieleden.
  • Onboarding-lokaas – Oplichters verbergen valse verificatielinks in welkomstberichten, in de hoop dat nieuwe gebruikers klikken voordat ze de weg hebben gevonden.

Goedkope, eenvoudig te gebruiken AI ontmoet een bevolking die nog bezig is met het onder de knie krijgen van basisveiligheid online, wat een perfecte storm creëert.

Wie de dupe kan worden

  • Consumenten – De meeste slachtoffers zijn mensen die zich net hebben aangemeld voor digitale portemonnees, shopping-apps of online bankieren. Eén succesvolle scam kan weken aan spaargeld wegvagen.
  • Platforms – Amazon en andere e-commerce sites worden geconfronteerd met hogere chargeback-percentages en schade aan het merktrouwen als fraude niet wordt aangepakt.
  • Toezichthouders – Aanhoudende fraude zou kunnen leiden tot strenger toezicht op door AI gegenereerde content, wat extra nalevingskosten met zich meebrengt voor techbedrijven.

Wat Amazon doet

De beveiligingsteams van Amazon voegen extra verificatiestappen toe tijdens het aanmaken van accounts en markeren door AI gegenereerde media die overeenkomen met bekende fraudepatronen. Het bedrijf werkt ook samen met lokale ngo's om workshops over digitale geletterdheid te organiseren, gericht op nieuwe gebruikers.

Tegenargument

Sommige analisten stellen dat de hype rond AI-fraude het werkelijke risico overschat, waarbij ze erop wijzen dat traditionele scams nog steeds het grootste deel van de verliezen veroorzaken. Ze wijzen op detectietools in een vroeg stadium die al veel door AI vervalste aanvallen onderscheppen voordat ze de consument bereiken.

Waar op te letten

  • Regulering – Nieuwe Indiase richtlijnen voor synthetische media kunnen de manier waarop platforms content verifiëren, veranderen.
  • Technologische upgrades – Vooruitgang in deepfake-detectie zou het voordeel weer terug naar de consument kunnen brengen.
  • Gebruikerseducatie – Het effect van campagnes voor digitale geletterdheid zal een belangrijke graadmeter zijn bij het indammen van deze trend.

Als door AI aangedreven scams de bewustwording blijven inhalen, kunnen juist de mensen die zouden moeten profiteren van de digitale boom in India, huiverig worden voor het internet in het algemeen. De komende maanden zullen uitwijzen of strengere beveiligingsmaatregelen of slimmere gebruikers het vertrouwen kunnen herstellen.

Bron: Times of India