تُظهر البيانات الداخلية لشركة Amazon أن عمليات الاحتيال المدفوعة بالذكاء الاصطناعي تشهد طفرة بين مستخدمي الإنترنت الجدد في الهند، مع ارتفاع حاد في حوادث الاحتيال مع زيادة عدد الأشخاص الذين يتصلون بالإنترنت. ويهدد هذا الارتفاع المستهلكين الذين يتعلمون للتو كيفية التعامل مع الخدمات الرقمية، وقد يؤدي إلى زعزعة الثقة في منصات التجارة الإلكترونية.

لماذا تكتسب هذه الموجة أهمية الآن

أضافت الهند ملايين المستخدمين الجدد للإنترنت العام الماضي، بفضل الهواتف الذكية الرخيصة وتوسع شبكات النطاق العريض. ويفتقر هؤلاء المستخدمون إلى الطلاقة الرقمية التي تساعد في اكتشاف رسائل التصيد الاحتيالي أو الرسائل المزيفة، مما يجعلهم أهدافًا رئيسية للمحتالين الذين يستخدمون الآن أدوات الذكاء الاصطناعي التوليدي. وعندما تنجح عملية احتيال، يفقد الضحايا أموالهم، أو بياناتهم الشخصية، أو كليهما، وتمتد التداعيات لتصل إلى المنصات التي تستضيف هذه المعاملات.

كيف يتم استخدام الذكاء الاصطناعي كسلاح

  • المحتوى الاصطناعي – تتيح نماذج توليد النصوص للمحتالين إنتاج رسائل بريد إلكتروني أو رسائل دردشة أو إعلانات مقنعة على نطاق واسع.
  • التزييف العميق (Deepfakes) – يقوم الذكاء الاصطناعي بدمج الوجوه والأصوات في مقاطع الفيديو أو المقاطع الصوتية، مما يسمح للمحتالين بانتحال صفة موظفي البنوك أو أفراد العائلة.
  • فخاخ التسجيل – يدرج المحتالون روابط تحقق مزيفة في رسائل الترحيب، آملين أن ينقر المستخدمون الجدد عليها قبل أن يتعلموا القواعد الأساسية.

يلتقي الذكاء الاصطناعي الرخيص وسهل الاستخدام مع سكان لا يزالون يتقنون أساسيات السلامة عبر الإنترنت، مما يخلق "عاصفة مثالية".

من هم المتضررون؟

  • المستهلكون – معظم الضحايا هم أشخاص سجلوا للتو في المحافظ الرقمية، أو تطبيقات التسوق، أو الخدمات المصرفية عبر الإنترنت. ويمكن لعملية احتيال واحدة ناجحة أن تمحو مدخرات أسابيع.
  • المنصات – تواجه Amazon ومواقع التجارة الإلكترونية الأخرى معدلات استرداد مدفوعات (charge-back) أعلى وأضرارًا في ثقة العلامة التجارية إذا لم يتم كبح الاحتيال.
  • الجهات التنظيمية – قد يؤدي الاحتيال المستمر إلى فرض رقابة أكثر صرامة على المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، مما يزيد من تكاليف الامتثال لشركات التكنولوجيا.

ما الذي تفعله Amazon

تعمل فرق الأمن في Amazon على إضافة خطوات تحقق إضافية أثناء إنشاء الحسابات، وتحديد الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تتطابق مع أنماط الاحتيال المعروفة. كما تتعاون الشركة مع منظمات غير حكومية محلية لإقامة ورش عمل حول الثقافة الرقمية تستهدف المستخدمين الجدد.

وجهة نظر مغايرة

يرى بعض المحللين أن الضجيج المثار حول احتيال الذكاء الاصطناعي يبالغ في المخاطر الفعلية، مشيرين إلى أن عمليات الاحتيال التقليدية لا تزال تمثل الجزء الأكبر من الخسائر. ويشيرون إلى أدوات الكشف في مراحلها المبكرة التي تنجح بالفعل في رصد العديد من الهجمات المصممة بالذكاء الاصطناعي قبل وصولها إلى المستهلكين.

أمور يجب مراقبتها

  • التحركات التنظيمية – قد تعيد الإرشادات الهندية الجديدة بشأن الوسائط الاصطناعية تشكيل كيفية تحقق المنصات من المحتوى.
  • التحديثات التكنولوجية – قد تعيد التطورات في اكتشاف التزييف العميق كفة الميزان لصالح المستهلكين.
  • توعية المستخدمين – ستكون فعالية حملات الثقافة الرقمية مقياسًا رئيسيًا في الحد من هذا الاتجاه.

إذا استمرت عمليات الاحتيال المدعومة بالذكاء الاصطناعي في تجاوز مستويات الوعي، فقد يصبح الأشخاص الذين من المفترض أن يستفيدوا من الطفرة الرقمية في الهند حذرين من الإنترنت تمامًا. ستكشف الأشهر القليلة القادمة ما إذا كانت الضمانات الأكثر صرامة أو المستخدمون الأكثر ذكاءً سيتمكنون من استعادة الثقة.

المصدر: Times of India