داده‌های داخلی آمازون نشان می‌دهد که کلاهبرداری‌های مبتنی بر هوش مصنوعی در میان جدیدترین کاربران اینترنت در هند به شدت در حال افزایش است؛ با ورود افراد بیشتر به فضای آنلاین، موارد کلاهبرداری به طور چشمگیری بالا رفته است. این موج رو به رشد، مصرف‌کنندگانی را که تازه در حال یادگیری کار با خدمات دیجیتال هستند تهدید می‌کند و می‌تواند اعتماد به پلتفرم‌های تجارت الکترونیک را کاهش دهد.

چرا این موج اکنون اهمیت دارد

هند سال گذشته به لطف گوشی‌های هوشمند ارزان‌قیمت و گسترش پهنای باند، میلیون‌ها کاربر جدید اینترنت را جذب کرد. این کاربران فاقد آن تسلط دیجیتالی هستند که به تشخیص پیام‌های فیشینگ یا جعل‌شده کمک می‌کند، و همین امر آن‌ها را به اهداف اصلی کلاهبرداران تبدیل می‌کند که اکنون از ابزارهای هوش مصنوعی مولد (Generative-AI) استفاده می‌کنند. وقتی یک کلاهبرداری با موفقیت انجام می‌شود، قربانیان پول، داده‌های شخصی یا هر دو را از دست می‌دهند و پیامدهای آن به پلتفرم‌هایی که این تراکنش‌ها را میزبانی می‌کنند نیز سرایت می‌کند.

چگونه از هوش مصنوعی به عنوان سلاح استفاده می‌شود

  • محتوای مصنوعی (Synthetic content) – مدل‌های تولید متن به کلاهبرداران اجازه می‌دهند ایمیل‌ها، پیام‌های چت یا تبلیغات متقاعدکننده‌ای را در مقیاس وسیع تولید کنند.
  • دیپ‌فیک (Deepfakes) – هوش مصنوعی چهره‌ها و صداها را روی ویدیوها یا فایل‌های صوتی ترکیب می‌کند و به کلاهبرداران اجازه می‌دهد خود را به جای کارمندان بانک یا اعضای خانواده جا بزنند.
  • طعمه‌های ورود (Onboarding bait) – کلاهبرداران لینک‌های تأیید جعلی را در پیام‌های خوش‌آمدگویی قرار می‌دهند، به این امید که کاربران جدید قبل از یادگیری اصول کار با سیستم، روی آن‌ها کلیک کنند.

هوش مصنوعی ارزان و با کاربری آسان در کنار جمعیتی که هنوز در حال یادگیری اصول اولیه امنیت آنلاین است، شرایطی بحرانی و ایده‌آل برای کلاهبرداران ایجاد کرده است.

چه کسانی در معرض ضرر هستند

  • مصرف‌کنندگان – بیشتر قربانیان افرادی هستند که تازه در کیف‌پول‌های دیجیتال، اپلیکیشن‌های خرید یا بانکداری آنلاین ثبت‌نام کرده‌اند. یک کلاهبرداری موفق می‌تواند تمام پس‌انداز هفته‌ها را از بین ببرد.
  • پلتفرم‌ها – اگر کلاهبرداری‌ها کنترل نشوند، آمازون و سایر سایت‌های تجارت الکترونیک با نرخ‌های بالاتر بازگشت وجه (charge-back) و آسیب به اعتماد به برند مواجه خواهند شد.
  • نهادهای نظارتی – کلاهبرداری‌های مداوم می‌تواند نظارت سخت‌گیرانه‌تری بر محتوای تولید شده توسط هوش مصنوعی را تحمیل کند و هزینه‌های انطباق (compliance) را برای شرکت‌های فناوری افزایش دهد.

آمازون چه اقداماتی انجام می‌دهد

تیم‌های امنیتی آمازون در حال افزودن مراحل تأیید اضافی در هنگام ایجاد حساب کاربری و علامت‌گذاری رسانه‌های تولید شده توسط هوش مصنوعی هستند که با الگوهای کلاهبرداری شناخته‌شده مطابقت دارند. این شرکت همچنین با سازمان‌های غیردولتی (NGO) محلی برای برگزاری کارگاه‌های سواد دیجیتال با هدف آموزش کاربران تازه‌وارد همکاری می‌کند.

دیدگاه مخالف

برخی تحلیلگران استدلال می‌کنند که هیاهوی پیرامون کلاهبرداری‌های هوش مصنوعی، خطر واقعی را بیش از حد بزرگ جلوه می‌دهد و خاطرنشان می‌کنند که کلاهبرداری‌های سنتی همچنان بخش عمده‌ای از خسارات را شامل می‌شوند. آن‌ها به ابزارهای تشخیص در مراحل اولیه اشاره می‌کنند که در حال حاضر بسیاری از حملات ساخته شده توسط هوش مصنوعی را پیش از رسیدن به مصرف‌کنندگان شناسایی می‌کنند.

آنچه باید زیر نظر داشت

  • اقدامات نظارتی – دستورالعمل‌های جدید هند در مورد رسانه‌های مصنوعی می‌تواند نحوه تأیید محتوا توسط پلتفرم‌ها را تغییر دهد.
  • ارتقای فناوری – پیشرفت در تشخیص دیپ‌فیک می‌تواند موازنه را دوباره به نفع مصرف‌کنندگان تغییر دهد.
  • آموزش کاربران – اثربخشی کمپین‌های سواد دیجیتال، شاخص کلیدی در مهار این روند خواهد بود.

اگر کلاهبرداری‌های مبتنی بر هوش مصنوعی همچنان از سطح آگاهی کاربران پیشی بگیرند، همان افرادی که باید از رونق دیجیتال هند بهره‌مند شوند، ممکن است نسبت به اینترنت بی‌اعتماد شوند. چند ماه آینده مشخص خواهد کرد که آیا اقدامات حفاظتی سخت‌گیرانه‌تر یا کاربران هوشمندتر می‌توانند اعتماد را بازگردانند یا خیر.

منبع: تایمز آف ایندیا