آمازون از موتور هوش مصنوعی مولد خود برای مقابله با موج حملات فیشینگ که خریدارانش را هدف قرار داده‌اند، استفاده می‌کند. شرکت امیدوار است با گنجاندن قابلیت تشخیص کلاهبرداری در Alexa for Shopping، بار تیم‌های پشتیبانی خود را کاهش داده و بررسی‌های امنیتی فوری را در اختیار کاربران قرار دهد.

استفاده از متادیتا و مقیاس‌پذیری برای تأیید اصالت

هر ساله حدود ۳۶۰,۰۰۰ مشتری آمازون تنها برای اینکه تأیید کنند آیا یک پیام واقعی است یا یک تلاش فیشینگ، با پشتیبانی تماس می‌گیرند. آمازون با تبدیل Alexa for Shopping به یک کارآگاه کلاهبرداری در لحظه (real-time)، به این مسئله پاسخ داده است.

این هوش مصنوعی هر پرس‌وجو را با میلیاردها پیام قانونی آمازون که در سراسر جهان ارسال می‌شوند، تطبیق می‌دهد. این مدل به جای اسکن کردن تنها متن، چندین لایه فنی را بررسی می‌کند:

  • اطلاعات فرستنده: منشأ پیام را تأیید می‌کند.
  • متادیتای پیام: داده‌های پنهان پیوست شده به پیام را بررسی می‌کند.
  • زمان‌بندی و محتوا: الگوهای ارسال و نحوه نگارش را با استانداردهای آمازون چک می‌کند.

آمازون می‌گوید این سیستم خود-اصلاح‌گر (self-improving) است: هر گزارش کاربر به مدل تغذیه می‌شود و الگوهای کلاهبرداری جدید را به آن می‌آموزد.

دفاع چندلایه در برابر فیشینگ

این قابلیت جدید به شبکه امنیتی گسترده‌تر آمازون متصل می‌شود که پیش از این نیز با هشدارهای جعلی تمدید Prime، اعلان‌های تحویل فریبنده، هشدارهای تعلیق حساب و پیشنهادهای شغلی تقلبی مبارزه می‌کرد.

پیش از ارتقای Alexa، کاربران مجبور بودند ایمیل‌های مشکوک را به verify@amazon.com ارسال کنند یا یک فرم وب را پر کنند؛ روشی که اگرچه مؤثر بود اما دشوار و زمان‌بر بود. انتقال فرآیند تأیید به یک هوش مصنوعی مکالمه‌ای، این اصطکاک را از بین می‌برد و به خریداران اجازه می‌دهد با یک فرمان صوتی ساده از خود محافظت کنند.

تکامل استراتژیک Alexa for Shopping

آمازون در حال تغییر مسیر Alexa از یک دستیار صوتی همه‌منظوره به ابزاری متمرکز بر خرید است. این شرکت بر روی “Alexa for Shopping” تمرکز کرده است؛ یک هوش مصنوعی تخصصی که برای انجام وظایف مربوط به خرده‌فروشی طراحی شده است.

فراتر از امنیت، این دستیار اکنون:

  • پیشنهادهای شخصی‌سازی شده را بر اساس تاریخچه خرید استخراج می‌کند.
  • خلاصه‌های محصول مبتنی بر هوش مصنوعی تولید می‌کند.
  • لیست‌های خرید دست‌نویس را که توسط دوربین گوشی ثبت شده‌اند، به متن تبدیل می‌کند.
  • هشدارهای پیشگیرانه برای عرضه برندها یا انتشار کتاب‌های جدید ارسال می‌کند.

این به‌روزرسانی‌ها نشان می‌دهند که چگونه آمازون در حال تبدیل یک پلتفرم صوتی به یک موتور تجاری پیشگیرانه و با کارایی بالا است.

نکات کلیدی

  • تأیید در لحظه: Alexa for Shopping می‌تواند اصالت پیام را از طریق بررسی متادیتا، اطلاعات فرستنده و محتوا در برابر پایگاه داده جهانی آمازون تأیید کند.
  • امنیت مقیاس‌پذیر: با گزارش بیشتر ارتباطات مشکوک توسط کاربران، هوش مصنوعی تشخیص خود را دقیق‌تر می‌کند.
  • چرخش استراتژیک: آمازون در حال تغییر کاربری Alexa به یک دستیار تجاری تخصصی و پیشگیرانه است که بر کاربردی بودن خرید و امنیت کاربر تأکید دارد.

آمازون یک تشخیص‌دهنده کلاهبرداری مبتنی بر هوش مصنوعی مولد را در Alexa for Shopping گنجانده است که به کاربران اجازه می‌دهد از دستیار صوتی بخواهند تأیید کند آیا پیامی که شبیه پیام‌های آمازون است، واقعی است یا خیر. این اقدام، حدود ۳۶۰,۰۰۰ مشتری را هدف قرار می‌دهد که هر ساله تنها برای تأیید یک ایمیل یا پیامک مشکوک، با خطوط پشتیبانی این خرده‌فروش تماس می‌گیرند.

هوش مصنوعی چگونه کار می‌کند

این سیستم به جای تکیه بر فیلترهای کلمات کلیدی، جزئیات فنی هر پرس‌وجوی ورودی را اسکن می‌کند. این سیستم آدرس فرستنده، متادیتای پنهانی که همراه پیام است و زمان‌بندی و نحوه نگارش محتوا را بررسی می‌کند. با تطبیق این سیگنال‌ها با میلیاردها پیام قانونی آمازون که روزانه ارسال می‌شوند، این مدل پیام را به عنوان پیام واقعی یا احتمالاً کلاهبرداری علامت‌گذاری می‌کند.

این سرویس به مرور زمان بهبود می‌یابد. وقتی کاربری یک پیام مشکوک را گزارش می‌دهد، آن گزارش به داده‌های آموزشی تبدیل شده و به مدل کمک می‌کند تا الگوهای کلاهبرداری نوظهور را بدون دخالت انسان شناسایی کند. آمازون این چرخه را «خود-اصلاح‌گر» می‌نامد، به این معنی که هرچه افراد بیشتری از آن استفاده کنند، تشخیص دقیق‌تر می‌شود.

چه نوع کلاهبرداری‌هایی پوشش داده می‌شوند

این هوش مصنوعی برای مبارزه با طیف وسیعی از تلاش‌های کلاهبرداری رایج که خریداران را آزار داده‌اند، عرضه شده است:

  • هشدارهای جعلی درباره تمدید عضویت Prime
  • اعلان‌های جعلی تحویل بسته که شامل لینک‌های فیشینگ هستند
  • هشدارهای جعل‌شده برای تعلیق حساب که نیاز به اقدام فوری دارند
  • ایمیل‌های کلاهبرداری پیشنهاد شغلی که از برند آمازون استفاده می‌کنند

پیش از این ادغام، کاربران مجبور بودند پیام‌های مشکوک را به یک آدرس ایمیل اختصاصی ارسال کنند یا یک فرم وب را پر کنند. آن روش‌ها کارآمد بودند اما مراحل اضافی را اضافه می‌کردند که می‌توانست مانع از گزارش‌دهی شود. با انتقال فرآیند تأیید به یک رابط مکالمه‌ای، آمازون اصطکاکی را که اغلب یک قربانی احتمالی را از رسیدن به یک نتیجه امن جدا می‌کند، کاهش می‌دهد.

تغییر مسیر Alexa از دستیار عمومی به متخصص خرید

قابلیت تشخیص کلاهبرداری بخشی از یک بازنگری گسترده‌تر در جهت‌گیری Alexa است. Alexa که پیش از این به عنوان یک دستیار صوتی خانگی بازاریابی می‌شد، اکنون در حال بازتعریف شدن به عنوان یک دستیار اختصاصی با تمرکز بر خرید است. به‌روزرسانی‌های اخیر به این دستیار اجازه می‌دهند تا:

  • پیشنهادهای ویژه شخصی‌سازی‌شده را بر اساس تاریخچه خرید کاربر استخراج کند
  • با استفاده از مدل‌های زبانی بزرگ (LLMs)، خلاصه‌ای از ویژگی‌های محصول را تولید کند
  • لیست‌های خرید دست‌نویس را که توسط دوربین گوشی ثبت شده‌اند، به متن تبدیل کند
  • هشدارهای پیش‌دستانه برای عرضه محصولات جدید یا انتشار کتاب‌های آتی صادر کند

آمازون با تجمیع این قابلیت‌ها تحت عنوان «Alexa for Shopping»، در حال تبدیل یک پلتفرم صوتی به یک ابزار تجاری چندمنظوره است که می‌تواند هم کالاها را پیشنهاد دهد و هم از خریداران در برابر کلاهبرداری محافظت کند.

نکته کلیدی

آمازون با تبدیل Alexa به یک شریک بررسی کلاهبرداری در لحظه، راهی فوری برای خریداران فراهم می‌کند تا ارتباطات واقعی آمازون را از کلاهبرداری‌ها متمایز کنند، و همزمان داده‌هایی را جمع‌آوری می‌کند که می‌تواند سیستم را برای همه هوشمندتر کند. این رویکرد، Alexa را از یک دستیار عمومی به یک دستیار تجاری هدفمند تغییر می‌دهد، اما اثربخشی آن به این بستگی دارد که هوش مصنوعی تا چه حد می‌تواند بین امنیت، راحتی کاربر و حریم خصوصی تعادل برقرار کند.