بزرگ‌ترین خطر برای هوش مصنوعی

بیشتر مردم از ماشینی می‌ترسند که بیدار شود.

خطر واقعی، بی‌سروصدا‌تر است.

هوش مصنوعی ممکن است به دلیل خیلی باهوش شدن شکست نخورد؛ بلکه ممکن است به این دلیل شکست بخورد که ما داده‌هایی را که از آن‌ها یاد می‌گیرد، مسموم می‌کنیم.

تا سال ۲۰۲۹، مدل‌ها بزرگ‌تر خواهند شد. آن‌ها استدلال بهتر و عامل‌های (agents) بیشتری خواهند داشت. شرکت‌ها بیشتر به آن‌ها اعتماد خواهند کرد.

این مدل‌ها روی اینترنت آموزش می‌بینند. آن‌ها وبلاگ‌ها، انجمن‌ها، رسانه‌های اجتماعی و مقالات پژوهشی را می‌خوانند.

اما اینترنت در حال تغییر است.

ربات‌ها، شرکت‌ها و گروه‌های سیاسی اکنون محتوا را در مقیاسی عظیم منتشر می‌کنند. آن‌ها فقط اسپم پست نمی‌کنند، بلکه محتوای خوش‌ساخت و باورپذیر منتشر می‌کنند.

اینترنت در حال تبدیل شدن به میدان نبردی برای مجموعه‌داده‌های آموزشی است.

پروپاگاندای سنتی مردم را هدف قرار می‌دهد. در دنیای هوش مصنوعی، هدف خودِ مدل است.

اگر یک دروغ یا یک سوگیری وارد داده‌های آموزشی شود، بخشی از هوش مصنوعی می‌شود. این موضوع به عنوان یک نقل‌قول باقی نمی‌ماند، بلکه به یک فرض پیش‌فرض تبدیل می‌شود؛ به پاسخی که درست به نظر می‌رسد.

این فقط یک حمله فنی نیست، بلکه یک تغییر ظریف است.

هدف شکستن مدل نیست، بلکه منحرف کردن آن است.

این ریسک‌ها را در نظر بگیرید:

  • هزاران صفحه جعلی باعث می‌شوند یک محصول ایمن به نظر برسد.
  • چت‌های جعلی توسعه‌دهندگان باعث می‌شود کدهای ناامن، مانند یک روش بهینه (best practice) به نظر برسند.
  • داستان‌های سیاسی سال‌ها پیش از یک انتخابات کاشتنی می‌شوند.
  • نظرات مصنوعی به صدای دستیارهای آینده تبدیل می‌شوند.

خطر، یک دروغ نیست؛ خطر، نقشه‌ای تحریف‌شده از واقعیت است.

اینترنت برای ارتباطات و تجارت ساخته شده بود، نه برای اینکه یک مجموعه‌داده‌ی پاک باشد.

مردم اکنون به جای خوانندگان انسانی، برای مدل‌های آینده می‌نویسند.

  • یک پست وبلاگی به یک بذر تبدیل می‌شود.
  • یک نظر جعلی به یک سیگنال آموزشی تبدیل می‌شود.
  • یک مقاله فنی به یک پیشنهاد رفتاری تبدیل می‌شود.

هزار دروغ کوچک، به یک حقیقت آماری تبدیل می‌شوند.

هوش مصنوعی اسناد، نویزها و دست‌کاری‌های ما را به ارث می‌برد. اگر اینترنت آلوده باقی بماند، مدل‌ها از تحریف‌های ما یاد خواهند گرفت.

سوال فقط این نیست که «چگونه هوش مصنوعی را ایمن کنیم؟»

سوال واقعی این است که «چگونه دانش خود را برای یادگیری هوش مصنوعی ایمن نگه داریم؟»

مدل‌های فردا از اینترنت امروز یاد می‌گیرند. و مردم همین حالا هم در حال نوشتن برای آن مدل‌ها هستند.

منبع: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km