حالت هوش مصنوعی متا: خطرات مبتنی کردن جستجو بر داده‌های رسانه‌های اجتماعی

متا در تلاش است تا با ادغام «حالت هوش مصنوعی» (AI Mode) جدید خود مستقیماً در اپلیکیشن فیس‌بوک، تجربه جستجو را بازتعریف کند. اگرچه این قابلیت وعده می‌دهد که به پرس‌وجوهای پیچیده و محاوره‌ای پاسخ دهد، اما اتکای آن به محتوای تولیدشده توسط کاربران، پرسش‌های مهمی را در مورد دقت و گسترش اطلاعات نادرست ایجاد می‌کند.

رویکردی جدید به جستجوی محاوره‌ای

حالت هوش مصنوعی متا به‌گونه‌ای طراحی شده است که مشابه جستجوی یکپارچه‌شده با هوش مصنوعی گوگل عمل کند و فراتر از تطبیق ساده کلمات کلیدی، به سوالات ظریف پاسخ دهد. این حالت به‌جای ارائه صرفِ فهرستی از لینک‌ها، هدفش ارائه پاسخ‌های ترکیب‌شده (synthesized) به پرس‌وجوهایی مانند «آخر این هفته چه کار کنم؟» یا «یک سفر آخر هفته به توکیو برنامه‌ریزی کن» است.

تفاوت اصلی — و منبع اصلی بحث‌ها — منبع داده‌ها است. برخلاف موتورهای جستجوی سنتی که کل وب را پیمایش (crawl) می‌کنند، حالت هوش مصنوعی متا به‌شدت از پست‌های عمومی در اکوسیستم خود، از جمله گروه‌های فیس‌بوک و ریلزهای اینستاگرام، استفاده می‌کند. این امر به مدل اجازه می‌دهد تا به داده‌های بسیار محلی (hyper-local) دسترسی داشته باشد؛ مانند اطلاعیه‌های محله‌ای، به‌روزرسانی‌های سازمان‌های محلی و توصیه‌های مربوط به رویدادهای جامعه‌محور که ممکن است توسط خزنده (crawler)های سنتی به‌خوبی ایندکس نشده باشند.

معمای اطلاعات نادرست: مبتنی‌سازی در مقابل توهم (Hallucination)

چالش فنیِ مبتنی‌سازی (grounding) یک مدل زبانی بزرگ (LLM) بر داده‌های رسانه‌های اجتماعی بسیار عظیم است. از آنجایی که مدل از پست‌های فیس‌بوک به عنوان «حقیقت پایه» (ground truth) استفاده می‌کند، بی‌ثباتی محتوای این پلتفرم را نیز به ارث می‌برد. منتقدان استدلال می‌کنند که استناد پاسخ‌های هوش مصنوعی به پست‌های رسانه‌های اجتماعی می‌تواند یک «کابوس بیداری» ایجاد کند که در آن، هوش مصنوعی تئوری‌های حاشیه‌ای یا اطلاعات قدیمیِ به اشتراک گذاشته شده در گروه‌های خاص را تقویت می‌کند.

با این حال، آزمایش‌های اولیه نشان می‌دهد که متا حفاظ‌های (guardrails) قابل توجهی را پیاده‌سازی کرده است. در طول ارزیابی‌های عملی، حالت هوش مصنوعی در تولید اطلاعات نادرستِ حساس در مورد موضوعات حساس مانند ایمنی واکسن، سلامت انتخابات یا تئوری‌های توطئه تاریخی با دشواری روبرو شد. این نشان می‌دهد که اگرچه مدل بر داده‌های کاربران مبتنی است، اما احتمالاً از یک لایه تأیید ثانویه یا یک «فیلتر ایمنی» استفاده می‌کند تا از بازتولید ادعاهای مضر یا ردشده‌ای که در فیدهای اجتماعی یافت می‌شوند، جلوگیری کند.

چرا این موضوع برای چشم‌انداز هوش مصنوعی اهمیت دارد

اقدام متا نشان‌دهنده یک چرخش استراتژیک در جنگ‌های هوش مصنوعی است: گذار از هوش مصنوعی «دانش عمومی» به هوش مصنوعی «زمینه‌ای/اجتماعی». در حالی که OpenAI و Google بر سر وسعت داده‌های آموزشی خود با هم رقابت می‌کنند، Meta از مزیت رقابتی منحصربه‌فرد خود یعنی گراف اجتماعی بلادرنگ و فوق‌محلیِ میلیاردها کاربر بهره می‌برد.

اگر Meta بتواند با موفقیت میان کاربردی بودنِ بینش‌های محلی و اجتماعی با دقتِ سخت‌گیرانه‌ای که جستجو به آن نیاز دارد تعادل برقرار کند، می‌تواند بر بخش «سبک زندگی و برنامه‌ریزی» در حوزه هوش مصنوعی تسلط یابد. با این حال، مانع فنی همچنان پابرجاست: چگونه می‌توان از یک مدل جلوگیری کرد تا یک پست ترند شده اما نادرست در یک Facebook Group را به عنوان یک واقعیت عینی در نظر نگیرد.

نکات کلیدی