محققان MIT دریافتند افرادی که به راستیآزماییهای هوش مصنوعی تکیه میکنند، در تشخیص اخبار جعلی ضعیفتر میشوند. در یک آزمایش چهار هفتهای با ۶۷ شرکتکننده، هوش مصنوعی عمدتاً پاسخهای درستی ارائه داد، اما توانایی خودِ شرکتکنندگان در قضاوت درباره اطلاعات نادرست کاهش یافت.
چرا این مطالعه اهمیت دارد
ابزارهای راستیآزمایی اکنون در نوار ابزار هر مرورگری دیده میشوند. وعده آنها ساده است: یک الگوریتم به شما میگوید که آیا یک تیتر یا تصویر واقعی است یا خیر، و به شما اجازه میدهد بدون فکر کردنِ مجدد از آن عبور کنید. اگر این فناوری همان مهارتی را که قرار است جایگزین کند، فرسایش دهد، سود خالص آن به شدت کاهش مییابد. جامعهای که نمیتواند ادعاها را به طور مستقل ارزیابی کند، حتی زمانی که به نظر میرسد یک ماشین کارهای دشوار را انجام میدهد، در برابر دستکاریها آسیبپذیرتر میشود.
آزمایش چگونه انجام شد
محققان مجموعهای از اخبار واقعی و ساختگی را به شرکتکنندگان نشان دادند. یک سیستم هوش مصنوعی — که دقت آن برای پاسخگویی صحیح در بیشتر مواقع کافی بود — برای هر خبر یک حکم دوگانه ارائه میکرد. آنها دو مورد را دنبال کردند: دقت هوش مصنوعی و قضاوتهای خودِ شرکتکنندگان زمانی که با هوش مصنوعی مشورت نمیشدند.
پاسخهای هوش مصنوعی با اطمینان ارائه میشد، اما بدون هیچ توضیحی درباره اینکه سیستم چگونه به نتیجه رسیده است، همراه نبود. در طول هفتهها، شرکتکنندگانی که به طور منظم پاسخ هوش مصنوعی را میپذیرفتند، از بهکارگیری قوای انتقادی خود دست کشیدند.
یافتهها چه معنایی دارند
- تحلیل رفتن مهارت: همانطور که GPS میتواند حس جهتیابی راننده را کند کند، هوش مصنوعی که پاسخهای فوری ارائه میدهد نیز میتواند قدرت تحلیل کاربر را کاهش دهد.
- کاهش تلاش ذهنی: راحتیِ «پاسخهای سریع» مانع از استدلال عمیقی میشود که در برابر اطلاعات نادرست تابآوری ایجاد میکند.
- احتمال اتکای بیش از حد: اگر افراد زیادی این عادت را برگزینند، توانایی جمعی برای تشخیص دروغها ممکن است کاهش یابد و جامعه را در برابر روایتهای ساختهشده، تسلیمپذیرتر کند.
نکتهای که شایان ذکر است
هوش مصنوعی مورد استفاده در این مطالعه دقیق بود و بسیاری استدلال میکنند که یک پاسخ درست بهتر از حدس زدن است. محققان ادعا نمیکنند که هوش مصنوعی بیفایده است؛ آنها نسبت به اتکای بدون تفکر انتقادی هشدار میدهند.
چگونه قضاوت خود را تیز نگه دارید
محققان پیشنهاد میکنند با هوش مصنوعی به جای یک قاضی، مانند یک حریف تمرینی برخورد کنید. به جای پذیرش مستقیم پاسخ، از سیستم بخواهید:
- استدلال خود را مرحله به مرحله نشان دهد.
- در مقابلِ ادعا، استدلال کند.
- شرایطی را که باعث اشتباه بودن پاسخش میشود، شناسایی کند.
یک عادت ساده — قبل از اعتماد به هوش مصنوعی، مکث کنید و بپرسید «چه چیزی میتواند این پاسخ را نادرست کند؟» — مغز را مجبور میکند تا فعال بماند. این تلاش ممکن است کوچک باشد، اما مهارت تأیید مستقل را حفظ میکند.
آنچه باید در آینده زیر نظر داشت
نتیجهگیری روشن است: هوش مصنوعی میتواند به شما در تشخیص اطلاعات نادرست کمک کند، اما تنها در صورتی که تفکر انتقادی خود را در جایگاه راننده نگه دارید.