چرا چتباتهای هوش مصنوعی دوستان شما نیستند، به گفتهی مریدیت ویتاکر از Signal
با ادغام روزافزون مدلهای زبانی بزرگ (LLMs) در جریانهای کاری دیجیتال روزمرهی ما، مرز میان تعامل انسانی و پاسخ ماشینی در حال کمرنگ شدن است. مریدیت ویتاکر، رئیس Signal، هشدار جدی به کاربران میدهد: مدلسازیهای آماری پیچیده را با همراهی واقعی یا هوش خودآگاه اشتباه نگیرید.
توهم خودآگاهی در LLMها
مریدیت ویتاکر در مصاحبهای اخیر با Bloomberg، به تمایل روزافزون برای انسانانگاری (anthropomorphize) مدلهای هوش مصنوعی مانند ChatGPT متعلق به OpenAI و Claude متعلق به Anthropic پرداخت. او تأکید کرد که این سیستمها علیرغم روانی در گفتگو، فاقد هوشیاری و اراده هستند. ویتاکر با یادآوری این نکته به کاربران که چتباتها اساساً موتورهای پیچیدهای هستند که برای پیشبینی توکن بعدی در یک دنباله طراحی شدهاند، اظهار داشت: «اینها دوستان شما نیستند. اینها موجودات هوشیار نیستند. اینها همسخنانی دارای احساس و درک نیستند.»
نگرانی ویتاکر فراتر از تعاریف فلسفی، به تأثیر شناختی هوش مصنوعی بر خلاقیت انسانی نیز تسری مییابد. اگرچه او اعتراف میکند که از ابزارهای هوش مصنوعی برای کارهای جزئی مانند قالببندی اسناد استفاده میکند، اما از بهکارگیری آنها برای استدلالهای سطح بالا خودداری میکند. او استدلال میکند که تکیه بر هوش مصنوعی برای ایدهپردازی، خطر «بستن» فرآیند تفکر انسانی را به همراه دارد، زیرا این مدلها با «میانگینگیری از آنچه از قبل وجود دارد» عمل میکنند و به طور بالقوه تفکر اصیل و غیرتقلیدی را سرکوب میکنند.
هزینهی حریم خصوصی در هوش مصنوعی «عاملیتمحور» (Agentic)
بحث زمانی جنبهی انتقادیتری به خود گرفت که دربارهی ظهور «عاملهای هوش مصنوعی» (AI Agents) — سیستمهایی که برای فعالیت مستقل به نمایندگی از کاربر طراحی شدهاند — صحبت شد. ویتاکر بهطور مشخص با پیشبینی مصطفی سلیمان، مدیرعامل Microsoft AI، مخالفت کرد؛ کسی که پیشنهاد کرده بود ابزارهایی مانند Microsoft Copilot در نهایت میتوانند وظایف پیچیدهی شخصی، مانند خریدهای تعطیلات را مدیریت کنند.
ویتاکر به بدهبستانهای عظیم حریم خصوصی که در چنین قابلیتهای «عاملیتمحوری» نهفته است، اشاره کرد. برای اینکه یک هوش مصنوعی بتواند خریدها یا برنامهی زمانی کاربر را مدیریت کند، به دسترسی گسترده به دادههای بسیار حساس نیاز دارد، از جمله:
- اطلاعات شخصی کارت اعتباری و تاریخچه مرورگر.
- ارتباطات بیدرنگ (Real-time) از طریق اپلیکیشنهایی مانند Signal.
- تقویمهای خصوصی و آدرسهای منزل.
از دیدگاه امنیتی، ویتاکر این سطح از یکپارچگی را یک آسیبپذیری بزرگ میداند. او خاطرنشان کرد که اجازه دادن به یک هوش مصنوعی برای نظارت بر چتهای گروهی خانوادگی یا پیام دادن به خواهر و برادرها از طرف کاربر، اساساً به معنای ایجاد یک «درب پشتی» به خصوصیترین بخش زندگی دیجیتال کاربر خواهد بود.
پیامدها برای زیستبوم هوش مصنوعی
موضع ویتاکر نشاندهنده تنش رو به رشدی در صنعت فناوری است: رقابت میان «کاربرد عاملیتمحور» در مقابل حق بنیادین حریم خصوصی و خودمختاری شناختی. در حالی که توسعهدهندگان به سمت مدلهایی پیش میروند که میتوانند در چندین اپلیکیشن مختلف فعالیت کنند، صنعت با یک پرسش حیاتی روبروست: آیا میتوانیم بدون ایجاد یک نقطه متمرکز برای نظارت کامل، به کمک هوش مصنوعیِ یکپارچه دست یابیم؟ برای توسعهدهندگان و بنیانگذاران، این موضوع بر ضرورت ساخت معماریهای هوش مصنوعی با «اولویت حریم خصوصی» تأکید میکند؛ معماریهایی که پردازش محلی و جداسازی سختگیرانه دادهها را بر یکپارچگی فراگیر و با دسترسی همهجانبه ترجیح میدهند.
نکات کلیدی
- اجتناب از انسانانگاری: مدلهای هوش مصنوعی ابزارهای آماری هستند، نه موجودات دارای احساس؛ بنابراین برخورد با آنها به عنوان «دوست»، میتواند منجر به سوءبرداشت از قابلیتها و ریسکهای آنها شود.
- محافظت از خودمختاری شناختی: اتکای بیش از حد به هوش مصنوعی برای طوفان فکری و حل مسئله ممکن است منجر به «بازگشت به میانگین» شود، جایی که خلاقیت انسانی تحتالشعاع مجموعهدادههای میانگینگیری شده قرار میگیرد.
- شکاف حریم خصوصی در حوزه عاملیت: تلاش برای ایجاد عوامل هوش مصنوعی خودمختار، نیازمند دسترسی بیسابقه به دادههای شخصی است که باعث ایجاد دربهای پشتی امنیتی قابل توجه و آسیبپذیریهای حریم خصوصی میشود.