چرا برخورد با عاملهای هوش مصنوعی به عنوان همکار، یک تله بزرگ برای بهرهوری است
در حالی که سیلیکون ولی روایت «انسانهای دیجیتال» و همتیمیهای هوش مصنوعی را ترویج میکند، یک تغییر روانشناختی خطرناک در محیطهای کاری مدرن در حال رخ دادن است. در حالی که شرکتهایی مانند Microsoft، OpenAI و Google برای عرضه ابزارهای عاملمحور (agentic tools) که در قالب همکاران دیجیتال معرفی میشوند، رقابت میکنند، تحقیقات جدید نشان میدهد که این برندسازی بهطور فعال در حال کاهش نظارت و عملکرد انسانی است.
روانشناسی «کارمند هوش مصنوعی»
تحقیقات اخیر پروفسور اِما وایلز (Emma Wiles) از دانشگاه بوستون نشان میدهد که نحوه برچسبگذاری ما برای هوش مصنوعی، رویکرد شناختی ما نسبت به کار را بهطور قابل توجهی تغییر میدهد. در مطالعهای روی مدیران، کسانی که با یک هوش مصنوعی عاملمحور (که «Alex» نامیده شده بود) به جای یک ابزار نرمافزاری، به عنوان یک «همکار» برخورد کردند، عملکرد ضعیفتری داشتند و ۱۸٪ خطاهای کمتری را شناسایی کردند.
این پدیده به این دلیل رخ میدهد که انسانانگاریِ (anthropomorphizing) هوش مصنوعی، حس سنتی مسئولیتپذیری را معکوس میکند. وقتی هوش مصنوعی در قالب یک کارمند ارائه میشود، مدیران بهطور ناخودآگاه نسبت به خروجی آن احساس مسئولیت کمتری میکنند. این مطالعه نشان داد که شرکتکنندگان ۴۴٪ بیشتر احتمال داشت که کارهای مشکوک هوش مصنوعی را به جای اصلاح خودشان، به یک سرپرست ارجاع دهند؛ رفتاری که مزایای بهرهوری وعدهدادهشده توسط اتوماسیون عاملمحور را کاملاً از بین میبرد.
شکاف میان سیلیکون ولی و کاربرد در دنیای واقعی
تلاش برای رسیدن به «انسانهای دیجیتال» — مفهومی که توسط ینسن هوانگ (Jensen Huang)، مدیرعامل Nvidia ترویج میشود — از هماکنون در ساختارهای شرکتی منعکس شده است. تقریباً یکسوم مدیران در مطالعه وایلز گزارش دادند که شرکتهایشان عاملهای هوش مصنوعی را به عنوان کارمند معرفی میکنند و ۲۳٪ حتی آنها را در نمودارهای سازمانی رسمی قرار دادهاند.
با این حال، شکاف رو به گسترشی بین آنچه توسعهدهندگان فناوری برای اتوماسیون «مناسب» میدانند و آنچه کارگران واقعاً نیاز دارند، وجود دارد. یک مطالعه در استنفورد با مشارکت ۱۵۰۰ کارگر در ۱۰۴ شغل مختلف، این اصطکاک را برجسته کرد: در حالی که کارشناسان پیشنهاد میکردند وظایفی مانند تأیید رتبه اعتباری مشتریان خودکارسازی شود، کارگران واقعی علاقه چندانی به چنین اتوماسیونی نشان ندادند. در عوض، متخصصانی مانند کاتبان حقوقی به دنبال کمک هوش مصنوعی برای نظارت سطح بالا، مانند پیگیری روند پروندهها بودند، نه واگذاری عملکردهای شناختی اصلی به یک «عامل».
خطر جابهجایی مسئولیتپذیری
خطر برخورد با عاملها به عنوان همکار، بسیار فراتر از بهرهوری اداری است؛ این امر تهدیدی سیستماتیک برای بخشهای حساس مانند مراقبتهای بهداشتی، جنگ و دولت ایجاد میکند. دارون آجمولو (Daron Acemoglu)، اقتصاددان برنده جایزه نوبل، استدلال میکند که مسیر بازاریابی فعلی — یعنی قرار دادن هوش مصنوعی برای جایگزینی انسانها — یک «پیشنهاد بازنده» است. او پیشنهاد میکند که هوش مصنوعی باید در عوض برای تقویت توانمندیهای انسانی بهینه شود.
وقتی هوش مصنوعی به عنوان یک موجودیت خودمختار دیده میشود، به یک قربانی راحت برای شکستهای سیستماتیک تبدیل میشود. ما پیش از این شاهد مواردی بودهایم که در آن خطاهای انسانی در زنجیرههای پیچیده، بهطور واکنشی به مدلهایی مانند Claude نسبت داده شده است. اگر به عاملهای هوش مصنوعی اجازه داده شود که نقش «کارمندان» را در نمودار سازمانی اشغال کنند، مسئولیت حقوقی و اخلاقی شکستهای آنها بهطور خطرناکی مبهم میشود و بهطور بالقوه به انسانها اجازه میدهد تا تقصیر تصمیمات اشتباه را به گردن یک نرمافزار بیندازند.
نکات کلیدی
- کاهش شناختی: برچسب زدن به هوش مصنوعی به عنوان «همکار»، هوشیاری انسانی را کاهش میدهد و منجر به افت ۱۸ درصدی در تشخیص خطا میشود.
- شکاف مسئولیتپذیری: معرفی عاملها به عنوان کارمند، احتمال ارجاع خطاها به جای اصلاح آنها توسط انسانها را ۴۴٪ افزایش میدهد و مزایای صرفهجویی در زمان هوش مصنوعی را از بین میبرد.
- تقویت در مقابل جایگزینی: کارشناسان استدلال میکنند که هوش مصنوعی باید برای بهبود توانمندیهای انسانی بهینه شود، نه اینکه به عنوان جایگزینی برای عاملیت انسانی بازاریابی شود.