چرا این پرونده اهمیت دارد

اگر این حکم پابرجا بماند، اولین آزمون سطح‌بالا خواهد بود برای اینکه آیا یک غول فناوری می‌تواند برای تصمیم‌گیری درباره ماندن یا رفتن افراد، به معیارهای مبتنی بر الگوریتم تکیه کند یا خیر؛ به‌ویژه زمانی که این معیارها با شرایطی که از نظر قانونی محافظت می‌شوند، مانند مرخصی استعلاجی یا ناتوانی جسمی، تلاقی پیدا می‌کنند.

ادعاهای شکایت

در شکایت آمده است که Meta مجموعه‌ای از ابزارها را مستقر کرده است که تقریباً هر تعامل دیجیتالی کارمند در محل کار را رصد می‌کنند. یکی از این سیستم‌ها که «Metamate» نامیده می‌شود، به عنوان یک دستیار مدل زبانی بزرگ عمل می‌کند که پیام‌های چت، اسناد و سایر ارتباطات را تجزیه و تحلیل می‌کند. تحلیل‌های مکمل نیز ریتم تایپ، محتوای صفحه نمایش، ترافیک ایمیل و تاریخچه مرورگر را استخراج می‌کنند تا یک «امتیاز پذیرش هوش مصنوعی» (AI adoption score) ترکیبی ایجاد کنند.

شاکیان استدلال می‌کنند که الگوریتم امتیازدهی، حتی زمانی که کارگران در مرخصی‌های پزشکی تاییدشده بودند، به شمارش فعالیت‌ها (یا عدم فعالیت آن‌ها) ادامه داده است. از آنجایی که این معیارها برای غیبت‌های قانونی متوقف نشدند، امتیاز کارمندان آسیب‌دیده کاهش یافت و آن‌ها را به فهرست کاندیداهای تعدیل نیرو سوق داد. این شکایت مدعی است که این اقدام با جریمه کردن کارگران به دلیل شرایطی که قانون از آن‌ها محافظت می‌کند، قوانین فدرال را نقض کرده است.

دفاعیه Meta و مانع داوری

وکیل Meta، ارین کانل (Erin Connell)، این ادعا را که یک سیستم خودکار تصمیمات مربوط به تعدیل نیرو را اتخاذ کرده است، رد کرد. او تأکید کرد که مدیران انسانی تصمیمات نهایی را اتخاذ کرده‌اند. کانل همچنین استدلال کرد که کارگران دچار «آسیب جبران‌ناپذیر» نخواهند شد و خاطرنشان کرد که تنها ضرر احتمالی، بیمه سلامت یارانه‌ای کارفرما است، نه کل پوشش پزشکی آن‌ها.

آنچه این اختلاف را پیچیده می‌کند، بند داوری اجباری است که در اکثر قراردادهای استخدامی شرکت‌های بزرگ فناوری گنجانده شده است. این بندها اختلافات را از دادگاه‌های عمومی دور کرده و به پنل‌های داوری خصوصی می‌کشاند که توانایی کارمندان برای طرح یک دعوای جمعی را محدود می‌کند. قاضی اوریک (Orrick) دریافت که از دست دادن شغل، آستانه قانونی برای صدور حکم موقت اضطراری را برآورده نمی‌کند، بنابراین تعدیل نیروها می‌تواند در حالی که ادعاهای اصلی در انتظار داوری هستند، ادامه یابد.

مدیریت الگوریتمی در عمل

اقدام Meta پیرو یک تغییر گسترده‌تر در این شرکت است. پس از کاهش تقریباً ۱۰ درصدی نیروی کار جهانی خود در ماه مه، Meta تمرکز مجدد خود را بر هوش مصنوعی اعلام کرد. همان فناوری که ویژگی‌های جدید محصولات را قدرت می‌بخشد، اکنون خروجی کارمندان را نیز بازرسی می‌کند. این همگراییِ هوش مصنوعی برای نوآوری و هوش مصنوعی برای بهینه‌سازی نیروی کار، یک پرسش حقوقی تازه را ایجاد می‌کند: چه زمانی ابزاری که برای کارایی طراحی شده، به سلاحی برای تبعیض تبدیل می‌شود؟

این پرونده همچنین تنش رو به رشدی را در سیلیکون ولی برجسته می‌کند. شرکت‌ها در حال جایگزینی ارزیابی‌های عملکرد سنتی با نظارت مستمر و داده‌محور هستند. وعده این کار، بینش دقیق‌تر از بهره‌وری است؛ اما واقعیت می‌تواند یک «جعبه سیاه» باشد که کارگران را بر اساس سیگنال‌هایی قضاوت می‌کند که آن‌ها قادر به دیدن یا اعتراض به آن‌ها نیستند.

آنچه برای هند در خطر است

هند به قطب مرکزی توسعه نرم‌افزار و تحقیقات هوش مصنوعی تبدیل شده است و میزبان مراکز متعدد قابلیت‌های جهانی (GCCs) است که به شرکت‌های فناوری چندملیتی خدمات می‌دهند. حکم Meta از سه جهت بازتاب می‌یابد:

  • هشیاری نظارتی – مقامات هندی ممکن است برای تدوین قوانینی که به‌طور خاص به سوگیری الگوریتمی در تصمیمات استخدامی می‌پردازند، تحت فشار قرار گیرند تا اطمینان حاصل کنند که امتیازات مبتنی بر هوش مصنوعی نمی‌توانند برای جریمه کردن کارمندان به دلیل استفاده از مرخصی‌های قانونی استفاده شوند.
  • نگرانی‌های حقوق دیجیتال – ابزارهایی که تایپ‌ها، محتوای صفحه نمایش و ارتباطات را ثبت می‌کنند، مرز بین ردیابی بهره‌وری و نظارت تهاجمی را کمرنگ می‌کنند. کارگران به محافظت‌های شفافی نیاز دارند که از جمع‌آوری کنترل‌نشده داده‌ها و از بین رفتن حریم خصوصی جلوگیری کند.
  • ارتقای مهارت در برابر آسیب‌پذیری – از آنجایی که هوش مصنوعی به معیاری برای امنیت شغلی تبدیل می‌شود، ذخایر استعداد هندی نه تنها باید مهارت‌های فنی را کسب کنند، بلکه باید شفافیت و حاکمیت اخلاقی سیستم‌هایی را که آن‌ها را ارزیابی می‌کنند، مطالبه کنند.

گام‌های احتمالی بعدی

نبرد فوری از دادگاه به مراجع داوری منتقل خواهد شد، جایی که شاکیان باید یک پنل خصوصی را متقاعد کنند که امتیازات هوش مصنوعی مصداق تبعیض غیرقانونی است.

نتیجه‌گیری

دستور قاضی اوریک تعیین نمی‌کند که آیا معیارهای مبتنی بر هوش مصنوعی می‌توانند به‌طور قانونی تعیین کنند چه کسی باید تعدیل شود یا خیر؛ بلکه صرفاً اجازه می‌دهد این فرآیند در حالی که آن پرسش در مراجع خصوصی در حال رسیدگی است، ادامه یابد. نتیجه این پرونده احتمالاً نحوه ایجاد تعادل توسط شرکت‌های فناوری جهانی بین افزایش کارایی و وظیفه برخورد منصفانه با کارمندان دارای شرایط محافظت‌شده را شکل خواهد داد و رگولاتورها را در قطب‌های بزرگ استعداد مانند هند مجبور خواهد کرد با ابعاد اخلاقی و حقوقی نظارت الگوریتمی در محیط کار روبرو شوند.