Meta Platforms, şirketin yapay zeka destekli işten çıkarma sisteminin engelli çalışanları ve tıbbi izinde olanları hedef aldığını iddia eden 26 eski çalışan tarafından dava ediliyor. Oakland'daki bir federal mahkemede sunulan şikâyet dilekçesinde, otomatik puanlama araçlarının işten çıkarma kararlarına yön verdiği ve yapay zekanın iş gücü azaltmalarında nasıl kullanıldığına dair türünün ilk örneği olan bir hukuki emsal teşkil edebileceği iddia ediliyor.

Davanın temel iddiaları

Davacılar, Meta'nın çalışanları işten çıkarmak için sıralama yapmak amacıyla dahili yapay zeka asistanları kullandığını söylüyor. Bir büyük dil modeli yardımcısı ve iletişimi ile belgeleri izleyen, çalışanlar tarafından eğitilmiş bir diğer "ikinci beyin" (second brain) aracı, verileri bir üretkenlik puanı algoritmasına aktarıyor. Dilekçede, algoritmanın; tuş vuruşları, ekran görüntüleri, e-posta içeriği ve tarayıcı geçmişi gibi ham aktivitelerin yanı sıra "üretkenlik puanlarını" ve "yapay zeka token kullanımını" değerlendirdiği belirtiliyor. Tıbbi izne ayrılan veya sağlık durumları nedeniyle düzenlemelere ihtiyaç duyan çalışanlar, metriklerin azalan dijital aktivitelerini yansıtamaması nedeniyle cezalandırıldı.

Davacılar arasında California ve New York da dahil olmak üzere altı eyalet temsil ediliyor. Şikâyet dilekçesinde, yapay zeka tabanlı sürecin federal ayrımcılık karşıtı yasaları ile hamile çalışanlar, engelliler ve koruma altındaki tıbbi izindeki çalışanlara yönelik eyalet korumalarını ihlal ettiği savunuluyor. Ayrıca Meta, son dönemde California ve New York City iş kurallarının algoritmik karar verme süreçlerine getirdiği yeni teknoloji uyumluluk gerekliliklerini görmezden gelmekle de suçlanıyor.

Çalışanlar, dava özel tahkim yoluyla devam ederken mahkemenin daha fazla işten çıkarmayı durdurmasını istiyor. İhtiyati tedbir kararının, Meta'nın sisteminin temelden taraflı olduğuna dair iddialarını sürdürürken ek zararları önlemek için gerekli olduğunu belirtiyorlar.

Dava neden önemli?

Eğer bir mahkeme, bir yapay zeka aracının hukuka aykırı ayrımcılığa katkıda bulunduğuna karar verirse, bu karar teknoloji şirketlerini dahili analitik sistemlerini nasıl inşa ettikleri ve uyguladıkları konusunda köklü değişiklikler yapmaya zorlayabilir. Şirketlerin, personel işlemlerinde algoritmik puanları kullanmadan önce muhtemelen yanlılık denetimleri yapmaları, model test prosedürlerini belgelemeleri ve daha net bir insan denetimi sağlamaları gerekecektir. Meta için bir kayıp, onlarca çalışan için geriye dönük tazminat ve dahili HR teknoloji yığınının (technology stack) maliyetli bir şekilde yeniden tasarlanması anlamına gelebilir.

Riskler Meta'nın bilançosunun ötesine geçiyor. Amerika Birleşik Devletleri genelindeki işverenler, özellikle büyük ölçekli küçülme dönemlerinde performans verilerini ayıklamak için giderek daha fazla yapay zekaya yöneliyor. Algoritmik yanlılığı doğrudan ayrımcılık yasalarının ihlali olarak kabul eden bir emsal, bir dava dalgası başlatabilir ve düzenleyicileri insan kaynaklarında şeffaf yapay zeka kullanımı konusundaki kılavuzları sıkılaştırmaya itebilir.

Meta ne diyor?

Meta sözcüsü, iş gücü kararlarını otomatik sistemlerin değil, insanların verdiğini belirterek suçlamaları reddetti. Yanıt, kullanılan yapay zeka araçlarının yönetsel muhakemenin yerini almak için değil, ona yardımcı olmak amacıyla tasarlandığını vurguluyor. Meta ayrıca, şirketin bu tür teknolojileri sorumlu bir şekilde nasıl entegre edeceğini hâlâ öğrenmekte olduğunu ima ederek, yapay zeka yatırımlarına yönelik son stratejik dönüşümüne dikkat çekiyor.

Son işten çıkarmaların arka planı

Dava, Meta'nın Mayıs ayında küresel personelinin yaklaşık %10'unu —yaklaşık 8.000 iş kolunu— azaltmasının ardından geldi. Bu kesinti dalgası, işi yapay zeka ürün ve hizmetlerine yeniden odaklamayı amaçlayan daha geniş kapsamlı bir yeniden yapılandırmanın parçasıydı. CEO Mark Zuckerberg, mevcut yıl için şirket genelinde başka bir işten çıkarma planlanmadığını kamuoyuna açıklamıştı; ancak bu açıklama, şimdi önceki kesintilerin halihazırda algoritmik yanlılıkla lekelendiğini iddia eden hukuki meydan okumanın yanında duruyor.

Potansiyel sonuçlar ve sonraki adımlar

Bir ihtiyati tedbir kararı, dava süresince Meta'yı manuel inceleme süreçlerine geri dönmeye zorlayarak bekleyen veya gelecekteki tüm işten çıkarmaları durdurabilir. Eğer mahkeme nihayetinde yapay zeka araçlarının ayrımcılık karşıtı yasaları ihlal ettiğine karar verirse, Meta şunları yapmak zorunda kalabilir:

  • Etkilenen çalışanlara geriye dönük ödeme ve diğer tazminatları sağlamak.
  • Yapay zeka sistemlerinin bağımsız denetimlerini gerçekleştirmek.
  • Algoritmik karar verme süreçleri için yeni yönetişim yapıları uygulamak.

Aksine, mahkeme Meta'nın insan yöneticilerin nihai yetkiye sahip olduğu yönündeki argümanını kabul ederse, dava reddedilebilir veya yapay zeka uygulamaları üzerinde daha geniş bir etki yaratmadan uzlaşmayla sonuçlanabilir.

Her iki tarafın da teknik delillerin kabul edilebilirliği konusunda itiraz dilekçeleri vermesi muhtemeldir. "Verimlilik puanlarının" nasıl hesaplandığı ve ayrımcı etkiyi (disparate impact) önlemek için kalibre edilip edilemeyeceği konusunda uzman tanıklığı bekleniyor. Davaya katılabilen veya yeni teknoloji odaklı yasalarla uyum konusunda paralel soruşturmalar başlatabilecek eyalet çalışma kurumlarından gelecek başvuruları takip edin.

Daha geniş kapsamlı tartışma

Bu başvuru, istihdam durumunu etkileyen yapay zeka araçlarının şeffaf olmamasını sorgulayan çalışan gruplarının artan sesine bir yenisini ekliyor. Şirketler verimlilik artışlarını öne çıkarırken, eleştirmenler titiz testler yapılmadığı takdirde modellerin eğitim verilerinde bulunan mevcut önyargıları devralabileceği ve büyütebileceği konusunda uyarıyor. Bu dava, mahkemelerin iş hukuku ile makine öğrenimi teknolojisinin kesişimini nasıl yorumlayacağını şekillendirerek gelecekteki anlaşmazlıklar için bir referans noktası haline gelebilir.

Özetle: Oakland davasının sonucu, yapay zekanın işten çıkarmalar için karar verme sürecinde güvenle yer alıp alamayacağını veya yasaların, bir çalışanın işine son veren her türlü işlem için tamamen insan odaklı süreçlere geri dönülmesini zorunlu kılıp kılmayacağını belirleyecek.