MIT araştırmacıları, yapay zeka doğrulayıcılarına bel bağlayan kişilerin sahte haberleri tespit etme konusunda daha başarısız hale geldiğini buldu. 67 katılımcıyla yapılan dört haftalık bir deneyde, yapay zeka çoğunlukla doğru cevaplar verdi, ancak aynı katılımcıların yanlış bilgiyi yargılama yeteneği azaldı.

Çalışmanın önemi

Doğrulama araçları artık her tarayıcı araç çubuğunda karşımıza çıkıyor. Vaat basit: bir algoritma size bir başlığın veya görselin gerçek olup olmadığını söylüyor ve sizin hiç düşünmeden yolunuza devam etmenize olanak tanıyor. Eğer teknoloji, yerine geçmeyi amaçladığı beceriyi de aşındırıyorsa, sağladığı net fayda çarpıcı biçimde azalır. İddiaları bağımsız olarak değerlendiremeyen bir toplum, ağır iş yükünü bir makine üstleniyor gibi görünse bile manipülasyona karşı daha savunmasız hale gelir.

Deney nasıl ilerledi

Araştırmacılar katılımcılara gerçek ve uydurma haberlerden oluşan bir karışım sundu. Çoğu zaman doğru cevap verebilecek kadar isabetli olan bir yapay zeka sistemi, her bir haber için ikili bir hüküm verdi. İki şeyi takip ettiler: yapay zekanın doğruluğu ve yapay zekaya danışılmadığında katılımcıların kendi yargıları.

Yapay zekanın yanıtları kendinden emindi ancak sistemin sonucuna nasıl vardığına dair herhangi bir açıklama içermiyordu. Haftalar geçtikçe, yapay zekanın cevabını düzenli olarak kabul eden katılımcılar kendi eleştirel yetilerini kullanmayı bıraktılar.

Bulgular ne anlama geliyor

  • Beceri körelmesi: Tıpkı bir GPS'in sürücünün yön duygusunu köreltebilmesi gibi, anında cevaplar sunan bir yapay zeka da kullanıcının analitik kaslarını zayıflatabilir.
  • Azalan zihinsel çaba: "Hızlı cevapların" sağladığı kolaylık, yanlış bilgilere karşı direnç oluşturan derin muhakeme sürecini engeller.
  • Aşırı güvenme potansiyeli: Eğer birçok kişi aynı alışkanlığı edinirse, yalanları tespit etme konusundaki kolektif yetenek azalabilir ve bu da toplumun kurgulanmış anlatılarla yönlendirilmesini kolaylaştırabilir.

Not edilmeye değer bir karşı görüş

Çalışmada kullanılan yapay zeka isabetliydi ve pek çok kişi doğru bir cevabın tahminden daha iyi olduğunu savunacaktır. Araştırmacılar yapay zekanın yararsız olduğunu iddia etmiyor; eleştirel olmayan bir güvene karşı uyarıyorlar.

Yargı yeteneğinizi nasıl keskin tutarsınız

Araştırmacılar, yapay zekaya bir yargıçtan ziyade bir antrenman partneri gibi davranılmasını öneriyor. Cevabı doğrudan kabul etmek yerine, sistemden şunları isteyin:

  • Akıl yürütme sürecini adım adım göstermesini.
  • İddianın karşıt tarafını savunmasını.
  • Cevabını yanlış kılacak koşulları belirlemesini.

Basit bir alışkanlık —bir yapay zekaya güvenmeden önce durup "Bu cevabı ne yanlış kılardı?" diye sormak— beynin aktif kalmasını sağlar. Çaba küçük olabilir ancak bağımsız doğrulama becerisini korur.

Bundan sonra neye dikkat edilmeli

Çıkarılması gereken ders açık: Yapay zeka yanlış bilgileri tespit etmenize yardımcı olabilir, ancak bunu ancak kendi eleştirel düşüncenizi direksiyonda tutarsanız yapabilir.