Bir Microsoft Araştırmacısı Neden Age of Empires II'de Keçileri Kullanarak Bir Sinir Ağı İnşa Etti
Teknik bir hiciv örneği olarak, Microsoft ve York Üniversitesi araştırmacısı Adrian de Wynter, Age of Empires II'nin harita editörü içerisinde işlevsel bir sinir ağı inşa etti. İkili bitleri temsil etmek için keçileri kullanmak saçma görünebilir, ancak bu deney, yapay zeka bilimsel araştırmalarını şu anda kuşatan antropomorfik önyargılara yönelik derin bir eleştiri niteliği taşıyor.
Keçi Tabanlı Hesaplama Modeli
De Wynter'ın mimarisi, çalışan bir mantık devresi oluşturmak için oyunun senaryo editörünü ve betik araçlarını kullanıyor. Bu "saçma" kurulumda keçiler bit işlevi görüyor: çim üzerinde duran bir keçi 0'ı, bir köprü üzerinde duran keçi ise 1'i temsil ediyor. Hesaplama hatalarını önlemek için buz rampalarından yararlanan de Wynter, mantıksal AND (VE) fonksiyonunu etkili bir şekilde öğrenen, iki XNOR kapısı ve bir AND kapısından oluşan mini bir ağ kurmayı başardı.
Bu deneyin teknik derinliği basit kapıların ötesine geçiyor. De Wynter, oyunun mekaniklerinin —özellikle kaynak fiyatlarının 9.999 ile sınırlandığı oyun içi pazarın— teorik olarak sürekli işleyen bir ekonomik döngüye izin verebileceğini gösteriyor. Bu durum, binaları bellek hücrelerine, aktif çiftlikleri ise hesaplama durumlarına dönüştürerek oyunu etkili bir şekilde tam teşekküllü bir bilgisayar kadar güçlü hale getirebilir.
LLM Araştırmalarında Antropomorfizm Yanılgısı
Bu deneyin temel amacı, Büyük Dil Modellerine (LLM'ler) nasıl insan benzeri nitelikler atfettiğimizi sorgulamaktır. De Wynter; eğer bir dil modeli keçiler, Lego parçaları ve hatta birbirine mesaj atan Büyük Boston'ın 667.000 sakini kullanılarak taklit edilebiliyorsa, matematiksel çıktıların aynı kalacağını savunuyor. Ancak "sarmalayıcı" (wrapper) —yani pürüzsüz sohbet arayüzü ve düşük gecikme süresi— bir bilinç illüzyonu yaratıyor.
Bunun münferit bir gözlem olmadığını kanıtlamak için de Wynter, 2024 ortasından 2026 ortasına kadar olan 315 yapay zeka makalesini analiz etti. Filtreleme için GPT-5.2 kullanan çalışma, bilimsel toplulukta sistematik bir önyargıyı ortaya çıkardı:
- İncelenen makalelerin %57'si, önermelerinde LLM'lerin insan benzeri özelliklere sahip olduğunu varsaydı.
- Makalelerin %36'sı, bu antropomorfik varsayımlarla örtüşen sonuçlara ulaştı.
- Bu özellikleri özel olarak araştıran 47 makaleden %77'si antropomorfik nitelikler lehine sonuçlandı.
Bu durum döngüsel bir akıl yürütme döngüsü yaratır: Araştırmacılar, bir modelin "korku" veya "ahlak" sahibi olduğunu kanıtlamak için deneyler tasarlar ve bu varsayımla yola çıktıkları için sonuçlar kaçınılmaz olarak bunu doğrular.
Gözlemsel Yapay Zeka Bilimine Doğru
De Wynter, Anthropic'in Claude'u "inanıyorum ki" gibi ifadeler kullanması için eğitmesi gibi sektör uygulamalarının bu sorunu derinleştirdiğine dair uyarılarda bulunuyor. Bu durum; duygusal bağlılık, dalkavukluk ve kullanıcılarda pekişen sanrılar gibi tehlikeli sonuçlara yol açabilir.
De Wynter, modellere bilinç atfetmek yerine, gözlemlenebilir verilere dayanan "ayakları yere basan bir yaklaşım" öneriyor. Bir modelin bir kavramı "anladığını" iddia etmek yerine, araştırmacılar "X koşulu altında, model Y çıktısını üretir" şeklinde ifade etmelidir. Bu, bilimi test edilebilir kılar ve temelsiz duyumsama (sentience) iddialarını haklı çıkarmak için karmaşık matematiğin kötüye kullanımını engeller.
Temel Çıkarımlar
- Matematiksel Eşdeğerlik: De Wynter, hesaplama ortamının (ister bir oyundaki keçiler ister bir sohbet penceresindeki metin olsun) temel matematiği değiştirmediğini, ancak "zeka" algımızı kökten değiştirdiğini kanıtlıyor.
- Sistematik Araştırma Yanlılığı: İncelenen yapay zeka makalelerinin yarısından fazlası, LLM'lerin test edilmeden önce insani özelliklere sahip olduğunu varsayarak döngüsel akıl yürütme tuzağına düşüyor.
- Gözlemsel Titizlik İhtiyacı: Yapay zeka topluluğu, modellere üst düzey bilişsel süreçler atfetmekten vazgeçip, kesinlikle gözlemlenebilir ve test edilebilir hesaplama çıktılarına odaklanmaya yönelmelidir.