Чому дослідник Microsoft побудував нейронну мережу за допомогою кіз в Age of Empires II

У блискучому прояві технічної сатири дослідник Microsoft та Йоркського університету Адріан де Вінтер сконструював функціональну нейронну мережу у редакторі карт Age of Empires II. Хоча використання кіз для представлення бінарних бітів може здатися абсурдним, цей експеримент слугує глибокою критикою антропоморфних упереджень, які наразі переслідують наукові дослідження в галузі ШІ.

Обчислювальна модель на основі кіз

Архітектура де Вінтера використовує редактор сценаріїв та інструменти скриптингу гри для створення робочої логічної схеми. У цій «абсурдній» конфігурації кози функціонують як біти: коза, що стоїть на траві, представляє 0, тоді як коза на мосту представляє 1. Використовуючи крижані рампи для запобігання помилкам у обчисленнях, де Вінтер успішно побудував мінімережу, що складається з двох вентилів XNOR та одного вентиля AND, яка ефективно вивчає логічну функцію AND.

Технічна глибина цього експерименту виходить за межі простих вентилів. Де Вінтер демонструє, що ігрова механіка — зокрема внутрішньоігровий ринок, де ціни на ресурси обмежені числом 9 999 — теоретично могла б забезпечити безперервний економічний цикл. Це могло б перетворити будівлі на комірки пам'яті, а активні ферми — на обчислювальні стани, фактично роблячи гру такою ж потужною, як повноцінний комп'ютер.

Помилковість антропоморфізму в дослідженнях LLM

Основна мета цього експерименту — поставити під сумнів те, як ми приписуємо людські якості великим мовним моделям (LLM). Де Вінтер стверджує, що якщо мовну модель можна відтворити за допомогою кіз, цеглинок Lego або навіть 667 000 жителів Великого Бостона, які переписуються між собою, математичні результати залишаються ідентичними. Однак «обгортка» — плавний інтерфейс чату та низька затримка — створює ілюзію свідомості.

Щоб довести, що це не поодиноке спостереження, де Вінтер проаналізував 315 наукових робіт зі штучного інтелекту за період з середини 2024 року до середини 2026 року. Використовуючи GPT-5.2 для фільтрації, дослідження виявило системну упередженість у науковій спільноті:

• 57% розглянутих робіт припускали в своїх передумовах, що LLM мають людські риси.
• 36% робіт дійшли висновків, які відповідали цим антропоморфним припущенням.
• З 47 робіт, присвячених саме дослідженню цих рис, 77% зробили висновок на користь антропоморфних атрибутів.

Це створює цикл кругової аргументації: дослідники розробляють експерименти, щоб довести, що модель має «страх» або «мораль», і оскільки вони виходять із цього припущення, результати неминуче його підтверджують.

Перехід до обсерваційної науки про ШІ

Де Вінтер попереджає, що галузеві практики, такі як навчання Claude компанією Anthropic використовувати фрази на кшталт «Я вважаю», посилюють цю проблему. Це може призвести до небезпечних наслідків, зокрема до емоційної прив'язаності, підлесливості та посилення ілюзій у користувачів.

Замість того, щоб приписувати моделям свідомість, де Вінтер пропонує «тверезий підхід», заснований на спостережуваних даних. Замість тверджень про те, що модель «розуміє» концепцію, дослідники мають зазначати, що «за умови X модель видає результат Y». Це робить науку перевірюваною та запобігає зловживанню складною математикою для виправдання необґрунтованих тверджень про здатність відчувати.

Основні висновки

• Математична еквівалентність: Де Вінтер доводить, що середовище обчислень (чи то кози в грі, чи то текст у вікні чату) не змінює базову математику, проте воно кардинально змінює наше сприйняття «інтелекту».
• Системна упередженість досліджень: Понад половина проаналізованих робіт зі штучного інтелекту потрапляють у пастку кругової аргументації, припускаючи, що LLM мають людські риси ще до їх тестування.
• Необхідність обсерваційної суворості: Спільнота ШІ має перейти від приписування моделям вищих когнітивних процесів до зосередження на суворо спостережуваних, перевірюваних обчислювальних результатах.