Почему исследователь Microsoft построил нейронную сеть, используя коз в Age of Empires II

В блестящем проявлении технической сатиры исследователь Microsoft и Йоркского университета Адриан де Винтер (Adrian de Wynter) сконструировал функциональную нейронную сеть внутри редактора карт Age of Empires II. Хотя использование коз для представления бинарных битов может показаться абсурдным, этот эксперимент служит глубокой критикой антропоморфных предубеждений, которые в настоящее время преследуют научные исследования в области ИИ.

Вычислительная модель на основе коз

Архитектура де Винтера использует редактор сценариев и инструменты скриптинга игры для создания работающей логической схемы. В этой «абсурдной» установке козы функционируют как биты: коза, стоящая на траве, представляет собой 0, а коза, стоящая на мосту, — 1. Используя ледяные пандусы для предотвращения ошибок вычислений, де Винтер успешно построил мини-сеть, состоящую из двух вентилей XNOR и одного вентиля AND, которая эффективно обучается логической функции AND.

Техническая глубина этого эксперимента выходит за рамки простых вентилей. Де Винтер демонстрирует, что механика игры — в частности, внутриигровой рынок, где цены на ресурсы ограничены значением 9 999, — теоретически может обеспечить непрерывный экономический цикл. Это могло бы превратить здания в ячейки памяти, а активные фермы — в вычислительные состояния, фактически делая игру такой же мощной, как полноценный компьютер.

Заблуждение об антропоморфизме в исследованиях LLM

Основная цель этого эксперимента — поставить под сомнение то, как мы приписываем человеческие качества большим языковым моделям (LLM). Де Винтер утверждает, что если языковую модель можно воспроизвести с помощью коз, деталей Lego или даже 667 000 жителей Большого Бостона, переписывающихся друг с другом, математические результаты останутся идентичными. Однако «оболочка» — плавный интерфейс чата и низкая задержка — создает иллюзию разумности.

Чтобы доказать, что это не единичное наблюдение, де Винтер проанализировал 315 научных работ по ИИ, опубликованных в период с середины 2024 по середину 2026 года. Используя GPT-5.2 для фильтрации, исследование выявило системную предвзятость в научном сообществе:

Это создает порочный круг рассуждений: исследователи проектируют эксперименты, чтобы доказать наличие у модели «страха» или «морали», и поскольку они исходят из этой предпосылки, результаты неизбежно ее подтверждают.

Переход к наблюдательной науке об ИИ

Де Винтер предупреждает, что отраслевые практики, такие как обучение Claude от Anthropic использовать фразы вроде «я считаю», усугубляют эту проблему. Это может привести к опасным последствиям, включая эмоциональную привязанность, сикофантство и укрепление заблуждений у пользователей.

Вместо того чтобы приписывать моделям сознание, Де Винтер предлагает «трезвый подход», основанный на наблюдаемых данных. Вместо утверждений о том, что модель «понимает» концепцию, исследователям следует заявлять, что «при условии X модель выдает результат Y». Это делает науку проверяемой и предотвращает использование сложной математики для обоснования необоснованных заявлений о разумности.

Основные выводы