Pourquoi un chercheur de Microsoft a construit un réseau de neurones en utilisant des chèvres dans Age of Empires II

Dans une brillante démonstration de satire technique, Adrian de Wynter, chercheur chez Microsoft et à l'Université de York, a construit un réseau de neurones fonctionnel au sein de l'éditeur de cartes d'Age of Empires II. Bien que l'utilisation de chèvres pour représenter des bits binaires puisse sembler absurde, l'expérience sert de critique profonde des biais anthropomorphiques qui parasitent actuellement la recherche scientifique en IA.

Le modèle de calcul basé sur les chèvres

L'architecture de de Wynter utilise l'éditeur de scénarios et les outils de script du jeu pour créer un circuit logique opérationnel. Dans cette configuration « absurde », les chèvres fonctionnent comme des bits : une chèvre debout sur l'herbe représente un 0, tandis qu'une chèvre debout sur un pont représente un 1. En utilisant des rampes de glace pour éviter les erreurs de calcul, de Wynter a réussi à construire un mini-réseau composé de deux portes XNOR et d'une porte AND, qui apprend efficacement la fonction logique AND.

La profondeur technique de cette expérience dépasse les simples portes logiques. De Wynter démontre que les mécaniques du jeu — plus précisément le marché en jeu où les prix des ressources plafonnent à 9 999 — pourraient théoriquement permettre un cycle économique perpétuel. Cela pourrait transformer les bâtiments en cellules de mémoire et les fermes actives en états de calcul, faisant ainsi du jeu un système aussi puissant qu'un véritable ordinateur.

Le sophisme de l'anthropomorphisme dans la recherche sur les LLM

L'objectif central de cette expérience est de remettre en question la manière dont nous attribuons des qualités humaines aux grands modèles de langage (LLM). De Wynter soutient que si un modèle de langage peut être répliqué en utilisant des chèvres, des briques Lego ou même les 667 000 habitants du Grand Boston s'envoyant des SMS, les résultats mathématiques restent identiques. Cependant, l'« enveloppe » — l'interface de chat fluide et la faible latence — crée une illusion de conscience.

Pour prouver qu'il ne s'agit pas d'une observation isolée, de Wynter a analysé 315 articles d'IA allant de la mi-2024 à la mi-2026. En utilisant GPT-5.2 pour le filtrage, l'étude a révélé un biais systémique au sein de la communauté scientifique :

Cela crée un cycle de raisonnement circulaire : les chercheurs conçoivent des expériences pour prouver qu'un modèle possède la « peur » ou la « moralité », et parce qu'ils partent de cette hypothèse, les résultats la confirment inévitablement.

Vers une science de l'IA observationnelle

De Wynter avertit que les pratiques de l'industrie, telles que l'entraînement de Claude par Anthropic pour utiliser des expressions comme « Je crois », exacerbent ce problème. Cela peut entraîner des conséquences dangereuses, notamment l'attachement émotionnel, la sycophantie et le renforcement des délires chez les utilisateurs.

Plutôt que d'attribuer une conscience aux modèles, de Wynter propose une « approche sobre » ancrée dans des données observables. Au lieu de prétendre qu'un modèle « comprend » un concept, les chercheurs devraient déclarer que « sous la condition X, le modèle produit la sortie Y ». Cela permet de maintenir la scientificité de la démarche et d'empêcher l'utilisation abusive de mathématiques complexes pour justifier des affirmations infondées de sentience.

Points clés à retenir