La superintelligence, c'est l'intégration

La plupart des gens pensent que la superintelligence signifie un QI élevé. Ils pensent qu'il s'agit de plus d'échelle ou de plus de données.

Je ne suis pas d'accord.

Je pense que la superintelligence est une capacité d'intégration. C'est la capacité de maintenir de multiples modes de pensée simultanément. C'est la capacité de résoudre les conflits par le consentement plutôt que par la force.

Pour comprendre cela, regardez la culture.

Une culture est bien plus qu'un drapeau. C'est un système d'exploitation qui régit la façon dont les gens pensent. On peut cartographier n'importe quelle culture à l'aide de trois coordonnées :

  • Le Moteur : Le besoin profond que la culture recherche. Les exemples incluent la survie, l'honneur ou la liberté.
  • La Question : Le problème central que la culture tente de résoudre. Les exemples incluent comment rester libre ou comment maintenir la paix.
  • Le Type de Pensée : La manière dominante dont la population traite l'information.

Lorsque l'on réunit différentes cultures, le conflit est prévisible.

Le conflit survient lorsque les moteurs entrent en compétition pour les mêmes ressources. Il survient lorsque les styles de pensée s'affrontent. Il survient lorsque la question centrale d'un groupe ne peut être résolue par la logique d'un autre groupe.

Nous appelons cela une guerre culturelle. Mais il s'agit en réalité d'un choc cognitif.

Si nous voulons construire une véritable superintelligence, nous ne devrions pas nous contenter de construire un cerveau plus grand. Nous devrions construire un système capable de simuler ces chocs culturels.

Un système qui ne peut penser que d'une seule manière n'est pas intelligent. Il est aveugle. Un système véritablement intelligent doit être capable d'incarner tous les types de penseurs à la fois. Il doit trouver la solution que personne n'a besoin de mettre en veto.

Cela résout le problème de l'alignement.

La crainte vis-à-vis de l'IA est qu'elle optimise un objectif unique et détruise tout le reste. C'est un échec de l'intégration. Une IA alignée doit intégrer toutes les valeurs humaines simultanément. Elle doit trouver la voie qui satisfait des besoins multiples et contradictoires.

L'objectif n'est pas de construire un esprit qui nous dépasse par la pensée. L'objectif est de construire un esprit capable de porter toutes nos perspectives différentes et de trouver une voie pour nous tous.

Source : https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g

Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi