Superintelligentie is integratie

De meeste mensen denken dat superintelligentie een hoog IQ betekent. Ze denken dat het meer schaal of meer data betekent.

Ik ben het daar niet mee eens.

Ik geloof dat superintelligentie de capaciteit tot integratie is. Het is het vermogen om tegelijkertijd vele verschillende manieren van denken vast te houden. Het is het vermogen om conflicten op te lossen door middel van instemming in plaats van dwang.

Om dit te begrijpen, kijk naar cultuur.

Een cultuur is meer dan een vlag. Het is een besturingssysteem voor hoe mensen denken. Je kunt elke cultuur in kaart brengen met behulp van drie coördinaten:

  • De drijfveer: De diepe behoefte die de cultuur nastreeft. Voorbeelden zijn overleving, eer of vrijheid.
  • De vraag: Het kernprobleem dat de cultuur probeert op te lossen. Voorbeelden zijn hoe je vrij blijft of hoe je de vrede bewaart.
  • Het denktype: De dominante manier waarop de bevolking informatie verwerkt.

Wanneer je verschillende culturen bij elkaar brengt, is conflict voorspelbaar.

Conflict ontstaat wanneer drijfveren concurreren om dezelfde middelen. Het ontstaat wanneer denkstijlen botsen. Het ontstaat wanneer de kernvraag van de ene groep niet beantwoord kan worden door de logica van de andere groep.

We noemen dit een cultuuroorlog. Maar het is in feite een cognitieve botsing.

Als we echte superintelligentie willen bouwen, moeten we niet alleen een groter brein bouwen. We moeten een systeem bouwen dat deze culturele botsingen kan simuleren.

Een systeem dat maar op één manier kan denken, is niet intelligent. Het is blind. Een werkelijk intelligent systeem moet in staat zijn om tegelijkertijd elk type denker te zijn. Het moet de oplossing vinden waar niemand een veto over hoeft uit te spreken.

Dit lost het alignment-probleem op.

De angst bij AI is dat het één enkel doel zal optimaliseren en de rest zal vernietigen. Dit is een falen van integratie. Een aligned AI moet alle menselijke waarden tegelijkertijd vasthouden. Het moet het pad vinden dat aan meerdere, tegenstrijdige behoeften voldoet.

Het doel is niet om een geest te bouwen die ons te slim af is. Het doel is om een geest te bouwen die al onze verschillende perspectieven kan vasthouden en een weg vooruit kan vinden voor ons allemaal.

Bron: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g

Optionele leercommunity: https://t.me/GyaanSetuAi