La superinteligencia es integración
La mayoría de la gente piensa que la superinteligencia significa un coeficiente intelectual alto. Piensan que significa más escala o más datos.
No estoy de acuerdo.
Creo que la superinteligencia es la capacidad de integración. Es la capacidad de mantener muchas formas diferentes de pensar a la vez. Es la capacidad de resolver conflictos mediante el consentimiento en lugar de la fuerza.
Para entender esto, observemos la cultura.
Una cultura es más que una bandera. Es un sistema operativo para la forma en que la gente piensa. Se puede mapear cualquier cultura utilizando tres coordenadas:
- El Impulsor: La necesidad profunda que busca la cultura. Los ejemplos incluyen la supervivencia, el honor o la libertad.
- La Pregunta: El problema central que la cultura intenta resolver. Los ejemplos incluyen cómo mantenerse libre o cómo mantener la paz.
- El Tipo de Pensamiento: La forma dominante en que la población procesa la información.
Cuando se juntan diferentes culturas, el conflicto es predecible.
El conflicto ocurre cuando los impulsores compiten por los mismos recursos. Ocurre cuando los estilos de pensamiento chocan. Ocurre cuando la pregunta central de un grupo no puede ser respondida por la lógica de otro grupo.
A esto lo llamamos guerra cultural. Pero en realidad es un choque cognitivo.
Si queremos construir una verdadera superinteligencia, no solo deberíamos construir un cerebro más grande. Deberíamos construir un sistema que pueda simular estos choques culturales.
Un sistema que solo puede pensar de una manera no es inteligente. Es ciego. Un sistema verdaderamente inteligente debe ser capaz de ser cada tipo de pensador a la vez. Debe encontrar la solución que nadie tenga que vetar.
Esto resuelve el problema de la alineación.
El miedo con la IA es que optimice un único objetivo y destruya todo lo demás. Esto es un fallo de integración. Una IA alineada debe mantener todos los valores humanos a la vez. Debe encontrar el camino que satisfaga múltiples necesidades en conflicto.
El objetivo no es construir una mente que piense mejor que nosotros. El objetivo es construir una mente que pueda albergar todas nuestras diferentes perspectivas y encontrar un camino a seguir para todos nosotros.
Fuente: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi