초지능은 통합이다
대부분의 사람들은 초지능이 높은 IQ를 의미한다고 생각합니다. 더 큰 규모나 더 많은 데이터를 의미한다고 생각하죠.
저는 동의하지 않습니다.
저는 초지능이 통합 능력이라고 믿습니다. 그것은 여러 가지 서로 다른 사고방식을 동시에 유지할 수 있는 능력입니다. 강압이 아닌 합의를 통해 갈등을 해결하는 능력입니다.
이를 이해하려면 문화를 살펴보십시오.
문화는 단순히 국기 그 이상입니다. 그것은 사람들이 생각하는 방식에 대한 운영 체제입니다. 세 가지 좌표를 사용하여 어떤 문화든 매핑할 수 있습니다.
- 동인(The Driver): 문화가 추구하는 깊은 욕구입니다. 생존, 명예, 자유 등이 그 예입니다.
- 질문(The Question): 문화가 해결하려는 핵심 문제입니다. 자유를 유지하는 방법이나 평화를 지키는 방법 등이 그 예입니다.
- 사고 유형(The Thinking Type): 인구가 정보를 처리하는 지배적인 방식입니다.
서로 다른 문화를 결합하면 갈등은 예측 가능해집니다.
갈등은 동인들이 동일한 자원을 두고 경쟁할 때 발생합니다. 사고 방식이 충돌할 때 발생합니다. 한 집단의 핵심 질문에 대해 다른 집단의 논리로 답할 수 없을 때 발생합니다.
우리는 이것을 문화 전쟁이라고 부릅니다. 하지만 실제로는 인지적 충돌입니다.
진정한 초지능을 구축하고 싶다면, 단순히 더 큰 뇌를 만드는 데 그쳐서는 안 됩니다. 이러한 문화적 충돌을 시뮬레이션할 수 있는 시스템을 구축해야 합니다.
한 가지 방식으로만 생각할 수 있는 시스템은 지능적이지 않습니다. 그것은 눈먼 것입니다. 진정으로 지능적인 시스템은 동시에 모든 유형의 사고자가 될 수 있어야 합니다. 누구도 거부권을 행사할 필요가 없는 해결책을 찾아내야 합니다.
이것이 정렬 문제(alignment problem)를 해결합니다.
AI에 대한 두려움은 AI가 단 하나의 목표만을 최적화하여 다른 모든 것을 파괴할 것이라는 점입니다. 이것은 통합의 실패입니다. 정렬된 AI는 모든 인간의 가치를 동시에 유지해야 합니다. 여러 가지 상충하는 요구를 모두 충족하는 경로를 찾아내야 합니다.
목표는 우리보다 더 뛰어난 사고를 하는 마음을 만드는 것이 아닙니다. 우리의 모든 다양한 관점을 수용하고 우리 모두를 위한 전진 방향을 찾아낼 수 있는 마음을 만드는 것입니다.
출처: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g
선택적 학습 커뮤니티: https://t.me/GyaanSetuAi