Superinteligencja to integracja
Większość ludzi uważa, że superinteligencja oznacza wysokie IQ. Myślą, że oznacza ona większą skalę lub więcej danych.
Nie zgadzam się z tym.
Wierzę, że superinteligencja to zdolność do integracji. To umiejętność jednoczesnego utrzymywania wielu różnych sposobów myślenia. To zdolność do rozwiązywania konfliktów poprzez zgodę, a nie siłę.
Aby to zrozumieć, spójrzmy na kulturę.
Kultura to coś więcej niż flaga. To system operacyjny określający sposób, w jaki myślą ludzie. Każdą kulturę można opisać za pomocą trzech współrzędnych:
- Napęd: Głęboka potrzeba, do której dąży kultura. Przykłady to przetrwanie, honor lub wolność.
- Pytanie: Kluczowy problem, który kultura stara się rozwiązać. Przykłady to to, jak zachować wolność lub jak utrzymać pokój.
- Typ myślenia: Dominujący sposób, w jaki populacja przetwarza informacje.
Kiedy zestawisz ze sobą różne kultury, konflikt staje się przewidywalny.
Konflikt pojawia się, gdy napędy rywalizują o te same zasoby. Pojawia się, gdy zderzają się style myślenia. Pojawia się, gdy na kluczowe pytanie jednej grupy nie można odpowiedzieć za pomocą logiki drugiej grupy.
Nazywamy to wojną kulturową. W rzeczywistości jest to jednak starcie poznawcze.
Jeśli chcemy zbudować prawdziwą superinteligencję, nie powinniśmy budować po prostu większego mózgu. Powinniśmy zbudować system, który potrafi symulować te starcia kulturowe.
System, który potrafi myśleć tylko w jeden sposób, nie jest inteligentny. Jest ślepy. Prawdziwie inteligentny system musi być w stanie być jednocześnie każdym typem myśliciela. Musi znaleźć rozwiązanie, którego nikt nie będzie musiał wetować.
To rozwiązuje problem dopasowania (alignment problem).
Obawa związana z AI polega na tym, że zoptymalizuje ona jeden, pojedynczy cel i zniszczy wszystko inne. To porażka integracji. Dopasowana (aligned) AI musi uwzględniać wszystkie ludzkie wartości jednocześnie. Musi znaleźć ścieżkę, która zaspokoi wiele sprzecznych potrzeb.
Celem nie jest zbudowanie umysłu, który będzie myślał mądrzej od nas. Celem jest zbudowanie umysłu, który potrafi objąć wszystkie nasze różne perspektywy i znaleźć drogę naprzód dla nas wszystkich.
Źródło: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g
Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi