סופר-אינטליגנציה היא אינטגרציה
רוב האנשים חושבים שסופר-אינטליגנציה פירושה IQ גבוה. הם חושבים שזה אומר יותר קנה מידה או יותר נתונים.
אני לא מסכים.
אני מאמין שסופר-אינטליגנציה היא יכולת אינטגרציה. זו היכולת להחזיק דרכים רבות ושונות של חשיבה בו-זמנית. זו היכולת לפתור קונפליקטים באמצעות הסכמה ולא באמצעות כוח.
כדי להבין זאת, הביטו בתרבות.
תרבות היא יותר מסתם דגל. היא מערכת הפעלה לאופן שבו אנשים חושבים. ניתן למפות כל תרבות באמצעות שלושה קואורדינטות:
- המניע: הצורך העמוק שהתרבות מחפשת. דוגמאות כוללות הישרדות, כבוד או חופש.
- השאלה: הבעיה המרכזית שהתרבות מנסה לפתור. דוגמאות כוללות כיצד להישאר חופשיים או כיצד לשמור על שלום.
- סוג החשיבה: הדרך הדומיננטית שבה האוכלוסייה מעבדת מידע.
כשמצמידים תרבויות שונות, הקונפליקט הוא צפוי.
קונפליקט קורה כאשר מניעים מתחרים על אותם משאבים. הוא קורה כאשר סגנונות חשיבה מתנגשים. הוא קורה כאשר לא ניתן לענות על השאלה המרכזית של קבוצה אחת באמצעות הלוגיקה של קבוצה אחרת.
אנחנו קוראים לזה מלחמת תרבות. אך למעשה, זוהי התנגשות קוגניטיבית.
אם אנחנו רוצים לבנות סופר-אינטליגנציה אמיתית, אנחנו לא צריכים רק לבנות מוח גדול יותר. אנחנו צריכים לבנות מערכת שיכולה לסמלץ את ההתנגשויות התרבותיות הללו.
מערכת שיכולה לחשוב רק בדרך אחת אינה אינטליגנטית. היא עיוורת. מערכת אינטליגנטית באמת חייבת להיות מסוגלת להיות כל סוג של חושב בו-זמנית. היא חייבת למצוא את הפתרון שאיש לא צריך להטיל עליו וטו.
זה פותר את בעיית ה-alignment.
הפחד מ-AI הוא שהוא יבצע אופטימיזציה למטרה אחת בודדת וישמיד כל דבר אחר. זהו כישלון של אינטגרציה. AI מיושר (aligned) חייב להחזיק בכל הערכים האנושיים בו-זמנית. הוא חייב למצוא את הנתיב שמספק צרכים מרובים וסותרים.
המטרה היא לא לבנות מוח שחושב טוב יותר מאיתנו. המטרה היא לבנות מוח שיכול להכיל את כל נקודות המבט השונות שלנו ולמצוא דרך קדימה עבור כולנו.
מקור: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi