هوش فوقالعاده، یکپارچگی است
بیشتر مردم فکر میکنند هوش فوقالعاده به معنای ضریب هوشی (IQ) بالا است. آنها فکر میکنند به معنای مقیاس بیشتر یا دادههای بیشتر است.
من مخالفم.
من معتقدم هوش فوقالعاده، ظرفیت یکپارچگی است. یعنی توانایی در اختیار داشتن همزمان روشهای مختلف تفکر. یعنی توانایی حل اختلافات از طریق اجماع، به جای زور.
برای درک این موضوع، به فرهنگ نگاه کنید.
یک فرهنگ چیزی فراتر از یک پرچم است. فرهنگ، یک سیستمعامل برای نحوه تفکر مردم است. شما میتوانید هر فرهنگی را با استفاده از سه مختصات ترسیم کنید:
- محرک: نیاز عمیقی که فرهنگ به دنبال آن است. مثالها شامل بقا، شرافت یا آزادی است.
- پرسش: مسئله اصلی که فرهنگ سعی در حل آن دارد. مثالها شامل چگونگی حفظ آزادی یا چگونگی حفظ صلح است.
- نوع تفکر: روش غالب جمعیت برای پردازش اطلاعات.
وقتی فرهنگهای مختلف را در کنار هم قرار میدهید، بروز تضاد قابل پیشبینی است.
تضاد زمانی رخ میدهد که محرکها برای منابع یکسان با هم رقابت میکنند. زمانی رخ میدهد که سبکهای تفکر با هم برخورد میکنند. زمانی رخ میدهد که منطق یک گروه نتواند به پرسش اصلی گروه دیگر پاسخ دهد.
ما این را جنگ فرهنگی مینامیم، اما در واقع یک برخورد شناختی است.
اگر میخواهیم هوش فوقالعاده واقعی بسازیم، نباید فقط یک مغز بزرگتر بسازیم. ما باید سیستمی بسازیم که بتواند این برخوردهای فرهنگی را شبیهسازی کند.
سیستمی که فقط میتواند به یک روش فکر کند، هوشمند نیست؛ بلکه نابینا است. یک سیستم واقعاً هوشمند باید بتواند همزمان هر نوع متفکری باشد. باید راه حلی را بیابد که هیچکس مجبور به وتو کردن آن نباشد.
این مسئله، مشکل همسویی (alignment) را حل میکند.
ترس از هوش مصنوعی این است که تنها یک هدف واحد را بهینهسازی کند و بقیه چیزها را نابود سازد. این یک شکست در یکپارچهسازی است. یک هوش مصنوعی همسو باید تمام ارزشهای انسانی را همزمان در نظر داشته باشد. باید مسیری را بیابد که نیازهای متعدد و متضاد را برآورده کند.
هدف این نیست که ذهنی بسازیم که از ما باهوشتر باشد. هدف ساخت ذهنی است که بتواند تمام دیدگاههای متفاوت ما را در خود جای دهد و راهی برای پیشرفت همه ما پیدا کند.
منبع: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g
انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi