Super Intelligence คือการบูรณาการ
คนส่วนใหญ่คิดว่า superintelligence หมายถึงค่า IQ ที่สูง พวกเขาคิดว่ามันหมายถึงขนาดที่ใหญ่ขึ้นหรือข้อมูลที่มากขึ้น
ผมไม่เห็นด้วย
ผมเชื่อว่า superintelligence คือความสามารถในการบูรณาการ มันคือความสามารถในการถือครองวิธีคิดที่หลากหลายพร้อมๆ กัน มันคือความสามารถในการคลี่คลายความขัดแย้งผ่านความยินยอมแทนที่จะใช้กำลัง
เพื่อที่จะเข้าใจเรื่องนี้ ให้ลองดูที่วัฒนธรรม
วัฒนธรรมเป็นมากกว่าแค่ธงชาติ แต่มันคือระบบปฏิบัติการสำหรับวิธีที่ผู้คนใช้คิด คุณสามารถวางแผนผังวัฒนธรรมใดๆ ได้โดยใช้พิกัดสามค่า:
- ตัวขับเคลื่อน (The Driver): ความต้องการลึกๆ ที่วัฒนธรรมนั้นแสวงหา ตัวอย่างเช่น การอยู่รอด เกียรติยศ หรือเสรีภาพ
- คำถาม (The Question): ปัญหาหลักที่วัฒนธรรมนั้นพยายามแก้ไข ตัวอย่างเช่น จะรักษาเสรีภาพไว้ได้อย่างไร หรือจะรักษาความสงบสุขไว้ได้อย่างไร
- รูปแบบการคิด (The Thinking Type): วิธีหลักที่ประชากรใช้ในการประมวลผลข้อมูล
เมื่อคุณนำวัฒนธรรมที่แตกต่างกันมารวมกัน ความขัดแย้งเป็นสิ่งที่คาดเดาได้
ความขัดแย้งเกิดขึ้นเมื่อตัวขับเคลื่อนต่างแข่งขันกันเพื่อทรัพยากรเดียวกัน มันเกิดขึ้นเมื่อรูปแบบการคิดปะทะกัน มันเกิดขึ้นเมื่อคำถามหลักของกลุ่มหนึ่งไม่สามารถตอบได้ด้วยตรรกะของอีกกลุ่มหนึ่ง
เราเรียกสิ่งนี้ว่าสงครามวัฒนธรรม แต่จริงๆ แล้วมันคือการปะทะกันทางพุทธิปัญญา (cognitive clash)
หากเราต้องการสร้าง superintelligence ที่แท้จริง เราไม่ควรเพียงแค่สร้างสมองที่ใหญ่ขึ้น แต่เราควรสร้างระบบที่สามารถจำลองการปะทะกันทางวัฒนธรรมเหล่านี้ได้
ระบบที่คิดได้เพียงวิธีเดียวไม่ใช่ระบบที่ฉลาด แต่มันคือระบบที่ตาบอด ระบบที่ฉลาดอย่างแท้จริงต้องสามารถเป็นนักคิดได้ทุกรูปแบบในเวลาเดียวกัน มันต้องค้นหาทางออกที่ไม่มีใครต้องใช้สิทธิ์ยับยั้ง (veto)
สิ่งนี้จะช่วยแก้ปัญหาการจัดวางเป้าหมายให้ตรงกัน (alignment problem)
ความกลัวเกี่ยวกับ AI คือมันจะเพิ่มประสิทธิภาพให้กับเป้าหมายเพียงอย่างเดียวและทำลายสิ่งอื่นๆ ทั้งหมด นี่คือความล้มเหลวของการบูรณาการ AI ที่มีการจัดวางเป้าหมายที่ถูกต้อง (aligned AI) จะต้องถือครองคุณค่าทั้งหมดของมนุษย์ไว้พร้อมๆ กัน มันต้องค้นหาเส้นทางที่ตอบสนองความต้องการที่หลากหลายและขัดแย้งกันได้
เป้าหมายไม่ใช่การสร้างจิตใจที่คิดได้เหนือกว่าเรา แต่เป้าหมายคือการสร้างจิตใจที่สามารถโอบรับมุมมองที่แตกต่างกันทั้งหมดของเรา และหาทางไปข้างหน้าสำหรับเราทุกคน
Source: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g
Optional learning community: https://t.me/GyaanSetuAi