超级智能即整合

大多数人认为超级智能意味着高智商。他们认为这意味着更大的规模或更多的数据。

我不同意。

我认为超级智能是一种整合能力。它是同时容纳多种不同思维方式的能力。它是通过共识而非武力来解决冲突的能力。

要理解这一点，请观察文化。

文化不仅仅是一面旗帜。它是人们思维方式的操作系统。你可以通过三个维度来描绘任何文化：

• 驱动力 (The Driver)：文化所追求的深层需求。例如生存、荣誉或自由。
• 问题 (The Question)：文化试图解决的核心问题。例如如何保持自由或如何维持和平。
• 思维类型 (The Thinking Type)：人群处理信息的主导方式。

当你将不同的文化放在一起时，冲突是可预见的。

当驱动力竞争相同的资源时，冲突就会发生。当思维方式发生碰撞时，冲突就会发生。当一个群体的核心问题无法通过另一个群体的逻辑来回答时，冲突就会发生。

我们称之为文化战争。但它实际上是一种认知冲突。

如果我们想要构建真正的超级智能，我们不应仅仅构建一个更大的大脑。我们应该构建一个能够模拟这些文化冲突的系统。

一个只能以一种方式思考的系统并不是智能的。它是盲目的。一个真正的智能系统必须能够同时成为每一种类型的思考者。它必须找到一个无需任何人否决的解决方案。

这解决了对齐问题 (alignment problem)。

对 AI 的恐惧在于它会优化单一目标并摧毁其他一切。这是整合的失败。一个对齐的 AI 必须能够同时兼顾所有人类价值观。它必须找到一条能够满足多个冲突需求的路径。

目标不是构建一个比我们更聪明的头脑。目标是构建一个能够容纳我们所有不同观点，并为我们所有人找到前进道路的头脑。

Source: https://dev.to/razbakov/super-intelligence-first-phase-simulation-skynet-206g

Optional learning community: https://t.me/GyaanSetuAi