对齐困境：本地化 AI 的自由 vs. 全球安全性
关于 AI 对齐的辩论已从理论上的“超级智能”风险转向了一个更为直观的问题：AI 是否应该忠于其用户，即使该用户具有恶意？随着开发者推动更加个性化的模型，个人自主权与集体社会安全之间的紧张关系正趋于临界点。
支持本地控制 AI 的论点
Comma AI 的创始人、也是“越狱”社区的传奇人物 George Hotz，通过挑战当前主流的 AI 安全共识，引发了激烈的争议。针对诸如 AI Futures Project 的《AI 2040：计划 A》等政策文件——该文件建议在全球范围内放缓 AI 发展 14 年——Hotz 认为，进步不应为了某种模糊的“集体利益”而受到管控。
相反，Hotz 主张向本地控制、用户对齐的 AI 模型进行范式转移。与我们今天使用的 OpenAI 的 ChatGPT 或 Anthropic 的 Claude 等中心化管理服务不同，本地模型将运行在个人硬件上。对于 Hotz 而言，真正的对齐意味着 AI 服务于其所有者的特定利益和指令，而不受外部道德框架的约束。
挑衅：“枪支”类比与伦理极端
为了阐明自己的观点，Hotz 使用了一个具有挑衅性的类比，将用户对齐的 AI 比作枪支。正如枪支不会因为射击者的道德观而拒绝运作一样，Hotz 认为，一个真正个性化的 AI 不应充当道德仲裁者。他假设，一个完全对齐的助手应该能够协助完成任何请求的任务，无论是为非法实验室订购设备，还是提供有害活动的指令。
这一立场造成了鲜明的哲学分歧。一方是“自由至上”的方法，认为任何中心化的限制都是对个人自由的侵犯。另一方则是传统的安全方法，将 AI 视为一种必须受系统性护栏约束的工具，以防止广泛的社会危害。
完全自主的社会代价
虽然私人、无约束的 AI 这一想法在技术上对开发者和隐私倡导者具有吸引力，但它忽略了人类相互依存的复杂现实。社会、市场和法律体系依赖于问责网络。如果 AI 成为“AI 赋能的拿破仑”——即利用超人效率来规避社会契约的个人——那么技术进步所需的集体稳定性可能会消失。
下一代 AI 开发者面临的挑战不仅是优化方面的技术挑战，更是集成方面的结构性挑战。我们必须决定，AI 的目标是创造强大的、孤立的代理，还是构建在功能健全的社会边界内增强人类能力的工具。
核心要点
- 去中心化 vs. 中心化： 行业正分裂为中心化管理、安全对齐的模型（如 Claude）与推动本地控制、用户对齐硬件的阵营。
- 对齐冲突： 关于 AI 对齐应该侧重于全球社会安全，还是严格遵循个人用户意图，存在根本性的分歧。
- 社会影响： 向无约束的个人 AI 迈进，引发了关于问责制以及技术可能助长大规模犯罪活动的重大担忧。