OpenAI 的伦理负责人入职仅一年便离职，据《金融时报》报道，此举再次引发了外界对该实验室内部安全检查机制的质疑。这次离职意义重大，因为该职位本应充当公司针对风险部署的内部“刹车”机制，而该职位的突然空缺表明，这一“刹车”可能已经缺失。

离职潮的模式

此次辞职并非孤立事件。在过去的两年里，OpenAI 经历了一系列专注于安全的人员离职。2024 年，Superalignment 团队的多名成员离职。更早之前，在 2023 年的一次治理权争夺中，多名董事会成员被撤职。反复出现的主题是相同的：研究人员加入是为了维护技术安全，随后遭遇摩擦，最终选择离开。

该职位的职责本应是什么

伦理负责人负责监督部署决策、数据处理实践以及对潜在有害能力的内部审查。当该职位的负责人迅速离职时，人们不禁要问，该职位是否真的拥有实权。

人员流失的可能原因

  • 阻止发布产品的权力有限 —— 如果该职位无法强制产品团队停止发布，那么该职位就变成了象征性的，而非功能性的。
  • “速度重于安全”的压力 —— 与其他 AI 巨头的竞争创造了一种环境，即快速交付功能受到重视，而这往往是以牺牲彻底的风险评估为代价的。
  • 商业优先级掩盖了安全工作 —— 管理层可能更青睐能产生收入的项目，导致安全团队人手不足且负担过重。
  • 持续摩擦导致的职业倦怠 —— 安全倡导者与产品工程师之间反复的冲突，可能会让即使是最投入的研究人员也感到精疲力竭。

这些因素反映了更广泛的行业紧张关系：实验室奖励那些交付新功能的人，而那些标记危险的人有时会被视为障碍。

反方观点：内部保障机制可能依然存在

OpenAI 尚未公开详细说明其伦理负责人的权限，公司也未就此次辞职发表声明。其他内部机制——例如跨职能安全审查或外部顾问委员会——可能仍在发挥作用。然而，在缺乏其有效性的具体证据之前，这一职位的空缺仍留下了明显的缺口。

此次离职对 OpenAI 之外的影响

如果一家营利性 AI 实验室无法留住一名伦理负责人超过一年，那么在商业企业内部嵌入安全专家的模式似乎是脆弱的。以实现更安全 AI 为承诺而成立的 Anthropic 也报告了类似的压力，即使是拥有雄厚资源的更大规模公司，也记录了伦理部门与产品部门之间的摩擦。

什么可以改变这一局面

  • 具有监管权力的独立审计员 —— 由能够强制执行合规要求的外部机构负责，而非依赖内部的自觉。
  • 法律强制要求的安全评估 —— 要求在发布任何新模型之前，必须进行记录在案的风险分析。
  • 更强大的举报人保护机制 —— 为员工提供保障，让他们在提出疑虑时无需担心遭到报复。
  • 安全风险的公开披露 —— 通过透明化，让外部专家和公众能够看到已识别出的风险。
  • 脱离利润动机的安全研究资助 —— 通过拨款或公共融资，使安全工作不受产品交付期限的影响。

下一步值得关注的动向

当一名伦理领导者无法留任超过一年时，其底层的组织结构就会受到质疑。在产品野心与安全责任之间的权力动态得到重塑之前，人才流失的循环很可能会重复出现。接下来的几个月将表明，OpenAI 以及更广泛的 AI 社区是否能够打破这一模式。