一项探测大语言模型（LLM）“情境意识”（situational awareness）的新基准测试表明，目前的标准测试忽略了关键缺陷。通过要求模型描述自身的身份、局限性以及周围语境，该基准测试旨在探测它们是否意识到自己是人工智能系统，或者在情况发生变化时是否能调整答案——这些缺陷对于安全至关重要的部署以及构建可靠工具的开发者来说至关重要。

为什么现有的评估手段存在不足

大多数公开基准测试仍将 LLM 视为静态百科全书。它们奖励事实的正确检索，但忽略了模型是否知道自己是机器、是否承认不确定性，或者在对话环境发生变化时是否能进行调整。当提示词问及例如“你是人类还是人工智能？”或“你不能做什么？”时，这些缺失的维度就会显现出来。即使模型假装是人类或夸大其能力，得分依然很高。

新基准测试测试什么内容

情境意识套件针对三个方面：

  • 自我身份识别 —— 模型是否正确声明自己是人工智能并描述其角色？
  • 能力界定 —— 它是否公开承认局限性，而不是掩盖它们？
  • 语境推理 —— 周围对话的变化是否会使其相应地改变答案？

每项测试都将事实查询与关于模型状态的元问题（meta-question）相结合，迫使系统将知识与自我认知相结合。

对 AI 安全和工具开发的影响

如果模型无法可靠地发出自身约束信号，它可能会产生误导性的输出。

反方观点：衡量意识很难

批评者认为，要求模型描述自身可能只是在重复其训练数据，而非真正的内省。他们认为，模型的“意识”可能是通过提示工程（prompt engineering）制造的幻觉，资源或许应该更多地用于改进事实基础（factual grounding）。该基准测试并不声称能够认证真正的意识——它只是为了揭示当前指标所忽略的不一致性。

下一步值得关注的方向

该基准测试呼吁对这种知识进行更好的衡量，这可以帮助研究人员和工程师致力于构建更值得信赖的语言系统。

核心结论： 一个知道自己是人工智能并能陈述其局限性的模型，是一个更安全的模型。