In the Weights：新工具揭示你在 AI 模型中的数字存在感

你是否曾好奇过，你的个人身份是否已被刻入全球最强大的 AI 神经网络之中？一个名为“In the Weights”的新平台正在通过衡量特定个体在大型语言模型（LLM）中的嵌入深度，为这个问题提供定量的答案。

解码知识的“权重”

大型语言模型的工作方式不同于传统数据库；它们通过被称为“权重”（weights）的数十亿个数值来存储信息。这些权重编码了模型在海量训练阶段所学到的模式和事实。当一个人的信息出现在这些权重中时，意味着模型认为其具有足够的关联性，能够自发地回忆起关于该人物的信息，而无需进行实时网页搜索或使用 RAG（检索增强生成）工具。

“In the Weights”由前 OpenAI 员工 Joey Flynn 和 Thomas Dimson 开发，它通过系统地查询各种模型，来识别特定姓名是否会触发连贯的人物传记式响应。随后，该平台会汇总这些发现，为个人分配一个“强度评分”（strength score），从而有效地映射出他们在人工智能潜空间（latent space）中的知名度水平。

通过强度评分衡量知名度

该平台使用一套复杂的评分系统，来区分偶然提及与核心训练数据之间的区别。为了提供背景参考，开发者建立了一个相关性光谱：

• 低水平存在： 大多数普通个人都会得到较低的分数。
• 高水平存在： 即使出现在较小的模型中（例如拥有 10 亿参数的 Meta Llama），也表明具有高度相关性。
• 最高相关性： 996 的最高强度评分仅保留给莫扎特、威廉·莎士比亚或泰勒·斯威夫特等全球偶像。

通过测试多个模型并结合结果，该工具提供了一种超越简单“是或否”回答的衡量标准，为一个人在 AI 生态系统中承载了多少“权重”提供了细致入微的视角。

局限性与幻觉挑战

虽然该工具为人们窥探 AI 记忆提供了一个迷人的视角，但开发者也迅速强调了 LLM 固有的技术障碍。其中一个主要风险是“幻觉”（hallucination），即模型可能会自信地编造一个并不存在的人的传记细节，或者错误地归属事实。

此外，强度评分（strength score）的准确性对输入质量非常敏感；简单的拼写错误就可能显著降低评分，而常见姓名往往会产生模糊的结果，因为模型难以区分同名同姓的不同个体。这凸显了使用概率模型来衡量客观传记事实的复杂性。

为什么这对于 AI 领域至关重要

随着 AI 模型成为信息检索的主要接口，了解它们“默认知道什么”变得至关重要。对于开发者和研究人员而言，“In the Weights”突显了模型规模与数据密度之间的张力。它还提出了关于隐私以及在我们的数字身份正被“刻入”专有模型永久数值权重这一时代的“被遗忘权”的重要问题。

核心要点

• 量化 AI 记忆： “In the Weights”使用强度评分（最高可达 996）来衡量个人的身份在模型权重中编码的深度。
• 相关性基准： 出现在像 Meta 的 Llama 这样较小的、参数高效的模型中，表明其与模型的训练数据具有高度相关性。
• 技术限制： 该工具必须应对常见的 LLM 陷阱，包括幻觉、姓名歧义以及对拼写错误的敏感性。