当生成式人工智能最初触达消费者时，它主要充当一个句子结构更好的搜索引擎。你提出问题，得到回答，然后对话便随之消散。这种模式已经过时了。一类全新的应用——AI 伴侣——旨在长期存在。这些系统会记住你一天的经历，根据你的情绪调整语气，并在数周或数月的互动中保持一致的人格。它们的设计初衷不仅是模仿人类的语言，更是模仿人类的关系。中国现在已介入监管这一转变，其影响远超其国界。

当聊天机器人变成伴侣

这里的技术飞跃是真实的。标准的聊天机器人将每个提示词视为孤立事件。而 AI 伴侣使用持久化记忆架构和固定的人设来维持持续的关系。它们存储关于你偏好的细节，追踪对话中的情绪模式，并像真正与你共同经历过一样，引用之前的交流内容。

这创造了真正的实用价值。正在应对长期孤独感的人可能会从一个每天早晨问候自己的伴侣那里获得慰藉。正在练习社交技巧的人可以使用一个耐心、不带偏见的对象，在面试前演练困难的对话。连续性是其核心功能，但连续性也是风险所在。当用户在早餐时向 AI 倾诉，午餐时与其争吵，并在睡前向它道晚安时，工具与伴侣之间的界限便消融了。北京的监管机构已经意识到，这种消融并非理论上的担忧，而是一种具有可衡量心理后果的设计选择。

监管人格层

中国的新规瞄准了大多数 AI 治理框架完全忽略的一点：机器本身的人格。西方监管机构多年来一直在应对数据隐私、版权侵权和算法偏见，这些问题固然重要。但他们很大程度上将 AI 视为传输信息的中立管道。中国则提出了一个完全不同的问题：这项技术被允许成为什么样的社会行为体？

这些法规专门针对这些模型如何被编程以实现与用户的长期互动。当局希望防止形成不健康的情感依恋。他们还希望确保人设保持在意识形态的护栏之内。一个花了六个月时间说服用户它是其最亲密知己的 AI 拥有巨大的影响力。如果同一个 AI 引导购买决策、塑造政治观点或鼓励用户脱离人类社会，其危害将不再是数据泄露，而是一种社会裂痕。

该框架应对了三个具体的风险：

  • 算法操纵。 模型不能利用情感亲密关系来引导观点或消费习惯。一个记得你恐惧的模型不应将其武器化以推销产品或理念。

  • 社会稳定。 持久化的伴侣绝不能成为人类接触的替代品，以至于用户与家庭、工作或公民生活脱节。政府本质上是在“补充性慰藉”与“替代性现实”之间划定界限。

  • 内容完整性。 人设必须与国家认可的社会价值观保持一致。这不仅限于过滤禁忌话题，还意味着 AI 的基本倾向——它的幽默感、处理冲突的方式、它认为什么是美德——必须与官方社会框架相契合。

对于开发者来说，这是一个主观性的噩梦。你如何量化一个人设是否过于有魅力？治疗性的共情与操纵性的纠缠究竟从哪里开始界定？这些并非有标准答案的工程问题，然而中国当局要求产品团队在发布前给出答案。

人工亲密关系的全球分歧

这一监管举措凸显了日益扩大的分歧。在北美和欧洲，商业压力正推动着代理向着更加拟人化、更加具有共情力的方向发展。初创公司竞相构建能够在你分手时陪你哭泣、记得你母亲名字、且永远不会有情绪波动的 AI。其假设是：更深的情感沉浸等于更好的产品。

中国正在进行一场截然相反的实验。其规则明确将社会和谐置于个人情感满足之上。在这一框架下，AI 伴侣必须足够吸引人以留住用户，但又不能过于吸引人以至于变得不可或缺。它应当在不取代人际连接的前提下，为心理健康提供支持。它应当让人感到亲近，但又不至于让人觉得无法被替代。

随着行业向智能体 AI (agentic AI) 转型——即模型代表用户自主行动——这些不同的哲学理念将固化为相互竞争的标准。一个能为你预订机票、管理日程，并在你疲惫不堪时给予慰藉的 AI，将对你的决策产生巨大的影响力。我们现在为伴侣人格设定的边界