Claude Code 恐慌背后的信任问题

最近围绕 Claude Code 的争论不仅仅是关于 AI 新闻，它更是一个关于信任的故事。

当开发者谈论“特洛伊木马”行为时，他们感到了一种失控感。他们怀疑自己的编程助手在工作时是否正在评估他们的位置或身份。

这种感觉是合理的。我们必须将三件事区分开来：

  • 恶意软件：窃取秘密的工具。
  • 遥测：收集使用数据的工具。
  • 策略执行：基于 IP 或身份限制访问的工具。

问题在于，当你无法分辨自己正在使用哪一种时，麻烦就开始了。

厂商出于法律原因，有权根据地区或制裁限制访问。我理解这一点。但“我信任这家公司”并不是一种真正的审计控制，那只是一种情绪。

我现在会对机器上的每个 AI 工具使用一份清单。使用以下问题来审计你的工具：

  1. 它能读取哪些本地数据？
  • 文件内容和目录路径。
  • Shell 历史记录和环境变量。
  • 系统语言和设备元数据。
  1. 它会进行哪些网络调用？
  • API 和遥测端点。
  • 更新和崩溃报告端点。
  1. 关联了哪些身份信号？
  • 账户邮箱和付款国家/地区。
  • IP 地址和代理信号。
  1. 它能执行哪些操作？
  • 编辑文件和运行 shell 命令。
  • 安装包和提交代码。
  1. 如果访问权限被撤销会发生什么？
  • 你的工作能否继续？
  • 你的本地文件是否安全？
  • 是否有数据导出路径？

我的规则很简单：如果我不会把它粘贴到支持工单中，那么默认情况下我不会让 AI 工具检查它。

不要围绕一个你无法控制的单一账户构建关键工作流。保留提示词（prompts）的本地副本。为紧急情况准备好第二个模型。

任何强大到足以协助实际工作的 AI 工具，都强大到值得进行一次审计。

信任始于一个你可以检查的工作流。

Source: https://dev.to/ariakovac/the-claude-code-trojan-panic-is-really-about-trust-2k9f

Optional learning community: https://t.me/GyaanSetuAi