不要在没有这三种控制手段的情况下给开发者提供 AI 工具
给团队配备 AI 工具看起来很简单。你接入一个模型，在配置中填入一个共享密钥，然后就发布了。
这看起来很负责，实际上却很危险。
共享密钥和缺乏日志的问题不会在第一天就显现。一切运行正常，工具也可用。问题会一直隐藏，直到演变成危机。
如果你想安全地扩展 AI 应用，必须从第一次提交（first commit）起就构建好以下三项内容：
- 按用户分配的密钥 (Per-user keys)
- 审计日志 (Audit logging)
- 成本控制 (Cost controls)
共享密钥是一个陷阱。如果一名开发者离职，或者密钥在截图中泄露，你将面临一个抉择：要么更换密钥，但这会同时破坏所有人的工具；要么坐视不管，让离职员工继续访问你的模型。
按用户分配密钥让事情变得简单。一个人离职，你只需停用一个密钥，其他人完全不会察觉。每个请求都有明确的身份，你可以立即回答“是谁做了这件事”。
审计日志是你的保险。你无法事后追溯审计。如果从一开始就没有记录日志，那么当安全或合规部门提出质疑时，你将没有任何证据。
默认情况下，不要记录每一个 prompt 或 completion。这会产生新的安全风险。相反，应该记录元数据：谁、何时、使用了哪个模型以及成本。
成本控制可以防止意外。AI 的支出具有波动性。一个陷入死循环的 Agent 可能在几小时内耗尽你的预算。使用按用户设置的限额和预算警报，这能将巨额账单转化为简单的通知。
这三种控制手段并非孤立的功能，它们相辅相成。如果你无法识别用户身份，就无法追踪每个人的成本。
有些人称之为过度设计（gold-plating）。事实并非如此。
过度设计是投机性的工作，而这些控制手段是必然的需求。有人会离职，密钥会泄露，账单会激增。
现在做这些工作只需要一个下午；以后再做则需要进行一场规模巨大且压力极高的迁移。
尽早构建，低成本构建。
Optional learning community: https://t.me/GyaanSetuAi