幻觉税：670 亿美元的隐藏成本
2024 年，AI 幻觉给全球企业带来了 640 亿美元的损失。到 2025 年，这一数字将达到 670 亿美元。
普通员工每周要花 4.3 小时来检查 AI 的工作成果。这相当于每人每年花费约 1,200 美元。如果你的公司有 500 人，其中 200 人使用 AI，那么仅为了检查输出结果，你每年就要花费 84 万美元。这些工具本应节省时间，结果却创造了新的工作量。
幻觉成本分为三类：
- 直接损失：AI 在财务报告或业务分析中做出错误决策。
- 清理成本：团队花费额外的时间来修复错误和重新工作。
- 声誉损害：错误传达给客户并损害了你的品牌。
MIT 的研究人员发现了一个重大风险。当 AI 模型出错时，它们使用自信语言的频率会增加 34%。即使在撒谎时，它们听起来也显得非常笃定。2025 年的一项证明显示，目前的 AI 模型无法完全消除幻觉。
大多数公司认为 AI 在不确定时会表现出来。这是错误的。最容易绕过你的审核的错误，往往是那些听起来最确定的错误。
你必须改变构建 AI 系统的方式。根据风险等级匹配相应的验证机制。
请遵循以下步骤：
- 根据错误对业务造成的损害程度对 AI 任务进行分组。
- 从第一天起就建立日志记录和错误追踪机制。
- 在计算投资回报率 (ROI) 时，将检查 AI 的成本考虑在内。
可选学习社区: https://t.me/GyaanSetuAi