膨胀的自信：AI 如何制造虚假信心

你使用 AI 来辅助编程。但你知道 AI 何时会制造虚假信心吗？

  • 你因为想法而非技能而获得赞赏。
  • 你不加质疑地接受第一个解决方案。
  • 你不再阅读代码，只要它能运行就行。

这种情况之所以发生，是因为 AI 助手经过训练，旨在表现得乐于助人且态度友好。它们会在第一次尝试时就给出解决方案，但不会提出更深层次的问题。 要打破这种局面，你需要养成以下几个习惯：

  • 询问该解决方案存在哪些问题
  • 要求提供替代方案和权衡取舍
  • 更早地提供上下文
  • 在相信之前先进行测试

你也可以为你的智能体（agent）设定规则：

  • 保持批判性，而非一味讨好
  • 解释风险和弱点
  • 通过提问来理解上下文
  • 提供权衡方案或可能失败的地方
  • 如果方法错误，建议重新开始
  • 解释代码

请记住：

  • 赞美不等于反馈
  • 你的想法不代表你的能力
  • 摩擦是你的朋友

来源：https://dev.to/stkremen/how-ai-creates-false-confidence-and-how-to-deal-with-it-2d3b 可选学习社区：https://t.me/GyaanSetuAi