RAG 如何将 AI 幻觉减少 85%
AI 经常会胡编乱造。这被称为“幻觉”。
检索增强生成 (RAG) 解决了这个问题。它能阻止 AI 进行猜测，并迫使其查阅真实事实。
来自 Pinecone 的数据展示了巨大的差异。在询问 GPT-4 关于 2021 年之后的事实时，使用 RAG 后，幻觉率从 27% 降至仅 4%。
它是如何工作的？
把没有 RAG 的 AI 想象成一个凭记忆参加考试的学生。如果他们忘记了一个事实，他们可能会为了显得聪明而撒谎。
把拥有 RAG 的 AI 想象成一个参加开卷考试的学生。他们在回答之前会先在教科书中查找答案。
该过程遵循以下步骤：
• 系统将您的问题转换为称为“向量”的数学代码。 • 它在数据库中搜索具有相似数学代码的文本块。 • 它根据相似度评分挑选最佳匹配项。 • 它将这些特定信息添加到您的提示词中。 • AI 阅读提供的实事来编写答案。 • 系统向您展示来源，以便您可以进行核实。
为什么这对您的工作很重要：
- 准确性：AI 使用真实数据，而不是训练记忆。
- 时效性：您可以向 AI 提供当天的最新新闻，而无需重新训练整个模型。
- 透明度：您可以清楚地看到信息的来源。
- 低成本：通过 RAG 处理一小块数据的成本仅为 0.002 美元。而处理庞大的上下文窗口可能需要花费 2.00 美元。
大厂已经在使用了：
- Perplexity AI：使用 RAG 作为带有引用来源的搜索引擎。
- Claude：使用 RAG 来降低处理长文档的成本。
- Microsoft Copilot：使用 RAG 来读取您的文件和电子邮件。
RAG 将 AI 从一个富有创造力的讲故事者转变为一个可靠的研究员。
来源：https://dev.to/tawan_shamsanor_30e1980a9/rag-ldkaarhlnkhng-ai-aid-85-aidyaangair-57ni