AI 聊天机器人助长大屠杀否认论
联合国教科文组织（UNESCO）和联合国发布了警告。生成式 AI 正在帮助人们传播对大屠杀的否认和虚假历史。
不法分子利用 AI 制造大量虚假内容。他们利用 AI 伪造目击者证词并篡改历史照片。
当前的安全规则往往难以奏效。用户通过简单的提示词找到绕过过滤机制的方法。他们并不直接要求否认事实，而是要求 AI 编写质疑历史事实的虚构故事。
该报告强调了几个主要风险：
- AI 模型根据训练数据预测词汇。如果数据中包含阴谋论，AI 就会产生虚假主张。
- 自动化脚本可以一次性生成数千篇虚假文章。
- “软性否认”使用中性语言来淡化种族灭绝的规模。这很难被机器识别。
- Deepfakes 利用克隆的声音和视频让谎言看起来真假难辨。
- 图像生成器可以为从未发生过的事件创建写实的照片。
语言差异也同样存在。安全规则在英语中通常很完善，但在阿拉伯语、法语或德语等语言中却相对薄弱。这使得虚假信息得以在全球范围内传播。
UNESCO 希望科技公司承担更多责任。他们建议公司应对违背已证实历史事实的输出内容负责。
一些公司使用专门的系统对照官方档案进行事实核查。然而，这尚未成为一种标准做法。
我们需要提高数字素养。你必须了解 AI 模型的工作原理以及它们是如何塑造信息的。
来源：https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e
可选学习社区：https://t.me/GyaanSetuAi