Chatbots de IA impulsionam o negacionismo do Holocausto
A UNESCO e as Nações Unidas emitiram um alerta. A IA generativa está ajudando pessoas a espalhar o negacionismo do Holocausto e histórias falsas.
Agentes mal-intencionados usam a IA para criar grandes quantidades de conteúdo falso. Eles a utilizam para criar relatos falsos de testemunhas oculares e fotos históricas alteradas.
As regras de segurança atuais frequentemente falham. Os usuários encontram maneiras de burlar filtros por meio de prompts simples. Eles não pedem o negacionismo diretamente. Em vez disso, pedem à IA que escreva histórias de ficção que questionam fatos históricos.
O relatório destaca vários riscos importantes:
- Modelos de IA preveem palavras com base em dados de treinamento. Se esses dados incluírem teorias da conspiração, a IA produzirá alegações falsas.
- Scripts automatizados geram milhares de artigos falsos de uma só vez.
- O "negacionismo suave" utiliza linguagem neutra para minimizar a escala do genocídio. Isso é difícil de ser detectado por máquinas.
- Deepfakes usam vozes e vídeos clonados para fazer com que mentiras pareçam reais.
- Geradores de imagem criam fotos fotorrealistas de eventos que nunca aconteceram.
Também existem lacunas linguísticas. As regras de segurança costumam ser fortes em inglês, mas fracas em idiomas como árabe, francês ou alemão. Isso permite que a desinformação se espalhe globalmente.
A UNESCO quer que as empresas de tecnologia assumam mais responsabilidade. Elas sugerem que as empresas devem ser responsabilizadas por resultados que contradigam fatos históricos comprovados.
Algumas empresas usam sistemas especiais para verificar fatos em relação a arquivos oficiais. No entanto, isso ainda não é uma prática padrão.
Precisamos de uma melhor alfabetização digital. Você deve entender como os modelos de IA funcionam e como eles moldam a informação.
Fonte: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e
Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi