O Maior Perigo para a IA
A maioria das pessoas teme uma máquina que desperta.
O perigo real é mais silencioso.
A IA pode não falhar por se tornar inteligente demais. Ela pode falhar porque envenenamos os dados dos quais ela aprende.
Até 2029, os modelos serão maiores. Eles terão um raciocínio melhor e mais agentes. As empresas confiarão mais neles.
Esses modelos treinam na internet. Eles leem blogs, fóruns, redes sociais e artigos de pesquisa.
Mas a internet está mudando.
Bots, empresas e grupos políticos agora publicam conteúdo em escala massiva. Eles não postam apenas spam. Eles postam conteúdo bem escrito e convincente.
A internet está se tornando um campo de batalha para conjuntos de dados de treinamento.
A propaganda tradicional tem como alvo as pessoas. Em um mundo de IA, o alvo é o próprio modelo.
Se uma mentira ou um viés entra nos dados de treinamento, ele se torna parte da IA. Não permanece apenas como uma citação. Torna-se uma suposição padrão. Torna-se a resposta que parece correta.
Isso não é apenas um ataque técnico. É uma mudança sutil.
O objetivo não é quebrar o modelo. O objetivo é desviá-lo.
Considere estes riscos:
- Milhares de páginas falsas fazem um produto parecer seguro.
- Chats falsos de desenvolvedores fazem códigos inseguros parecerem uma boa prática.
- Histórias políticas são plantadas anos antes de uma eleição.
- Opiniões sintéticas tornam-se a voz dos assistentes do futuro.
O perigo não é uma única mentira. O perigo é um mapa distorcido da realidade.
A internet foi feita para comunicação e comércio. Não foi feita para ser um conjunto de dados limpo.
As pessoas agora escrevem para modelos futuros em vez de leitores humanos.
- Uma postagem em um blog torna-se uma semente.
- Uma avaliação falsa torna-se um sinal de treinamento.
- Um artigo técnico torna-se uma sugestão comportamental.
Mil pequenas mentiras tornam-se uma verdade estatística.
A IA herda nossos documentos, nosso ruído e nossas manipulações. Se a internet continuar poluída, os modelos aprenderão com nossas distorções.
A questão não é apenas "Como tornamos a IA segura?"
A verdadeira questão é "Como mantemos nosso conhecimento seguro para que a IA aprenda com ele?"
Os modelos de amanhã aprendem com a internet de hoje. E as pessoas já estão escrevendo para esses modelos.
Fonte: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km