Cyberpediapor Brain
PTDEENESFRITNL

Deriva dos modelos e poluição da Web pela IA

Como as IA treinadas com textos de IA perdem diversidade e como verificar um conteúdo gerado antes de o usar no trabalho.

Em 30 segundos

Onde acontece
Nas ferramentas de geração de texto e de imagem e nos conteúdos em linha que servem para as treinar.
O que muda para si
Uma resposta pode parecer credível e estar errada, ou ser apenas uma versão empobrecida de um conteúdo existente.
O reflexo
Não reutilize nenhum texto gerado sem o confrontar com uma fonte fiável que tenha aberto pessoalmente.
Se já o fez
Releia o documento, encontre a fonte de cada facto, corrija e avise os destinatários se algum erro já foi enviado.

Do que se trata

Os assistentes de escrita produzem textos que outros modelos, ou outros colaboradores, voltam a utilizar. Quando esses textos gerados servem para treinar novos modelos, os investigadores constataram defeitos irreversíveis. Este efeito chama-se «Model Collapse», aqui traduzido por deriva de modelo1.

Esta ficha explica o mecanismo sem entrar em equações e depois indica gestos simples: verificar uma informação, confrontá-la com outras fontes, reconhecer um conteúdo duvidoso e nunca reutilizar tal e qual um texto gerado.

Perguntas diretas

O que é a deriva de modelo?

É a degradação de um modelo treinado com conteúdos produzidos por outros modelos. Os investigadores constataram que usar conteúdo gerado no treino causa defeitos irreversíveis: as «caudas» da distribuição original, isto é, os casos raros, desaparecem. Deram a este efeito o nome «Model Collapse» e observaram-no em autocodificadores variacionais, em modelos de mistura gaussiana e em grandes modelos de linguagem1.

O fenómeno limita-se ao texto?

Não. Outra equipa estudou modelos generativos de imagens em ciclos nos quais cada geração é treinada com as saídas da anterior. Sem dados reais novos em quantidade suficiente em cada geração, a qualidade (precisão) ou a diversidade (cobertura) dos modelos seguintes diminui progressivamente. Os autores chamam a este estado «Model Autophagy Disorder» (MAD), por analogia com a doença das vacas loucas3.

E nos modelos de linguagem?

Um estudo aceite na NAACL 2024 (Findings) mediu a diversidade lexical, sintática e semântica após ajustes sucessivos com texto sintético, em inglês. Regista uma descida constante da diversidade das saídas ao longo das iterações, particularmente acentuada nas tarefas que exigem criatividade2.

Um texto gerado pode estar errado sem que a ferramenta «minta»?

Sim. A OWASP descreve a alucinação: o modelo preenche lacunas com regularidades estatísticas, sem compreender o conteúdo, e produz respostas que parecem corretas mas não têm qualquer fundamento. Os vieses dos dados de treino e as informações incompletas também contribuem para isso5.

Os dados de treino podem ser armadilhados de propósito?

Sim. A OWASP chama envenenamento de dados à manipulação dos dados de pré-treino, de ajuste ou de representação para introduzir falhas, portas dos fundos ou vieses. O risco é elevado com fontes externas, que podem conter conteúdo não verificado ou malicioso4.

1Como funciona1 min

Um modelo de linguagem aprende com grandes quantidades de texto recolhidas na Web. Se uma parte crescente desse texto vem de modelos, o seguinte aprende em parte com cópias. Os autores do primeiro estudo defendem que este risco deve ser levado a sério para continuar a beneficiar do treino com dados recolhidos em grande escala na Web. Acrescentam que os dados provenientes de interações humanas reais com os sistemas ganharão valor à medida que o conteúdo gerado se espalhar pelos dados recolhidos na Internet1.

O outro trabalho estabelece que, sem dados reais novos em quantidade suficiente em cada geração, a qualidade ou a diversidade diminui3. As páginas consultadas não quantificam a parte de conteúdo sintético atualmente presente na Web, e esta ficha não avança nenhum número.

2O que faz1 min
  • Trate uma resposta gerada como um rascunho. A OWASP designa a confiança excessiva (overreliance): os utilizadores integram dados incorretos em decisões importantes sem uma análise suficiente5.
  • Confronte com fontes externas fiáveis. A OWASP recomenda cruzar as saídas do modelo com essas fontes e prever uma revisão humana e uma verificação dos factos para as informações sensíveis5.
  • Encontre a origem de cada facto, número ou citação antes de o escrever num documento. Se não encontrar nenhuma fonte, retire o facto.
  • Verifique se uma referência existe antes de a usar. A OWASP cita um caso em que o ChatGPT fabricou processos judiciais falsos, com graves consequências perante um tribunal5.
  • Quanto ao código, não adote sem controlo uma biblioteca sugerida. Há assistentes que propõem bibliotecas de terceiros inseguras ou inexistentes5.
  • Reconheça os conteúdos duvidosos: texto sem autor nem fonte, afirmações sem apoio, contradições com uma fonte que conhece. Estes critérios são referências de bom senso desta ficha, não um método extraído das fontes.
  • Assinale o conteúdo gerado quando o divulgar. A OWASP recomenda rotular claramente os conteúdos gerados por IA e informar sobre os limites de fiabilidade5.
3As armadilhas2 min
  • Uma resposta fluida não é uma resposta verificada: a desinformação de um modelo parece credível5.
  • Uma fonte que reproduz um texto gerado não constitui uma segunda opinião. Duas páginas que dizem o mesmo podem vir do mesmo modelo.
  • Os próprios modelos podem vir do exterior. A OWASP observa que atualmente não existe garantia forte sobre a proveniência dos modelos publicados: as fichas descritivas não dão nenhuma sobre a sua origem6.
  • Um modelo envenenado pode comportar-se normalmente até que um gatilho altere o seu comportamento, o que torna o defeito difícil de detetar4.
  • As condições de utilização de uma ferramenta podem permitir o uso dos seus dados para treino. A OWASP assinala este risco quando as condições e a política de privacidade são pouco claras6. Não introduza informação sensível numa ferramenta não validada pela sua empresa.
  • Um erro de IA compromete a organização mesmo sem atacante. A OWASP cita o chatbot da Air Canada, cujas informações erradas dadas aos viajantes causaram perturbações e complicações jurídicas, tendo a companhia sido processada com sucesso5.

Do lado da organização, o NIST propõe um perfil transversal para a IA generativa, complemento do AI RMF 1.0, de uso voluntário8. As diretrizes do NCSC britânico, publicadas a 27 de novembro de 2023, abrangem a conceção, o desenvolvimento, a implementação e a exploração dos sistemas de IA, incluindo a segurança da cadeia de abastecimento7.

4Casos reais1 min

27 de maio de 2023: a «maldição da recursão»

Ilia Shumailov e cinco coautores submetem ao arXiv um artigo que pergunta o que acontecerá aos futuros modelos GPT quando os grandes modelos de linguagem produzirem grande parte do texto em linha. A resposta deles: o conteúdo gerado usado no treino provoca defeitos irreversíveis. Mostram que o efeito pode surgir em várias famílias de modelos1.

4 de julho de 2023: a perturbação de autofagia dos modelos

Sina Alemohammad, Richard G. Baraniuk e seis coautores submetem ao arXiv uma análise de três famílias de ciclos autófagos em modelos de imagens. A conclusão: sem dados reais novos em quantidade suficiente, a precisão ou a diversidade diminui de geração em geração3.

16 de novembro de 2023: o declínio da diversidade linguística

Yanzhu Guo e coautores submetem ao arXiv experiências de ajuste recursivo em inglês. A diversidade das saídas diminui a cada iteração, sobretudo nas tarefas criativas2.

Ficha

Identificador
CP-279
Ala
4. Inteligência artificial
Competência Brain
Perceber a IA (understand_ai)
Reflexo Brain
air-003
Esquema
G2 · Mito contra realidade
Idiomas
de, en, es, fr, it, nl, pt
Fontes
8 fontes verificadas em 3 de novembro de 2026
Fontes8 fontes
  1. arXiv, «The Curse of Recursion: Training on Generated Data Makes Models Forget», 27 de maio de 2023. https://arxiv.org/abs/2305.17493 (consultado em 3 de novembro de 2026)
  2. arXiv, «The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text», 16 de novembro de 2023. https://arxiv.org/abs/2311.09807 (consultado em 3 de novembro de 2026)
  3. arXiv, «Self-Consuming Generative Models Go MAD», 4 de julho de 2023. https://arxiv.org/abs/2307.01850 (consultado em 3 de novembro de 2026)
  4. OWASP, «LLM04:2025 Data and Model Poisoning». https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ (consultado em 3 de novembro de 2026)
  5. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026)
  6. OWASP, «LLM03:2025 Supply Chain». https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (consultado em 3 de novembro de 2026)
  7. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de novembro de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado em 3 de novembro de 2026)
  8. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 26 de julho de 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (consultado em 3 de novembro de 2026)

Citar este artigo

Brain, «Deriva dos modelos e poluição da Web pela IA», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/deriva-modelos-poluicao-web-conteudo-sintetico/

BibTeX 
@misc{brain_cp279_pt_2026,
  author = {Brain},
  title = {Deriva dos modelos e poluição da Web pela IA},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/pt/articles/deriva-modelos-poluicao-web-conteudo-sintetico/},
  note = {CC BY 4.0}
}
Licença CC BY 4.0