--- id: CP-279 slug: deriva-modelos-poluicao-web-conteudo-sintetico lang: pt title: Deriva dos modelos e poluição da Web pela IA description: Como as IA treinadas com textos de IA perdem diversidade e como verificar um conteúdo gerado antes de o usar no trabalho. canonical_url: https://startbrain.io/cyberpedia/pt/articles/deriva-modelos-poluicao-web-conteudo-sintetico/ markdown_url: https://startbrain.io/cyberpedia/pt/articles/deriva-modelos-poluicao-web-conteudo-sintetico.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Deriva dos modelos e poluição da Web pela IA», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/deriva-modelos-poluicao-web-conteudo-sintetico/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-003 schema: G2 updated: "2026-11-03" translations: pt: https://startbrain.io/cyberpedia/pt/articles/deriva-modelos-poluicao-web-conteudo-sintetico/ fr: https://startbrain.io/cyberpedia/fr/articles/derive-modele-pollution-web-contenu-synthetique/ en: https://startbrain.io/cyberpedia/en/articles/model-collapse-ai-slop-web-pollution/ de: https://startbrain.io/cyberpedia/de/articles/modellkollaps-ki-inhalte-web-verschmutzung/ es: https://startbrain.io/cyberpedia/es/articles/deriva-modelos-contaminacion-web-contenido-sintetico/ it: https://startbrain.io/cyberpedia/it/articles/deriva-modelli-inquinamento-web-contenuti-sintetici/ nl: https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud/ sources: - "n": 1 title: "The Curse of Recursion: Training on Generated Data Makes Models Forget" publisher: arXiv url: https://arxiv.org/abs/2305.17493 published: "2023-05-27" accessed: "2026-11-03" - "n": 2 title: "The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text" publisher: arXiv url: https://arxiv.org/abs/2311.09807 published: "2023-11-16" accessed: "2026-11-03" - "n": 3 title: Self-Consuming Generative Models Go MAD publisher: arXiv url: https://arxiv.org/abs/2307.01850 published: "2023-07-04" accessed: "2026-11-03" - "n": 4 title: LLM04:2025 Data and Model Poisoning publisher: OWASP url: https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ accessed: "2026-11-03" - "n": 5 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 6 title: LLM03:2025 Supply Chain publisher: OWASP url: https://genai.owasp.org/llmrisk/llm032025-supply-chain/ accessed: "2026-11-03" - "n": 7 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 8 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # Deriva dos modelos e poluição da Web pela IA Os assistentes de escrita produzem textos que outros modelos, ou outros colaboradores, voltam a utilizar. Quando esses textos gerados servem para treinar novos modelos, os investigadores constataram defeitos irreversíveis. Este efeito chama-se «Model Collapse», aqui traduzido por deriva de modelo [1]. Esta ficha explica o mecanismo sem entrar em equações e depois indica gestos simples: verificar uma informação, confrontá-la com outras fontes, reconhecer um conteúdo duvidoso e nunca reutilizar tal e qual um texto gerado. ## Em 30 segundos - Onde acontece: nas ferramentas de geração de texto e de imagem e nos conteúdos em linha que servem para as treinar. - O que muda para si: uma resposta pode parecer credível e estar errada, ou ser apenas uma versão empobrecida de um conteúdo existente. - O reflexo: não reutilize nenhum texto gerado sem o confrontar com uma fonte fiável que tenha aberto pessoalmente. - Se já o fez: releia o documento, encontre a fonte de cada facto, corrija e avise os destinatários se algum erro já foi enviado. ## Perguntas diretas ### O que é a deriva de modelo? É a degradação de um modelo treinado com conteúdos produzidos por outros modelos. Os investigadores constataram que usar conteúdo gerado no treino causa defeitos irreversíveis: as «caudas» da distribuição original, isto é, os casos raros, desaparecem. Deram a este efeito o nome «Model Collapse» e observaram-no em autocodificadores variacionais, em modelos de mistura gaussiana e em grandes modelos de linguagem [1]. ### O fenómeno limita-se ao texto? Não. Outra equipa estudou modelos generativos de imagens em ciclos nos quais cada geração é treinada com as saídas da anterior. Sem dados reais novos em quantidade suficiente em cada geração, a qualidade (precisão) ou a diversidade (cobertura) dos modelos seguintes diminui progressivamente. Os autores chamam a este estado «Model Autophagy Disorder» (MAD), por analogia com a doença das vacas loucas [3]. ### E nos modelos de linguagem? Um estudo aceite na NAACL 2024 (Findings) mediu a diversidade lexical, sintática e semântica após ajustes sucessivos com texto sintético, em inglês. Regista uma descida constante da diversidade das saídas ao longo das iterações, particularmente acentuada nas tarefas que exigem criatividade [2]. ### Um texto gerado pode estar errado sem que a ferramenta «minta»? Sim. A OWASP descreve a alucinação: o modelo preenche lacunas com regularidades estatísticas, sem compreender o conteúdo, e produz respostas que parecem corretas mas não têm qualquer fundamento. Os vieses dos dados de treino e as informações incompletas também contribuem para isso [5]. ### Os dados de treino podem ser armadilhados de propósito? Sim. A OWASP chama envenenamento de dados à manipulação dos dados de pré-treino, de ajuste ou de representação para introduzir falhas, portas dos fundos ou vieses. O risco é elevado com fontes externas, que podem conter conteúdo não verificado ou malicioso [4]. ## Como funciona Um modelo de linguagem aprende com grandes quantidades de texto recolhidas na Web. Se uma parte crescente desse texto vem de modelos, o seguinte aprende em parte com cópias. Os autores do primeiro estudo defendem que este risco deve ser levado a sério para continuar a beneficiar do treino com dados recolhidos em grande escala na Web. Acrescentam que os dados provenientes de interações humanas reais com os sistemas ganharão valor à medida que o conteúdo gerado se espalhar pelos dados recolhidos na Internet [1]. O outro trabalho estabelece que, sem dados reais novos em quantidade suficiente em cada geração, a qualidade ou a diversidade diminui [3]. As páginas consultadas não quantificam a parte de conteúdo sintético atualmente presente na Web, e esta ficha não avança nenhum número. ## O que faz - Trate uma resposta gerada como um rascunho. A OWASP designa a confiança excessiva (overreliance): os utilizadores integram dados incorretos em decisões importantes sem uma análise suficiente [5]. - Confronte com fontes externas fiáveis. A OWASP recomenda cruzar as saídas do modelo com essas fontes e prever uma revisão humana e uma verificação dos factos para as informações sensíveis [5]. - Encontre a origem de cada facto, número ou citação antes de o escrever num documento. Se não encontrar nenhuma fonte, retire o facto. - Verifique se uma referência existe antes de a usar. A OWASP cita um caso em que o ChatGPT fabricou processos judiciais falsos, com graves consequências perante um tribunal [5]. - Quanto ao código, não adote sem controlo uma biblioteca sugerida. Há assistentes que propõem bibliotecas de terceiros inseguras ou inexistentes [5]. - Reconheça os conteúdos duvidosos: texto sem autor nem fonte, afirmações sem apoio, contradições com uma fonte que conhece. Estes critérios são referências de bom senso desta ficha, não um método extraído das fontes. - Assinale o conteúdo gerado quando o divulgar. A OWASP recomenda rotular claramente os conteúdos gerados por IA e informar sobre os limites de fiabilidade [5]. ## As armadilhas - Uma resposta fluida não é uma resposta verificada: a desinformação de um modelo parece credível [5]. - Uma fonte que reproduz um texto gerado não constitui uma segunda opinião. Duas páginas que dizem o mesmo podem vir do mesmo modelo. - Os próprios modelos podem vir do exterior. A OWASP observa que atualmente não existe garantia forte sobre a proveniência dos modelos publicados: as fichas descritivas não dão nenhuma sobre a sua origem [6]. - Um modelo envenenado pode comportar-se normalmente até que um gatilho altere o seu comportamento, o que torna o defeito difícil de detetar [4]. - As condições de utilização de uma ferramenta podem permitir o uso dos seus dados para treino. A OWASP assinala este risco quando as condições e a política de privacidade são pouco claras [6]. Não introduza informação sensível numa ferramenta não validada pela sua empresa. - Um erro de IA compromete a organização mesmo sem atacante. A OWASP cita o chatbot da Air Canada, cujas informações erradas dadas aos viajantes causaram perturbações e complicações jurídicas, tendo a companhia sido processada com sucesso [5]. Do lado da organização, o NIST propõe um perfil transversal para a IA generativa, complemento do AI RMF 1.0, de uso voluntário [8]. As diretrizes do NCSC britânico, publicadas a 27 de novembro de 2023, abrangem a conceção, o desenvolvimento, a implementação e a exploração dos sistemas de IA, incluindo a segurança da cadeia de abastecimento [7]. ## Casos reais ### 27 de maio de 2023: a «maldição da recursão» Ilia Shumailov e cinco coautores submetem ao arXiv um artigo que pergunta o que acontecerá aos futuros modelos GPT quando os grandes modelos de linguagem produzirem grande parte do texto em linha. A resposta deles: o conteúdo gerado usado no treino provoca defeitos irreversíveis. Mostram que o efeito pode surgir em várias famílias de modelos [1]. ### 4 de julho de 2023: a perturbação de autofagia dos modelos Sina Alemohammad, Richard G. Baraniuk e seis coautores submetem ao arXiv uma análise de três famílias de ciclos autófagos em modelos de imagens. A conclusão: sem dados reais novos em quantidade suficiente, a precisão ou a diversidade diminui de geração em geração [3]. ### 16 de novembro de 2023: o declínio da diversidade linguística Yanzhu Guo e coautores submetem ao arXiv experiências de ajuste recursivo em inglês. A diversidade das saídas diminui a cada iteração, sobretudo nas tarefas criativas [2]. ## Fontes 1. arXiv, «The Curse of Recursion: Training on Generated Data Makes Models Forget», 27 de maio de 2023. https://arxiv.org/abs/2305.17493 (consultado em 3 de novembro de 2026) 2. arXiv, «The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text», 16 de novembro de 2023. https://arxiv.org/abs/2311.09807 (consultado em 3 de novembro de 2026) 3. arXiv, «Self-Consuming Generative Models Go MAD», 4 de julho de 2023. https://arxiv.org/abs/2307.01850 (consultado em 3 de novembro de 2026) 4. OWASP, «LLM04:2025 Data and Model Poisoning». https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ (consultado em 3 de novembro de 2026) 5. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026) 6. OWASP, «LLM03:2025 Supply Chain». https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (consultado em 3 de novembro de 2026) 7. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de novembro de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado em 3 de novembro de 2026) 8. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 26 de julho de 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (consultado em 3 de novembro de 2026) --- Fonte original: Cyberpedia, a enciclopédia pública de cibersegurança e IA publicada pela Brain. Versão canónica: https://startbrain.io/cyberpedia/pt/articles/deriva-modelos-poluicao-web-conteudo-sintetico/ Pode reutilizar livremente este texto sob a licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), desde que cite «Brain, Cyberpedia» com uma ligação para o endereço acima.