Modelos de difusão
Como uma IA parte de ruído aleatório para produzir uma imagem, e o que o colaborador pode verificar antes de reencaminhar ou de carregar um ficheiro.
Nesta página
Em 30 segundos
- Onde acontece
- Numa imagem ou num vídeo recebido por mensagem, numa rede social ou num documento, e nas ferramentas públicas de geração de imagens onde se podem carregar ficheiros.
- O que está em jogo
- O NIST cita entre os riscos o prejuízo para a integridade da informação, a fraude (incluindo a usurpação de identidade) e o engano de pessoas por vozes, imagens ou vídeos sintéticos[3].
- O reflexo
- Antes de reencaminhar uma imagem ou um vídeo, verificar a sua proveniência; nunca carregar imagens confidenciais nem rostos de colegas numa ferramenta pública.
- Se já aconteceu
- Avisar sem demora a equipa de segurança da empresa, indicando a ferramenta utilizada e o que foi carregado.
Do que se trata
Um modelo de difusão fabrica uma imagem partindo de ruído aleatório, que vai afinando passo a passo até obter uma imagem conforme com a instrução[3]. Para aprender a fazê-lo, segue o caminho inverso: estragam-se imagens acrescentando-lhes ruído e o modelo aprende depois a restaurá-las. A ideia de partida, publicada em 2015, é destruir sistematicamente e lentamente a estrutura dos dados através de um processo de difusão e aprender depois o processo inverso, que a restaura[1]. Em 2020, investigadores apresentam, com esta classe de modelos, resultados de síntese de imagens de alta qualidade[2].
Para um colaborador, o que está em causa é prático. Estes modelos servem para produzir imagens sintéticas realistas, que se podem receber por mensagem ou fabricar numa ferramenta pública. O NIST, o instituto norte-americano de normas, observa que a IA generativa sabe produzir imagens, texto, áudio e vídeo realistas, o que levanta novos riscos para a confiança na informação digital[3].
Perguntas diretas
O que é um modelo de difusão?
É um modelo generativo que produz dados, aqui imagens, invertendo uma deterioração progressiva. O princípio inspira-se na física estatística fora do equilíbrio: destrói-se a estrutura dos dados por uma difusão repetida e aprende-se depois a restabelecê-la[1]. DALL-E 2, Imagen e Stable Diffusion são modelos de difusão de imagens[9].
Como aprende um modelo a limpar o ruído?
Aprende fazendo o inverso do que fará depois. Acrescenta-se ruído a imagens de treino, em pequenas quantidades, até só restar ruído. O modelo aprende o processo inverso, que restaura a estrutura[1]. Os autores de um artigo de 2020 resumem a ideia assim: «Creating noise from data is easy; creating data from noise is generative modeling.»[4] Depois de treinado, o modelo parte de ruído aleatório e vai-o afinando pouco a pouco[3].
Esta limpeza exige muitos passos. Uma variante chamada DDIM produz amostras de alta qualidade 10 a 50 vezes mais depressa, em tempo de cálculo real, do que o método de 2020, com o mesmo procedimento de treino[5].
Como é que um texto orienta a imagem?
O texto serve de instrução durante a limpeza. Os modelos de difusão latente acrescentam ao modelo camadas ditas de atenção cruzada, que lhe permitem ser orientado por entradas como texto; trabalham no espaço latente de autoencoders pré-treinados, o que reduz as necessidades de cálculo em comparação com os modelos que operam diretamente sobre os píxeis[6]. O método dito de orientação sem classificador treina em conjunto um modelo condicionado e um modelo não condicionado e combina depois as suas estimativas para arbitrar entre qualidade e diversidade das amostras[7]. O modelo Imagen apoia-se em grandes modelos de linguagem generalistas para codificar o texto, e os seus autores constatam que aumentá-los melhora a fidelidade da imagem e a sua concordância com o texto mais do que aumentar o modelo de imagem[8].
É possível reconhecer a olho uma imagem gerada?
De forma fiável, não. Os indícios percetíveis (reflexos ou sombras incoerentes com a iluminação, artefactos de mistura com fundos) servem sobretudo aos detetores[3]. O documento refere também um estudo de 2024, sobre as modalidades áudio, visual e audiovisual, que encontra desempenhos próximos do acaso[3]. Os autores do Imagen falam de um «unprecedented degree of photorealism»[8]. O NIST escreve ainda que a eficácia de muitas das abordagens de transparência dos conteúdos ainda não foi plenamente examinada[3]. Um reflexo baseado apenas no golpe de vista é, por isso, frágil; a verificação da fonte é-o menos.
Uma imagem pode conter uma marca de origem?
Por vezes. O NIST descreve duas vias para registar a origem de um conteúdo: a marca de água digital, que integra a informação no próprio conteúdo, e o registo de metadados, assinados ou não[3]. Uma marca de água discreta é legível por uma máquina e difícil de detetar por um humano; é necessário um detetor, que tem uma probabilidade não nula de falsos positivos e de falsos negativos[3]. A ausência de marca não prova, portanto, nada.
Um modelo pode devolver uma imagem do seu treino?
Sim. Investigadores mostraram que os modelos de difusão memorizam imagens dos seus dados de treino e restituem-nas no momento da geração[9].
Como funciona
A cadeia resume-se a dois tempos. No treino, o modelo aprende a restaurar imagens que foram deterioradas[1]. Na utilização, parte de ruído aleatório e afina-o passo a passo[3]; o texto fornecido orienta o resultado[6][7].
Uma formulação matemática mais geral descreve a deterioração como uma equação que transforma lentamente uma distribuição de dados complexa numa distribuição conhecida, injetando-lhe ruído, e uma equação inversa que retira esse ruído[4]. Este quadro engloba abordagens anteriores da geração por pontuações e da difusão probabilística[4]. O leitor não especialista não precisa das equações: basta reter que a imagem nasce de um ruído retirado por etapas.
O NIST descreve o percurso de um conteúdo sintético em três tempos: a criação, a publicação e depois o consumo, isto é, o momento em que pessoas recebem, interpretam e agem com base no conteúdo[3]. O colaborador intervém nas duas pontas: pode criar, ao utilizar uma ferramenta, e consumir, ao receber uma imagem.
O que faz
- Antes de reencaminhar uma imagem ou um vídeo que surpreenda, procure de onde vem: quem o publicou primeiro, em que contexto, e se o emissor o pode confirmar por outro canal.
- Se o conteúdo tiver uma marca de proveniência ou metadados, consulte-os sem os tomar por uma prova completa: o NIST escreve que nenhuma destas técnicas oferece, por si só, uma solução completa[3].
- Perante um pedido urgente apoiado por uma voz ou um vídeo (transferência, acesso), verifique por um meio diferente do do pedido. O NIST cita a clonagem de voz entre os meios de levar alguém a facilitar uma transação fraudulenta[3].
- Nunca carregue imagens confidenciais (plantas, documentos fotografados, ecrãs) numa ferramenta pública de geração de imagens.
- Nunca carregue rostos de colegas. Investigadores extraíram de modelos de difusão fotografias de pessoas presentes nos seus dados de treino[9].
- Em caso de dúvida sobre um conteúdo recebido, transmita-o à equipa de segurança em vez de o fazer circular.
As armadilhas
- O hiper-realismo. Os autores do Imagen anunciam um grau de fotorrealismo sem precedentes, e avaliadores humanos julgam as suas amostras em pé de igualdade com os dados COCO quanto à concordância entre imagem e texto[8]. Uma imagem convincente não é uma imagem autêntica.
- A falsa confiança. O NIST avisa que a transparência pode criar uma falsa sensação de confiança, por exemplo quando um conteúdo parece legítimo segundo medidas técnicas mas foi retirado do seu contexto[3].
- As ferramentas de deteção. Ainda não existem em todo o lado: o NIST escreve que a maioria destas abordagens pode estar a anos de uma implantação alargada nos dispositivos móveis[3].
- Os conteúdos forjados. O NIST escreve que imagens, vozes ou vídeos sintéticos podem servir para enganar sistemas de autenticação biométrica ou pessoas[3].
- A memorização. Os investigadores concluem que os modelos de difusão preservam muito menos a privacidade do que modelos generativos anteriores, como as GAN[9]. O que a base de treino contém pode, portanto, voltar a sair.
Casos reais
Janeiro de 2023: imagens de treino extraídas de modelos de ponta
A 30 de janeiro de 2023, nove investigadores publicam um estudo sobre a extração de dados de treino de modelos de difusão. Com um método que gera imagens e filtra depois as que correspondem a dados de treino, extraem mais de mil de modelos de ponta, tanto fotografias de pessoas como logótipos de marcas registadas[9]. Os autores acrescentam que reduzir estas vulnerabilidades pode exigir novos avanços no treino que protege a privacidade[9].
Fontes
- arXiv, «Deep Unsupervised Learning using Nonequilibrium Thermodynamics», 12 de março de 2015. https://arxiv.org/abs/1503.03585 (consultado em 10 de novembro de 2026)
- arXiv, «Denoising Diffusion Probabilistic Models», 19 de junho de 2020. https://arxiv.org/abs/2006.11239 (consultado em 10 de novembro de 2026)
- NIST, «Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency», 18 de novembro de 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-4.pdf (consultado em 10 de novembro de 2026)
- arXiv, «Score-Based Generative Modeling through Stochastic Differential Equations», 26 de novembro de 2020. https://arxiv.org/abs/2011.13456 (consultado em 10 de novembro de 2026)
- arXiv, «Denoising Diffusion Implicit Models», 6 de outubro de 2020. https://arxiv.org/abs/2010.02502 (consultado em 10 de novembro de 2026)
- arXiv, «High-Resolution Image Synthesis with Latent Diffusion Models», 20 de dezembro de 2021. https://arxiv.org/abs/2112.10752 (consultado em 10 de novembro de 2026)
- arXiv, «Classifier-Free Diffusion Guidance», 26 de julho de 2022. https://arxiv.org/abs/2207.12598 (consultado em 10 de novembro de 2026)
- arXiv, «Photorealistic Text-to-Image Diffusion Models with Deep Language Understanding», 23 de maio de 2022. https://arxiv.org/abs/2205.11487 (consultado em 10 de novembro de 2026)
- arXiv, «Extracting Training Data from Diffusion Models», 30 de janeiro de 2023. https://arxiv.org/abs/2301.13188 (consultado em 10 de novembro de 2026)
Citar este artigo
Brain, «Modelos de difusão», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp267_pt_2026,
author = {Brain},
title = {Modelos de difusão},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pt/articles/modelos-difusao-imagens-ruido/},
note = {CC BY 4.0}
}