Enviesamento de automatização: parar de verificar uma IA que muitas vezes tem razão
Porque acabamos por aceitar sem reler as respostas de uma IA que raramente erra, e que hábitos simples permitem continuar a verificar.
Nesta página
Em 30 segundos
- Onde acontece
- Em qualquer trabalho em que uma IA propõe um texto, um número, uma triagem ou uma recomendação que você valida depois.
- O que se passa
- Pode seguir-se um conselho errado da máquina quando se tinha primeiro a resposta certa[1].
- O reflexo
- Antes de validar, reler uma parte da resposta, procurar a sua fonte e perguntar-se o que acontece se estiver errada.
- Se já o fez
- Reveja agora o resultado que aproveitou sem o controlar, sobretudo se envolve um cliente ou um número oficial, e assinale qualquer erro à pessoa que o recebeu.
Do que se trata
Um assistente de IA que dá boas respostas na maior parte do tempo muda aos poucos a forma como o lemos. Os investigadores chamam a este deslize enviesamento de automatização: a tendência para seguir as sugestões de uma máquina sem as examinar.
Um estudo de patologia ilustra o risco: a IA melhora aí o desempenho global e, no entanto, leva a inverter avaliações inicialmente corretas[1].
Perguntas diretas
Isto diz mesmo respeito a pessoas competentes?
Sim. Numa experiência em linha publicada em 2024, 28 peritos em patologia formados na profissão deviam estimar percentagens de células tumorais. A IA melhorou o seu desempenho global, mas em 7 % dos casos uma avaliação inicialmente correta foi invertida por um conselho errado da máquina[1].
A pressão do tempo agrava o problema?
Nesse mesmo estudo, a pressão do tempo não fez o enviesamento aparecer com mais frequência. Parece, no entanto, tê-lo tornado mais grave: os participantes apoiavam-se mais nas consultas negativas do sistema, e o seu desempenho baixava depois[1].
Um alerta vindo de outro lado basta para nos fazer duvidar?
Investigadores estudaram esta questão em três experiências realizadas nos Países Baixos, publicadas em linha em 2021. Incidem sobre a confiança excessiva num conselho algorítmico, mesmo quando outras fontes enviam sinais de alerta, e sobre a adoção seletiva desse conselho quando corresponde a estereótipos[2].
O nível de conhecimento da IA muda alguma coisa?
Sim. Uma experiência pré-registada de 2023, realizada com 9 000 adultos em 9 países, testou uma tarefa de identificação. As pessoas que menos conhecem a IA são um pouco mais inclinadas a desconfiar dela. O enviesamento de automatização surge depois a níveis de conhecimento ainda baixos e estabiliza quando o conhecimento da IA se torna muito elevado[3]. A dificuldade da tarefa e a competência atribuída à ferramenta também contam[3].
Quem está mais exposto?
Depende da atitude em relação à IA. Numa experiência publicada em 2025 e realizada com 2 784 participantes, os que desconfiavam da IA detetavam melhor os erros. Os que lhe eram favoráveis mostravam uma dependência excessiva das suas sugestões[4].
Uma equipa humano + IA faz melhor do que a IA sozinha?
Não necessariamente. Os autores de um estudo publicado em 2025 lembram que equipas humano + IA foram consideradas menos eficazes do que a IA sozinha, sendo o enviesamento de automatização a razão avançada: os humanos seguem as recomendações da IA mesmo quando são erradas[5].
O que diz o AI Act?
Para os sistemas de IA de risco elevado, o artigo 14.º pede que as pessoas encarregadas da supervisão possam manter-se conscientes da «possible tendency of automatically relying or over-relying on the output produced by a high-risk AI system (automation bias)»[6]. Devem também poder decidir não utilizar o sistema, ou ignorar, substituir ou anular o seu resultado[6]. Uma análise jurídica de 2025 considera que a ênfase nos fornecedores não trata suficientemente a conceção e o contexto como causas do enviesamento[7].
Como funciona
Os autores do estudo de patologia definem o enviesamento como o facto de seguir sem espírito crítico indicações automatizadas[1].
A forma como o trabalho está organizado também conta. Na experiência com 2 784 participantes, exigir uma correção por cada erro assinalado reduziu o envolvimento e aumentou a aceitação de sugestões falsas[4]. Os autores concluem que o êxito depende também de quem relê os resultados da IA e da maneira como a releitura está organizada[4].
O que fazer
Estes hábitos retomam recomendações da Microsoft destinadas às equipas que constroem aplicações no Azure OpenAI[8], bem como os resultados dos estudos acima.
- Releia uma parte da resposta antes de validar e modifique-a em vez de a aceitar tal como está. A Microsoft recomenda que as equipas concebam a ferramenta de modo a que os utilizadores releiam e corrijam os resultados antes de os aceitar[8].
- Procure a fonte. Quando uma ferramenta cita as suas referências, vê-se de onde vem o conteúdo gerado[8]. Se a ferramenta não as der, procure a informação noutro lado.
- Controle em primeiro lugar os números. A Microsoft dá o exemplo de um sistema menos preciso com os números: recomenda assinalá-los e convidar a verificá-los ou a consultar fontes externas[8].
- Teste o código antes de o aceitar. Para as sugestões de código, a Microsoft lembra ao programador que as reveja e teste[8].
- Pergunte-se o que acontece se a resposta estiver errada. A Microsoft nota que o risco ligado às imprecisões é mais elevado num resumo de notas de médico do que num resumo de artigos em linha[8].
- Mantenha a responsabilidade do conteúdo final. A Microsoft recomenda lembrar aos utilizadores que respondem pelo conteúdo que validam[8].
As armadilhas
- Acreditar que a ferramenta torna a verificação inútil. No estudo de patologia, o desempenho global progredia com a IA e o enviesamento existia na mesma[1].
- Acreditar que todos os dispositivos de apoio têm o mesmo efeito. Num estudo com 108 participantes sobre uma decisão de tratamento da diabetes, os níveis de confiança da IA, as explicações textuais e as visualizações de desempenho melhoraram os resultados. O retorno humano e as perguntas colocadas pela IA incentivaram a reflexão, mas reduziram muitas vezes o desempenho ao aumentar o esforço cognitivo[5].
- Pensar que a lei resolve o assunto. O AI Act pede que os sistemas de risco elevado sejam fornecidos de forma a que as pessoas encarregadas da supervisão possam manter-se conscientes do enviesamento[6], mas a análise jurídica citada acima questiona a oportunidade de regulamentar diretamente o risco em vez de exigir apenas uma sensibilização[7].
Fontes
- arXiv, «Automation Bias in AI-Assisted Medical Decision-Making under Time Pressure in Computational Pathology», 1 de novembro de 2024. https://arxiv.org/abs/2411.00998 (consultado em 14 de novembro de 2026)
- arXiv, «Human-AI Interactions in Public Sector Decision-Making: "Automation Bias" and "Selective Adherence" to Algorithmic Advice», 3 de março de 2021. https://arxiv.org/abs/2103.02381 (consultado em 14 de novembro de 2026)
- arXiv, «Bending the Automation Bias Curve: A Study of Human and AI-based Decision Making in National Security Contexts», 28 de junho de 2023. https://arxiv.org/abs/2306.16507 (consultado em 14 de novembro de 2026)
- arXiv, «Bias in the Loop: How Humans Evaluate AI-Generated Suggestions», 10 de setembro de 2025. https://arxiv.org/abs/2509.08514 (consultado em 14 de novembro de 2026)
- arXiv, «Engaging with AI: How Interface Design Shapes Human-AI Collaboration in High-Stakes Decision-Making», 28 de janeiro de 2025. https://arxiv.org/abs/2501.16627 (consultado em 14 de novembro de 2026)
- Commission européenne, «AI Act Service Desk - Article 14: Human oversight». https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14 (consultado em 14 de novembro de 2026)
- arXiv, «Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI», 14 de fevereiro de 2025. https://arxiv.org/abs/2502.10036 (consultado em 14 de novembro de 2026)
- Microsoft, «Overview of responsible AI practices for Azure OpenAI models». https://learn.microsoft.com/en-us/azure/foundry/responsible-ai/openai/overview (consultado em 14 de novembro de 2026)
Citar este artigo
Brain, «Enviesamento de automatização: parar de verificar uma IA que muitas vezes tem razão», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp275_pt_2026,
author = {Brain},
title = {Enviesamento de automatização: parar de verificar uma IA que muitas vezes tem razão},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pt/articles/enviesamento-automatizacao-verificar-respostas-ia/},
note = {CC BY 4.0}
}