Cyberpediapor Brain

Enviesamento de automatização: parar de verificar uma IA que muitas vezes tem razão

Porque acabamos por aceitar sem reler as respostas de uma IA que raramente erra, e que hábitos simples permitem continuar a verificar.

Nesta página
  1. 1Em 30 segundos
  2. 2Do que se trata
  3. 3Perguntas diretas
  4. 4Como funciona
  5. 5O que fazer
  6. 6As armadilhas
  7. 7Fontes
  8. 8Citar este artigo

Em 30 segundos

Onde acontece
Em qualquer trabalho em que uma IA propõe um texto, um número, uma triagem ou uma recomendação que você valida depois.
O que se passa
Pode seguir-se um conselho errado da máquina quando se tinha primeiro a resposta certa[1].
O reflexo
Antes de validar, reler uma parte da resposta, procurar a sua fonte e perguntar-se o que acontece se estiver errada.
Se já o fez
Reveja agora o resultado que aproveitou sem o controlar, sobretudo se envolve um cliente ou um número oficial, e assinale qualquer erro à pessoa que o recebeu.

Do que se trata

Um assistente de IA que dá boas respostas na maior parte do tempo muda aos poucos a forma como o lemos. Os investigadores chamam a este deslize enviesamento de automatização: a tendência para seguir as sugestões de uma máquina sem as examinar.

Um estudo de patologia ilustra o risco: a IA melhora aí o desempenho global e, no entanto, leva a inverter avaliações inicialmente corretas[1].

Perguntas diretas

Isto diz mesmo respeito a pessoas competentes?

Sim. Numa experiência em linha publicada em 2024, 28 peritos em patologia formados na profissão deviam estimar percentagens de células tumorais. A IA melhorou o seu desempenho global, mas em 7 % dos casos uma avaliação inicialmente correta foi invertida por um conselho errado da máquina[1].

A pressão do tempo agrava o problema?

Nesse mesmo estudo, a pressão do tempo não fez o enviesamento aparecer com mais frequência. Parece, no entanto, tê-lo tornado mais grave: os participantes apoiavam-se mais nas consultas negativas do sistema, e o seu desempenho baixava depois[1].

Um alerta vindo de outro lado basta para nos fazer duvidar?

Investigadores estudaram esta questão em três experiências realizadas nos Países Baixos, publicadas em linha em 2021. Incidem sobre a confiança excessiva num conselho algorítmico, mesmo quando outras fontes enviam sinais de alerta, e sobre a adoção seletiva desse conselho quando corresponde a estereótipos[2].

O nível de conhecimento da IA muda alguma coisa?

Sim. Uma experiência pré-registada de 2023, realizada com 9 000 adultos em 9 países, testou uma tarefa de identificação. As pessoas que menos conhecem a IA são um pouco mais inclinadas a desconfiar dela. O enviesamento de automatização surge depois a níveis de conhecimento ainda baixos e estabiliza quando o conhecimento da IA se torna muito elevado[3]. A dificuldade da tarefa e a competência atribuída à ferramenta também contam[3].

Quem está mais exposto?

Depende da atitude em relação à IA. Numa experiência publicada em 2025 e realizada com 2 784 participantes, os que desconfiavam da IA detetavam melhor os erros. Os que lhe eram favoráveis mostravam uma dependência excessiva das suas sugestões[4].

Uma equipa humano + IA faz melhor do que a IA sozinha?

Não necessariamente. Os autores de um estudo publicado em 2025 lembram que equipas humano + IA foram consideradas menos eficazes do que a IA sozinha, sendo o enviesamento de automatização a razão avançada: os humanos seguem as recomendações da IA mesmo quando são erradas[5].

O que diz o AI Act?

Para os sistemas de IA de risco elevado, o artigo 14.º pede que as pessoas encarregadas da supervisão possam manter-se conscientes da «possible tendency of automatically relying or over-relying on the output produced by a high-risk AI system (automation bias)»[6]. Devem também poder decidir não utilizar o sistema, ou ignorar, substituir ou anular o seu resultado[6]. Uma análise jurídica de 2025 considera que a ênfase nos fornecedores não trata suficientemente a conceção e o contexto como causas do enviesamento[7].

Como funciona

Os autores do estudo de patologia definem o enviesamento como o facto de seguir sem espírito crítico indicações automatizadas[1].

A forma como o trabalho está organizado também conta. Na experiência com 2 784 participantes, exigir uma correção por cada erro assinalado reduziu o envolvimento e aumentou a aceitação de sugestões falsas[4]. Os autores concluem que o êxito depende também de quem relê os resultados da IA e da maneira como a releitura está organizada[4].

O que fazer

Estes hábitos retomam recomendações da Microsoft destinadas às equipas que constroem aplicações no Azure OpenAI[8], bem como os resultados dos estudos acima.

  • Releia uma parte da resposta antes de validar e modifique-a em vez de a aceitar tal como está. A Microsoft recomenda que as equipas concebam a ferramenta de modo a que os utilizadores releiam e corrijam os resultados antes de os aceitar[8].
  • Procure a fonte. Quando uma ferramenta cita as suas referências, vê-se de onde vem o conteúdo gerado[8]. Se a ferramenta não as der, procure a informação noutro lado.
  • Controle em primeiro lugar os números. A Microsoft dá o exemplo de um sistema menos preciso com os números: recomenda assinalá-los e convidar a verificá-los ou a consultar fontes externas[8].
  • Teste o código antes de o aceitar. Para as sugestões de código, a Microsoft lembra ao programador que as reveja e teste[8].
  • Pergunte-se o que acontece se a resposta estiver errada. A Microsoft nota que o risco ligado às imprecisões é mais elevado num resumo de notas de médico do que num resumo de artigos em linha[8].
  • Mantenha a responsabilidade do conteúdo final. A Microsoft recomenda lembrar aos utilizadores que respondem pelo conteúdo que validam[8].

As armadilhas

  • Acreditar que a ferramenta torna a verificação inútil. No estudo de patologia, o desempenho global progredia com a IA e o enviesamento existia na mesma[1].
  • Acreditar que todos os dispositivos de apoio têm o mesmo efeito. Num estudo com 108 participantes sobre uma decisão de tratamento da diabetes, os níveis de confiança da IA, as explicações textuais e as visualizações de desempenho melhoraram os resultados. O retorno humano e as perguntas colocadas pela IA incentivaram a reflexão, mas reduziram muitas vezes o desempenho ao aumentar o esforço cognitivo[5].
  • Pensar que a lei resolve o assunto. O AI Act pede que os sistemas de risco elevado sejam fornecidos de forma a que as pessoas encarregadas da supervisão possam manter-se conscientes do enviesamento[6], mas a análise jurídica citada acima questiona a oportunidade de regulamentar diretamente o risco em vez de exigir apenas uma sensibilização[7].

Fontes

  1. arXiv, «Automation Bias in AI-Assisted Medical Decision-Making under Time Pressure in Computational Pathology», 1 de novembro de 2024. https://arxiv.org/abs/2411.00998 (consultado em 14 de novembro de 2026)
  2. arXiv, «Human-AI Interactions in Public Sector Decision-Making: "Automation Bias" and "Selective Adherence" to Algorithmic Advice», 3 de março de 2021. https://arxiv.org/abs/2103.02381 (consultado em 14 de novembro de 2026)
  3. arXiv, «Bending the Automation Bias Curve: A Study of Human and AI-based Decision Making in National Security Contexts», 28 de junho de 2023. https://arxiv.org/abs/2306.16507 (consultado em 14 de novembro de 2026)
  4. arXiv, «Bias in the Loop: How Humans Evaluate AI-Generated Suggestions», 10 de setembro de 2025. https://arxiv.org/abs/2509.08514 (consultado em 14 de novembro de 2026)
  5. arXiv, «Engaging with AI: How Interface Design Shapes Human-AI Collaboration in High-Stakes Decision-Making», 28 de janeiro de 2025. https://arxiv.org/abs/2501.16627 (consultado em 14 de novembro de 2026)
  6. Commission européenne, «AI Act Service Desk - Article 14: Human oversight». https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14 (consultado em 14 de novembro de 2026)
  7. arXiv, «Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI», 14 de fevereiro de 2025. https://arxiv.org/abs/2502.10036 (consultado em 14 de novembro de 2026)
  8. Microsoft, «Overview of responsible AI practices for Azure OpenAI models». https://learn.microsoft.com/en-us/azure/foundry/responsible-ai/openai/overview (consultado em 14 de novembro de 2026)