Detetores de texto gerado por IA: porque é que os resultados não bastam
Um detetor de texto gerado por IA dá uma pontuação, não uma prova: o que trabalhos de investigação dizem sobre os seus erros.
Nesta página
Em 30 segundos
- Onde acontece
- Vários dos trabalhos citados incidem sobre textos de estudantes e sobre manuscritos académicos, onde estes detetores são utilizados[4][5].
- O que a pontuação vale
- Uma análise matemática conclui que um detetor que se baseia apenas no texto e que tem um poder de deteção útil produz forçosamente falsas acusações, a uma taxa ligada à sobreposição entre a escrita dos estudantes e o resultado das IA[5].
- O reflexo
- Não fazer de uma pontuação a prova única, porque, segundo a análise matemática, um detetor útil que só avalia o texto produz forçosamente falsas acusações[5].
Do que se trata
Um detetor de texto gerado por IA dá uma pontuação, e essa pontuação pode errar nos dois sentidos. Investigadores constataram que estas ferramentas assinalam muitas vezes como geradas por IA textos escritos por um humano e depois ligeiramente retocados com ferramentas de IA[1]. Uma paráfrase repetida pode fazer baixar nitidamente as deteções, num ataque testado por investigadores[2]. Quando os textos mudam de domínio ou de gerador, classificadores muito eficazes no seu domínio de origem degradam-se nitidamente[3].
As taxas de falsos positivos em textos escritos por humanos variam muito fortemente de um detetor para outro[4]. O autor de uma análise matemática defende que uma pontuação de deteção não deveria servir de prova única num processo disciplinar[5]. Esta ficha explica estes limites a quem recebe uma pontuação ou tem de a ler.
Perguntas diretas
Um detetor pode provar que um texto vem de uma IA?
Segundo a análise matemática de um investigador[5], um detetor útil que só avalia o texto, numa única vez, produz forçosamente falsas acusações, na avaliação de estudantes. Este limite decorre da diversidade das pessoas que escrevem. Não depende da qualidade do modelo de IA e não se corrige com melhor engenharia dos detetores nem com tecnologia[5]. O autor defende, por isso, que uma pontuação não deveria ser a única prova num processo disciplinar[5].
Um texto escrito por um humano pode ser assinalado por engano?
Sim. Investigadores avaliaram doze detetores em 14,7 mil amostras retocadas com graus variáveis de intervenção da IA: os detetores assinalam com frequência como gerados por IA textos até muito pouco retocados[1]. Os autores salientam que este tipo de classificação pode conduzir a falsas acusações de plágio[1].
Um texto ligeiramente retocado por uma IA é «gerado por IA»?
Os detetores têm dificuldade em distinguir os graus de intervenção da IA, segundo o mesmo estudo[1]. Acrescenta que mostram enviesamentos contra os modelos mais antigos e mais pequenos[1].
É possível enganar um detetor?
Investigadores testaram um ataque por paráfrase recursiva em passagens de cerca de 300 tokens, contra detetores com marca de água, de redes neuronais, de classificação sem exemplos (zero shot) e de pesquisa de correspondências[2]. Este ataque pode reduzir significativamente as taxas de deteção, degradando apenas um pouco a qualidade do texto em muitos casos[2]. Estudaram também, em modelos com marca de água (watermark), ataques de spoofing destinados a fazer classificar um texto humano como escrito por uma IA: um atacante pode deduzir as assinaturas ocultas de um texto de IA sem acesso completo ao detetor[2].
Um detetor continua fiável fora do quadro de teste?
Não necessariamente. Uma equipa treinou um modelo com 30 características linguísticas: em dois corpora de referência, atinge uma pontuação F1 de 0,9734[3]. Mas uma avaliação noutros domínios e com outros geradores revela uma falha importante de generalização[3]. As características que mais contam mudam muito de um corpus para outro, o que indica que os detetores se apoiam muitas vezes em indícios de estilo próprios de um conjunto de dados, e não em sinais estáveis de uma escrita por máquina[3].
Os resultados mudam de um detetor para outro?
Muito. Em 135 389 pares de documentos (manuscritos de redatores não nativos e versões corrigidas por nativos) passados por 13 detetores, as taxas de falsos positivos em textos humanos situam-se entre 0,0 % e 100,0 %[4]. As mesmas correções fazem subir a pontuação de alguns detetores e fazem-na baixar noutros[4]. As variações de pontuação estão correlacionadas com a amplitude da correção[4].
Como funciona
Um detetor atribui uma pontuação a um texto. Os detetores diferem pelo método: marca de água, rede neuronal, classificador sem exemplos ou pesquisa de correspondências[2]. Os investigadores distinguem também os números obtidos num banco de ensaio da fiabilidade em situação real: muitos sistemas exibem uma exatidão elevada em banco de ensaio, mas a sua fiabilidade em condições reais continua incerta[3].
Numa avaliação de trabalhos, o avaliador não conhece, em geral, a maneira de escrever própria de cada estudante[5]. Esta situação faz parte das razões que, segundo a análise matemática, tornam as falsas acusações inevitáveis para um detetor útil[5].
O que faz
- Recebe uma pontuação: ela não deveria ser a única prova num processo disciplinar[5].
- Lê duas pontuações diferentes: as mesmas correções fazem subir a pontuação de alguns detetores e baixar a de outros, e as taxas de falsos positivos em textos humanos situam-se entre 0,0 % e 100,0 % consoante os detetores[4].
- Quer saber se um texto revisto ou corrigido é «humano»: os detetores têm dificuldade em distinguir os graus de intervenção da IA[1], e o estilo de uma correção profissional influencia as suas pontuações[4].
As armadilhas
- Acreditar num número de banco de ensaio: um detetor eficaz num corpus degrada-se nitidamente quando o domínio ou o gerador mudam[3].
- Ignorar o estilo: o estudo sobre os redatores não nativos identifica o estilo de uma correção profissional como uma variável de confusão nos resultados dos detetores[4]. Estudos anteriores relataram taxas elevadas de falsos positivos para o inglês não nativo[4].
- Acreditar que uma ferramenta melhor resolverá o problema: a análise matemática considera que esta restrição não pode ser superada com melhor engenharia[5].
- Confundir um texto retocado por uma IA com um texto gerado por uma IA: os detetores distinguem mal os graus de intervenção da IA[1].
Fontes
- arXiv, «Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing», 21 de fevereiro de 2025. https://arxiv.org/abs/2502.15666 (consultado em 14 de novembro de 2026)
- arXiv, «Can AI-Generated Text be Reliably Detected?», 17 de março de 2023. https://arxiv.org/abs/2303.11156 (consultado em 14 de novembro de 2026)
- arXiv, «Why AI-Generated Text Detection Fails: Evidence from Explainable AI Beyond Benchmark Accuracy», 24 de março de 2026. https://arxiv.org/abs/2603.23146 (consultado em 14 de novembro de 2026)
- arXiv, «Style as a Confound: False Positives in AI Detection of Non-Native Academic Writing», 27 de agosto de 2026. https://arxiv.org/abs/2608.26710 (consultado em 14 de novembro de 2026)
- arXiv, «AI Detectors Fail Diverse Student Populations: A Mathematical Framing of Structural Detection Limits», 11 de março de 2026. https://arxiv.org/abs/2603.20254 (consultado em 14 de novembro de 2026)
Citar este artigo
Brain, «Detetores de texto gerado por IA: porque é que os resultados não bastam», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp519_pt_2026,
author = {Brain},
title = {Detetores de texto gerado por IA: porque é que os resultados não bastam},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pt/articles/detetores-texto-ia-limites/},
note = {CC BY 4.0}
}