Cyberpediadi Brain

Bias di automazione: smettere di verificare un'IA che ha spesso ragione

Perché si finisce per accettare senza rileggere le risposte di un'IA che sbaglia di rado, e quali abitudini semplici permettono di continuare a verificare.

In questa pagina
  1. 1In 30 secondi
  2. 2Di cosa si tratta
  3. 3Domande dirette
  4. 4Come funziona
  5. 5Cosa fa Lei
  6. 6Le trappole
  7. 7Fonti
  8. 8Cita questo articolo

In 30 secondi

Dove succede
In qualsiasi lavoro in cui un'IA propone un testo, una cifra, uno smistamento o una raccomandazione che Lei convalida in seguito.
Che cosa succede
Si può seguire un consiglio errato della macchina pur avendo inizialmente la risposta giusta[1].
Il riflesso
Prima di convalidare, rileggere una parte della risposta, cercarne la fonte e chiedersi che cosa succede se è sbagliata.
Se è già stato fatto
Rilegga ora il risultato che ha ripreso senza controllarlo, soprattutto se impegna un cliente o una cifra ufficiale, e segnali ogni errore alla persona che l'ha ricevuto.

Di cosa si tratta

Un assistente di IA che dà buone risposte per la maggior parte del tempo cambia a poco a poco il modo in cui lo si legge. I ricercatori chiamano questo scivolamento bias di automazione: la tendenza a seguire i suggerimenti di una macchina senza esaminarli.

Uno studio di patologia illustra il rischio: l'IA vi migliora la performance globale, eppure fa ribaltare delle valutazioni inizialmente corrette[1].

Domande dirette

Riguarda davvero persone competenti?

Sì. In un esperimento online pubblicato nel 2024, 28 esperti di patologia formati nel mestiere dovevano stimare delle percentuali di cellule tumorali. L'IA ha migliorato la loro performance globale, ma nel 7 % dei casi una valutazione inizialmente corretta è stata ribaltata da un consiglio errato della macchina[1].

La pressione del tempo aggrava il problema?

Nello stesso studio, la pressione del tempo non ha fatto comparire il bias più spesso. Sembra tuttavia averlo reso più grave: i partecipanti si appoggiavano di più alle consultazioni negative del sistema, e la loro performance calava in seguito[1].

Un'allerta proveniente da altrove basta a farci dubitare?

Dei ricercatori hanno studiato questa questione in tre esperimenti condotti nei Paesi Bassi, messi online nel 2021. Riguardano la fiducia eccessiva in un consiglio algoritmico, anche quando altre fonti inviano segnali d'allerta, e l'adozione selettiva di tale consiglio quando corrisponde a degli stereotipi[2].

Il livello di conoscenza dell'IA cambia qualcosa?

Sì. Un esperimento preregistrato del 2023, condotto su 9.000 adulti in 9 paesi, ha testato un compito di identificazione. Le persone che conoscono meno l'IA sono un po' più portate a diffidarne. Il bias di automazione compare in seguito a livelli di conoscenza ancora bassi, poi si stabilizza quando la conoscenza dell'IA diventa molto elevata[3]. Anche la difficoltà del compito e la competenza attribuita allo strumento contano[3].

Chi è il più esposto?

Dipende dall'atteggiamento verso l'IA. In un esperimento pubblicato nel 2025 e condotto su 2.784 partecipanti, quelli che diffidavano dell'IA individuavano meglio gli errori. Quelli che le erano favorevoli mostravano una dipendenza eccessiva dai suoi suggerimenti[4].

Una squadra umano + IA fa meglio dell'IA da sola?

Non necessariamente. Gli autori di uno studio pubblicato nel 2025 ricordano che delle squadre umano + IA sono state giudicate meno performanti dell'IA da sola, essendo il bias di automazione la ragione avanzata: gli umani seguono le raccomandazioni dell'IA anche quando sono sbagliate[5].

Che cosa dice l'AI Act?

Per i sistemi di IA ad alto rischio, l'articolo 14 chiede che le persone incaricate della supervisione possano restare consapevoli della «possible tendency of automatically relying or over-relying on the output produced by a high-risk AI system (automation bias)»[6]. Devono anche poter decidere di non usare il sistema, o di ignorare, sostituire o annullare la sua uscita[6]. Un'analisi giuridica del 2025 ritiene che l'accento posto sui fornitori non tratti abbastanza la progettazione e il contesto come cause del bias[7].

Come funziona

Gli autori dello studio di patologia definiscono il bias come il fatto di seguire senza spirito critico delle indicazioni automatizzate[1].

Conta anche il modo in cui è organizzato il lavoro. Nell'esperimento con 2.784 partecipanti, esigere una correzione per ogni errore segnalato ha ridotto il coinvolgimento e aumentato l'accettazione di suggerimenti sbagliati[4]. Gli autori ne ricavano che il successo dipende anche da chi rilegge le uscite dell'IA e dal modo in cui la rilettura è organizzata[4].

Cosa fa Lei

Queste abitudini riprendono delle raccomandazioni di Microsoft destinate alle squadre che costruiscono applicazioni su Azure OpenAI[8], oltre ai risultati degli studi qui sopra.

  • Rilegga una parte della risposta prima di convalidare, e la modifichi invece di accettarla così com'è. Microsoft raccomanda alle squadre di progettare lo strumento in modo che gli utenti rileggano e correggano le uscite prima di accettarle[8].
  • Cerchi la fonte. Quando uno strumento cita i suoi riferimenti, si vede da dove viene il contenuto generato[8]. Se lo strumento non ne dà, cerchi l'informazione altrove.
  • Controlli per prime le cifre. Microsoft dà l'esempio di un sistema meno preciso con i numeri: raccomanda di segnalarli e di invitare a verificarli o a consultare fonti esterne[8].
  • Testi il codice prima di accettarlo. Per i suggerimenti di codice, Microsoft ricorda allo sviluppatore di rileggerli e di testarli[8].
  • Si chieda che cosa succede se la risposta è sbagliata. Microsoft osserva che il rischio legato alle inesattezze è più alto per un riassunto di appunti di un medico che per un riassunto di articoli online[8].
  • Mantenga la responsabilità del contenuto finale. Microsoft raccomanda di ricordare agli utenti che rispondono del contenuto che convalidano[8].

Le trappole

  • Credere che lo strumento renda inutile la verifica. Nello studio di patologia, la performance globale progrediva con l'IA e il bias esisteva comunque[1].
  • Credere che tutti i dispositivi di aiuto abbiano lo stesso effetto. In uno studio su 108 partecipanti relativo a una decisione di presa in carico del diabete, i livelli di fiducia dell'IA, le spiegazioni testuali e le visualizzazioni di performance hanno migliorato i risultati. Il riscontro umano e le domande poste dall'IA hanno incoraggiato la riflessione, ma hanno spesso ridotto la performance aumentando lo sforzo cognitivo[5].
  • Pensare che la legge risolva il tema. L'AI Act chiede che i sistemi ad alto rischio siano forniti in modo che le persone incaricate della supervisione possano restare consapevoli del bias[6], ma l'analisi giuridica citata sopra si interroga sull'opportunità di regolamentare direttamente il rischio invece di esigere soltanto una sensibilizzazione[7].

Fonti

  1. arXiv, «Automation Bias in AI-Assisted Medical Decision-Making under Time Pressure in Computational Pathology», 1 novembre 2024. https://arxiv.org/abs/2411.00998 (consultato il 14 novembre 2026)
  2. arXiv, «Human-AI Interactions in Public Sector Decision-Making: "Automation Bias" and "Selective Adherence" to Algorithmic Advice», 3 marzo 2021. https://arxiv.org/abs/2103.02381 (consultato il 14 novembre 2026)
  3. arXiv, «Bending the Automation Bias Curve: A Study of Human and AI-based Decision Making in National Security Contexts», 28 giugno 2023. https://arxiv.org/abs/2306.16507 (consultato il 14 novembre 2026)
  4. arXiv, «Bias in the Loop: How Humans Evaluate AI-Generated Suggestions», 10 settembre 2025. https://arxiv.org/abs/2509.08514 (consultato il 14 novembre 2026)
  5. arXiv, «Engaging with AI: How Interface Design Shapes Human-AI Collaboration in High-Stakes Decision-Making», 28 gennaio 2025. https://arxiv.org/abs/2501.16627 (consultato il 14 novembre 2026)
  6. Commission européenne, «AI Act Service Desk - Article 14: Human oversight». https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14 (consultato il 14 novembre 2026)
  7. arXiv, «Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI», 14 febbraio 2025. https://arxiv.org/abs/2502.10036 (consultato il 14 novembre 2026)
  8. Microsoft, «Overview of responsible AI practices for Azure OpenAI models». https://learn.microsoft.com/en-us/azure/foundry/responsible-ai/openai/overview (consultato il 14 novembre 2026)