Cyberpediadi Brain

Apprendimento supervisionato, non supervisionato e per rinforzo

Come impara un sistema di IA: esempi etichettati, dati senza etichetta, tentativi e ricompense. E perché i dati di addestramento contano.

In questa pagina
  1. 1In 30 secondi
  2. 2Di cosa si tratta
  3. 3Domande dirette
  4. 4Come funziona
  5. 5Le insidie
  6. 6Fonti
  7. 7Cita questo articolo

In 30 secondi

Dove succede
Negli strumenti che classificano messaggi, individuano attività sospette o governano un agente, cioè un programma che apprende per tentativi e riceve un riscontro sulle proprie azioni[1][2].
Cosa vuole l'attaccante
Falsare l'addestramento inserendo o modificando degli esempi, ciò che il NIST chiama avvelenamento dei dati[2].
Il riflesso
Chiedersi da dove provengono i dati che sono serviti ad addestrare uno strumento prima di fidarsi del suo risultato, perché un modello è spesso valido solo quanto i dati che gli si forniscono[1].

Di cosa si tratta

Un sistema di IA comune non è stato programmato regola per regola. Secondo Google[1], l'apprendimento automatico (machine learning) permette a un sistema di imparare e di migliorare da solo, senza essere programmato esplicitamente, fornendogli grandi quantità di dati. Il modo in cui gli si forniscono questi dati cambia ciò che apprende.

Google[1] presenta quattro tipi di modelli. Tre sono descritti qui: l'apprendimento supervisionato, l'apprendimento non supervisionato e l'apprendimento per rinforzo. Il quarto, detto semisupervisionato, è un approccio misto in cui solo una parte dei dati è etichettata[1]. Per un dipendente conta un punto: un modello dipende dai dati che lo hanno addestrato[1], e un attaccante può cercare di falsarli[2].

Domande dirette

Qual è la differenza tra i tre modi di apprendere?

Tutto dipende da ciò che il sistema riceve durante l'addestramento. Nell'apprendimento supervisionato riceve degli esempi etichettati[1]. Nell'apprendimento non supervisionato riceve dei dati senza etichetta[1]. Nell'apprendimento per rinforzo, un agente interagisce con un ambiente e apprende una politica, cioè un modo di agire, che massimizza la sua ricompensa[2].

Uno strumento di IA continua a imparare una volta in servizio?

Il NCSC (Regno Unito)[3] definisce l'apprendimento continuo come l'insieme dei metodi che regolano o prolungano l'addestramento di un modello una volta distribuito, a partire dalle interazioni e dai riscontri d'uso. Google[1] indica da parte sua che un modello può essere riaddestrato con nuovi dati e ricevere riscontri da utenti reali. Il NIST[2] osserva che dei rilevatori di attacchi a sistemi industriali sono spesso riaddestrati con dati raccolti durante il loro funzionamento, il che offre a un attaccante la possibilità di avvelenarli.

Che cos'è l'avvelenamento dei dati?

Il NIST[2] definisce gli attacchi di avvelenamento come attacchi condotti durante la fase di addestramento. In un avvelenamento dei dati, l'avversario controlla una parte dei dati di addestramento inserendo o modificando degli esempi[2]. L'ENISA[4] colloca l'avvelenamento dei dati tra le minacce che riguardano i sistemi di apprendimento automatico, insieme agli attacchi avversariali e all'esfiltrazione di dati.

Come funziona

Apprendimento supervisionato: imparare con esempi corretti

Il modello riceve dati etichettati e impara a collegare una caratteristica a un'etichetta[1]. Google[1] porta l'esempio del riconoscimento delle mele: per addestrare l'algoritmo, gli si mostrano immagini etichettate come mele. La risposta attesa è nota in anticipo[1].

Il NIST[2] distingue due famiglie di tecniche supervisionate: la classificazione, in cui le etichette previste sono discrete, e la regressione, in cui sono continue. Microsoft[5] osserva che l'output di un modello di apprendimento automatico è per lo più un valore numerico, come un punteggio o una classificazione.

Il NIST[2] cita dei classificatori di spam addestrati su esempi di e-mail. Descrive anche il caso della classificazione dei software dannosi, in cui dei file possono essere sottoposti da attaccanti a piattaforme di intelligence sulle minacce e in cui l'etichettatura avviene con firme di antivirus o altri metodi esterni[2].

Apprendimento non supervisionato: trovare dei gruppi senza istruzioni

Il modello apprende degli schemi a partire da dati non etichettati[1]. La "correctness" dell'output non è nota in anticipo: l'algoritmo apprende dai dati senza intervento umano e li classifica in gruppi in base ai loro attributi[1]. Se gli si danno immagini di mele e di banane, le separa da solo[1]. Google[1] lo ritiene efficace per la modellazione descrittiva e la ricerca di schemi, e cita il raggruppamento con K-means tra gli algoritmi comuni.

In materia di sicurezza, il NIST[2] menziona dei modelli non supervisionati usati per il raggruppamento dei software dannosi e per il rilevamento di anomalie nel traffico di rete. Rileva che il loro avvelenamento è stato dimostrato in entrambi questi usi[2].

Apprendimento per rinforzo: imparare provando

Google[1] lo descrive come un apprendimento "learn by doing", per tentativi ed errori. Un agente apprende un compito attraverso un ciclo di riscontro, finché la sua prestazione raggiunge un livello desiderabile. Riceve un rinforzo positivo quando riesce e negativo quando fallisce[1]. Nell'esempio di Google[1], dei ricercatori hanno insegnato a un algoritmo a giocare a go: senza conoscere le regole, ha spostato le pedine a caso e ha finito per battere un giocatore umano.

Il NCSC (Regno Unito)[3] precisa che i suoi principi di sicurezza non coprono specificamente l'apprendimento per rinforzo, perché questa tecnica si sviluppa in modo diverso. Possono servire da base, ma sono probabilmente necessarie precauzioni di sicurezza supplementari[3].

Le insidie

Dati di cattiva qualità

Secondo Google[1], supponendo dati di addestramento di buona qualità, più esempi riceve l'algoritmo, più il modello diventa preciso. Al contrario, un algoritmo alimentato con un insieme di dati distorto produce risultati distorti[1]. Ottenere e ripulire dati strutturati è un primo passo importante per l'apprendimento supervisionato, e può essere difficile quando i dati sono sparsi in più punti dell'organizzazione[1].

Dati avvelenati

Il NIST[2] scrive che l'avvelenamento può essere organizzato su larga scala: un avversario con mezzi finanziari limitati potrebbe controllare una frazione degli insiemi di dati pubblici usati per l'addestramento. Può degradare il modello su tutti gli esempi, o provocare errori su un piccolo numero di esempi mirati[2]. Un metodo semplice, l'inversione delle etichette, consiste nel fornire esempi di addestramento la cui etichetta è falsa o modificata[2].

Le difese sono disomogenee. Gli attacchi che degradano il modello su tutti gli esempi sono in genere rilevabili monitorando le usuali misure di prestazione, come la precisione o il richiamo[2]. Gli attacchi mirati sono invece "notoriously challenging to defend against" secondo il NIST[2], che cita come misure il controllo degli accessi ai dati di addestramento, la pulizia e la convalida dei dati, e l'attestazione della loro provenienza e della loro integrità.

Il NCSC (Regno Unito)[3] ricorda che i sistemi di IA e di apprendimento automatico sono soggetti a vulnerabilità nuove, da considerare in aggiunta alle minacce classiche, e che la sicurezza deve essere un requisito lungo tutto il ciclo di vita del sistema.

Un modello può essere ingannato senza toccare il suo addestramento

Un attacco di evasione modifica gli esempi presentati a un modello già addestrato per cambiarne la previsione[2]. Il NIST[2] cita lo studio di un rilevatore commerciale di pagine di phishing: su 4.600 campioni che il sistema giudicava incerti, gli autori hanno individuato 100 esempi avversariali. Gli attaccanti non vi usavano metodi di ottimizzazione, ma tecniche semplici come il ritaglio, il mascheramento o la sfocatura dell'immagine[2].

Il NIST[2] aggiunge che progettare modelli che resistano all'evasione mantenendo la loro precisione resta un problema aperto. Alcune evasioni contro rilevatori di software dannosi e contro un sistema di protezione della posta sono state dimostrate da ricercatori, ma non hanno dato luogo ad attacchi nella pratica[2].

Esigenze di dati variabili

Microsoft[5] indica che l'apprendimento automatico può funzionare con piccole quantità di dati, mentre l'apprendimento profondo ha bisogno di grandi quantità di dati di addestramento.

Fonti

  1. Google, «What is Machine Learning? Types and uses». https://cloud.google.com/learn/what-is-machine-learning (consultato il 14 novembre 2026)
  2. NIST, «Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2025.pdf (consultato il 14 novembre 2026)
  3. NCSC (Royaume-Uni), «Principles for security of Machine learning ML», 22 maggio 2024. https://www.ncsc.gov.uk/collection/machine-learning-principles (consultato il 14 novembre 2026)
  4. ENISA, «Securing Machine Learning Algorithms | ENISA», 14 dicembre 2021. https://www.enisa.europa.eu/publications/securing-machine-learning-algorithms (consultato il 14 novembre 2026)
  5. Microsoft, «Deep Learning vs. Machine Learning - Azure Machine Learning». https://learn.microsoft.com/en-us/azure/machine-learning/concept-deep-learning-vs-machine-learning?view=azureml-api-2 (consultato il 14 novembre 2026)