Cyberpediadi Brain
ITDEENESFR

Come funziona un grande modello linguistico

Un assistente di IA come ChatGPT scrive un testo plausibile, che nessuno ha verificato. Cosa cambia per le sue risposte, i suoi dati e le sue regole.

In 30 secondi

Dove capita
A ogni domanda posta a un assistente di IA, in uno strumento approvato dall'azienda o no.
Cosa fa il modello
Prosegue un testo, come un modello autoregressivo2.
Cosa può andare storto
Una risposta falsa ma plausibile, un dato inserito che riemerge altrove, un'istruzione nascosta in un documento che dirotta lo strumento.
Il riflesso
Rileggere e verificare ogni risposta importante, non inserire dati sensibili o personali in uno strumento non approvato e applicare la regola d'uso dell'azienda.
Se lo ha già fatto
Avvisare il servizio di sicurezza dell'azienda, senza aspettare di sapere se il dato sia davvero trapelato.

Di cosa si tratta

Un grande modello linguistico (in inglese LLM, da large language model) è il motore degli assistenti di IA che scrivono, riassumono o traducono un testo. Non consulta un archivio di fatti. Viene addestrato su un enorme corpus di testo e scrive proseguendo ciò che gli viene fornito: GPT-3 è descritto come un modello autoregressivo2.

Questo meccanismo spiega ciò che i dipendenti constatano ogni giorno: risposte fluide, spesso corrette, a volte sbagliate ma date con grande sicurezza. Spiega anche perché occorre verificare ciò che lo strumento scrive e non affidargli dati sensibili.

Domande dirette

Un assistente di IA capisce ciò che scrive?

Ciò che si può stabilire è un risultato misurabile: un modello addestrato su un grande corpus di testo svolge compiti di traduzione, di domande e risposte o di calcolo a tre cifre partendo da semplici esempi forniti nel testo della richiesta2. Lo fa senza riaddestramento: istruzioni ed esempi passano soltanto attraverso il testo2.

Perché a volte scrive cose false?

Gli autori di InstructGPT scrivono che ingrandire un modello non lo rende migliore nel seguire l'intenzione dell'utente e che i grandi modelli possono produrre risposte "untruthful, toxic, or simply not helpful to the user"3. Il progetto OWASP colloca la disinformazione ("Misinformation") tra i dieci rischi del suo elenco 2025 per le applicazioni basate su un LLM8.

Il testo che inserisco può riemergere altrove?

È un rischio riconosciuto. L'elenco OWASP 2025 contiene una voce "Sensitive Information Disclosure", la divulgazione di informazioni sensibili, che riguarda il modello come l'applicazione che lo circonda8. Il rapporto del NIST sugli attacchi all'apprendimento automatico cita la violazione della privacy ("privacy breach"), i grandi modelli linguistici e i chatbot tra le sue parole chiave7. Ciò giustifica la regola: ciò che si inserisce in uno strumento non approvato esce dal perimetro che l'azienda controlla.

Un documento o una pagina web possono dare ordini allo strumento?

È il rischio che l'OWASP pone in cima al suo elenco 2025, con il nome "Prompt Injection", l'iniezione di istruzioni8. Il modello riceve le proprie istruzioni attraverso il testo2. Più avanti figura un esempio neutralizzato.

Chi stabilisce le regole d'uso?

L'azienda. Le linee guida dell'NCSC britannico si rivolgono ai fornitori di sistemi di IA e osservano che tali sistemi presentano vulnerabilità nuove, da considerare in aggiunta alle consuete minacce informatiche5. Per il dipendente questo si traduce nell'elenco degli strumenti approvati e nella politica interna dell'organizzazione.

1Come funziona1 min

Il Transformer, presentato nel giugno 2017, è una rete basata unicamente su meccanismi di attenzione, senza ricorrenza né convoluzione1. I suoi autori lo dicono più parallelizzabile e bisognoso di molto meno tempo di addestramento1.

BERT, pubblicato nell'ottobre 2018, è addestrato su testo non etichettato tenendo conto del contesto a sinistra e a destra di ogni parola, poi adattato a un compito preciso4. GPT-3, pubblicato nel maggio 2020, è un modello autoregressivo da 175 miliardi di parametri, dieci volte più di qualsiasi modello non sparso precedente2.

Gli autori di InstructGPT scrivono che questi modelli non sono allineati con i propri utenti ("not aligned with their users")3. Perché seguano le richieste esiste una seconda fase. Per InstructGPT, alcuni annotatori hanno redatto dimostrazioni del comportamento desiderato, poi hanno classificato risposte del modello, e il modello è stato affinato con l'apprendimento per rinforzo a partire da questi riscontri umani3. Risultato riportato: i valutatori preferiscono le risposte del modello da 1,3 miliardi di parametri a quelle di GPT-3 (175 miliardi), e la veridicità migliora3. Gli autori precisano che il modello "still makes simple mistakes"3.

2Cosa fare1 min
  • Tratti ogni risposta come una bozza. Verifichi cifre, date, nomi, riferimenti e citazioni in una fonte che conosce prima di riprenderli in un documento, in una e-mail o in una decisione.
  • Non inserisca in uno strumento non approvato alcun dato personale né alcun documento riservato. Se lo strumento non è nell'elenco dell'azienda, si astenga.
  • Prima di incollare in un assistente un testo ricevuto dall'esterno, si chieda se possa contenere istruzioni destinate alla macchina e rilegga il risultato tenendolo presente.
  • Dia allo strumento il minimo di accessi. La voce OWASP "Excessive Agency" riguarda i sistemi a cui si concede una certa iniziativa8. Più un assistente ha accesso ai suoi messaggi o ai suoi file, più i suoi errori hanno conseguenze ampie.
  • In caso di dubbio o di errore, lo segnali al suo team di sicurezza.

Esempio illustrativo, neutralizzato: un'istruzione nascosta in un documento da riassumere.

Estratto
[Illustrazione, testo fittizio] Verbale della riunione trimestrale...
[Passaggio invisibile o in caratteri minuscoli: istruzione parafrasata,
che chiede all'assistente di inviare il contenuto della conversazione
a hxxps://esempio[.]invalid]
3Le insidie1 min
  • Un testo fluido può essere falso: la qualità della scrittura non dice nulla sulla sua esattezza.
  • Un modello più grande non risolve tutto. Gli autori di InstructGPT scrivono che le dimensioni non garantiscono che il modello segua l'intenzione dell'utente3.
  • Il corpus di addestramento conta. Gli autori di GPT-3 segnalano insiemi di dati su cui il modello fatica e problemi metodologici legati all'addestramento su grandi corpus del web2.
  • Lo strumento comodo ma non approvato. Sfugge alle regole fissate dall'azienda per i suoi strumenti di IA e chi lo usa non sa che fine facciano i dati inseriti.
  • Il quadro di gestione del rischio dell'IA del NIST, pubblicato il 26 gennaio 2023, è destinato a un uso volontario e la pagina indica che è in corso di revisione6. Il 26 luglio 2024 il NIST vi ha aggiunto un profilo dedicato all'IA generativa6. Sono punti di riferimento offerti alle organizzazioni.
4Casi reali1 min

Maggio 2020: articoli di stampa difficili da distinguere

Nell'articolo di presentazione di GPT-3, sottoposto il 28 maggio 2020, gli autori constatano che il modello può produrre articoli di stampa che i valutatori umani distinguono con difficoltà da articoli scritti da persone2. Indicano di discutere le conseguenze di questa constatazione per la società2. Per il dipendente, la lezione pratica è semplice: l'aspetto di un testo non prova né il suo autore né la sua esattezza.

Novembre 2023: linee guida per mettere in sicurezza i sistemi di IA

Il 27 novembre 2023 l'NCSC pubblica in versione 1.0 le sue linee guida, suddivise in quattro fasi: progettazione, sviluppo, distribuzione, esercizio e manutenzione5. Riguardano sistemi che funzionano come previsto, restano disponibili e non rivelano dati sensibili a terzi non autorizzati5. Il NIST pubblica da parte sua nel gennaio 2024 una tassonomia degli attacchi all'apprendimento automatico, accompagnata da un glossario destinato ai lettori non specialisti7. Per quanto riguarda l'OWASP, il progetto è passato da un piccolo gruppo di professionisti della sicurezza nel 2023 a più di 600 esperti collaboratori provenienti da più di 18 paesi9.

Scheda

Identificativo
CP-256
Ala
4. Intelligenza artificiale
Competenza Brain
Capire l'IA (understand_ai)
Riflesso Brain
air-037
Schema
G3 · Sezione anatomica
Lingue
de, en, es, fr, it
Fonti
9 fonti verificate il 3 novembre 2026
Fonti9 fonti
  1. arXiv, «Attention Is All You Need», 12 giugno 2017. https://arxiv.org/abs/1706.03762 (consultato il 3 novembre 2026)
  2. arXiv, «Language Models are Few-Shot Learners», 28 maggio 2020. https://arxiv.org/abs/2005.14165 (consultato il 3 novembre 2026)
  3. arXiv, «Training language models to follow instructions with human feedback», 4 marzo 2022. https://arxiv.org/abs/2203.02155 (consultato il 3 novembre 2026)
  4. arXiv, «BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding», 11 ottobre 2018. https://arxiv.org/abs/1810.04805 (consultato il 3 novembre 2026)
  5. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 novembre 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultato il 3 novembre 2026)
  6. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultato il 3 novembre 2026)
  7. NIST, «Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations», 2 gennaio 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (consultato il 3 novembre 2026)
  8. OWASP, «LLMRisks Archive». https://genai.owasp.org/llm-top-10/ (consultato il 3 novembre 2026)
  9. OWASP, «OWASP Top 10 for Large Language Model Applications | OWASP Foundation». https://owasp.org/projects/top-10-for-large-language-model-applications (consultato il 3 novembre 2026)

Cita questo articolo

Brain, «Come funziona un grande modello linguistico», Cyberpedia, 2026. https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/

BibTeX 
@misc{brain_cp256_it_2026,
  author = {Brain},
  title = {Come funziona un grande modello linguistico},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/},
  note = {CC BY 4.0}
}
Licenza CC BY 4.0