--- id: CP-256 slug: funzionamento-llm-token-successivo lang: it title: Come funziona un grande modello linguistico description: Un assistente di IA come ChatGPT scrive un testo plausibile, che nessuno ha verificato. Cosa cambia per le sue risposte, i suoi dati e le sue regole. canonical_url: https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/ markdown_url: https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Come funziona un grande modello linguistico», Cyberpedia, 2026. https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-037 schema: G3 updated: "2026-11-03" translations: it: https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/ fr: https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ en: https://startbrain.io/cyberpedia/en/articles/how-llms-work-next-token/ de: https://startbrain.io/cyberpedia/de/articles/funktionsweise-llm-naechstes-token/ es: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ nl: https://startbrain.io/cyberpedia/nl/articles/werking-llm-volgende-token/ sources: - "n": 1 title: Attention Is All You Need publisher: arXiv url: https://arxiv.org/abs/1706.03762 published: "2017-06-12" accessed: "2026-11-03" - "n": 2 title: Language Models are Few-Shot Learners publisher: arXiv url: https://arxiv.org/abs/2005.14165 published: "2020-05-28" accessed: "2026-11-03" - "n": 3 title: Training language models to follow instructions with human feedback publisher: arXiv url: https://arxiv.org/abs/2203.02155 published: "2022-03-04" accessed: "2026-11-03" - "n": 4 title: "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" publisher: arXiv url: https://arxiv.org/abs/1810.04805 published: "2018-10-11" accessed: "2026-11-03" - "n": 5 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 6 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 7 title: "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf published: "2024-01-02" accessed: "2026-11-03" - "n": 8 title: LLMRisks Archive publisher: OWASP url: https://genai.owasp.org/llm-top-10/ accessed: "2026-11-03" - "n": 9 title: OWASP Top 10 for Large Language Model Applications | OWASP Foundation publisher: OWASP url: https://owasp.org/projects/top-10-for-large-language-model-applications accessed: "2026-11-03" --- # Come funziona un grande modello linguistico Un grande modello linguistico (in inglese LLM, da large language model) è il motore degli assistenti di IA che scrivono, riassumono o traducono un testo. Non consulta un archivio di fatti. Viene addestrato su un enorme corpus di testo e scrive proseguendo ciò che gli viene fornito: GPT-3 è descritto come un modello autoregressivo [2]. Questo meccanismo spiega ciò che i dipendenti constatano ogni giorno: risposte fluide, spesso corrette, a volte sbagliate ma date con grande sicurezza. Spiega anche perché occorre verificare ciò che lo strumento scrive e non affidargli dati sensibili. ## In 30 secondi - Dove capita: a ogni domanda posta a un assistente di IA, in uno strumento approvato dall'azienda o no. - Cosa fa il modello: prosegue un testo, come un modello autoregressivo [2]. - Cosa può andare storto: una risposta falsa ma plausibile, un dato inserito che riemerge altrove, un'istruzione nascosta in un documento che dirotta lo strumento. - Il riflesso: rileggere e verificare ogni risposta importante, non inserire dati sensibili o personali in uno strumento non approvato e applicare la regola d'uso dell'azienda. - Se lo ha già fatto: avvisare il servizio di sicurezza dell'azienda, senza aspettare di sapere se il dato sia davvero trapelato. ## Domande dirette ### Un assistente di IA capisce ciò che scrive? Ciò che si può stabilire è un risultato misurabile: un modello addestrato su un grande corpus di testo svolge compiti di traduzione, di domande e risposte o di calcolo a tre cifre partendo da semplici esempi forniti nel testo della richiesta [2]. Lo fa senza riaddestramento: istruzioni ed esempi passano soltanto attraverso il testo [2]. ### Perché a volte scrive cose false? Gli autori di InstructGPT scrivono che ingrandire un modello non lo rende migliore nel seguire l'intenzione dell'utente e che i grandi modelli possono produrre risposte "untruthful, toxic, or simply not helpful to the user" [3]. Il progetto OWASP colloca la disinformazione ("Misinformation") tra i dieci rischi del suo elenco 2025 per le applicazioni basate su un LLM [8]. ### Il testo che inserisco può riemergere altrove? È un rischio riconosciuto. L'elenco OWASP 2025 contiene una voce "Sensitive Information Disclosure", la divulgazione di informazioni sensibili, che riguarda il modello come l'applicazione che lo circonda [8]. Il rapporto del NIST sugli attacchi all'apprendimento automatico cita la violazione della privacy ("privacy breach"), i grandi modelli linguistici e i chatbot tra le sue parole chiave [7]. Ciò giustifica la regola: ciò che si inserisce in uno strumento non approvato esce dal perimetro che l'azienda controlla. ### Un documento o una pagina web possono dare ordini allo strumento? È il rischio che l'OWASP pone in cima al suo elenco 2025, con il nome "Prompt Injection", l'iniezione di istruzioni [8]. Il modello riceve le proprie istruzioni attraverso il testo [2]. Più avanti figura un esempio neutralizzato. ### Chi stabilisce le regole d'uso? L'azienda. Le linee guida dell'NCSC britannico si rivolgono ai fornitori di sistemi di IA e osservano che tali sistemi presentano vulnerabilità nuove, da considerare in aggiunta alle consuete minacce informatiche [5]. Per il dipendente questo si traduce nell'elenco degli strumenti approvati e nella politica interna dell'organizzazione. ## Come funziona Il Transformer, presentato nel giugno 2017, è una rete basata unicamente su meccanismi di attenzione, senza ricorrenza né convoluzione [1]. I suoi autori lo dicono più parallelizzabile e bisognoso di molto meno tempo di addestramento [1]. BERT, pubblicato nell'ottobre 2018, è addestrato su testo non etichettato tenendo conto del contesto a sinistra e a destra di ogni parola, poi adattato a un compito preciso [4]. GPT-3, pubblicato nel maggio 2020, è un modello autoregressivo da 175 miliardi di parametri, dieci volte più di qualsiasi modello non sparso precedente [2]. Gli autori di InstructGPT scrivono che questi modelli non sono allineati con i propri utenti ("not aligned with their users") [3]. Perché seguano le richieste esiste una seconda fase. Per InstructGPT, alcuni annotatori hanno redatto dimostrazioni del comportamento desiderato, poi hanno classificato risposte del modello, e il modello è stato affinato con l'apprendimento per rinforzo a partire da questi riscontri umani [3]. Risultato riportato: i valutatori preferiscono le risposte del modello da 1,3 miliardi di parametri a quelle di GPT-3 (175 miliardi), e la veridicità migliora [3]. Gli autori precisano che il modello "still makes simple mistakes" [3]. ## Cosa fare - Tratti ogni risposta come una bozza. Verifichi cifre, date, nomi, riferimenti e citazioni in una fonte che conosce prima di riprenderli in un documento, in una e-mail o in una decisione. - Non inserisca in uno strumento non approvato alcun dato personale né alcun documento riservato. Se lo strumento non è nell'elenco dell'azienda, si astenga. - Prima di incollare in un assistente un testo ricevuto dall'esterno, si chieda se possa contenere istruzioni destinate alla macchina e rilegga il risultato tenendolo presente. - Dia allo strumento il minimo di accessi. La voce OWASP "Excessive Agency" riguarda i sistemi a cui si concede una certa iniziativa [8]. Più un assistente ha accesso ai suoi messaggi o ai suoi file, più i suoi errori hanno conseguenze ampie. - In caso di dubbio o di errore, lo segnali al suo team di sicurezza. Esempio illustrativo, neutralizzato: un'istruzione nascosta in un documento da riassumere. ```text [Illustrazione, testo fittizio] Verbale della riunione trimestrale... [Passaggio invisibile o in caratteri minuscoli: istruzione parafrasata, che chiede all'assistente di inviare il contenuto della conversazione a hxxps://esempio[.]invalid] ``` ## Le insidie - Un testo fluido può essere falso: la qualità della scrittura non dice nulla sulla sua esattezza. - Un modello più grande non risolve tutto. Gli autori di InstructGPT scrivono che le dimensioni non garantiscono che il modello segua l'intenzione dell'utente [3]. - Il corpus di addestramento conta. Gli autori di GPT-3 segnalano insiemi di dati su cui il modello fatica e problemi metodologici legati all'addestramento su grandi corpus del web [2]. - Lo strumento comodo ma non approvato. Sfugge alle regole fissate dall'azienda per i suoi strumenti di IA e chi lo usa non sa che fine facciano i dati inseriti. - Il quadro di gestione del rischio dell'IA del NIST, pubblicato il 26 gennaio 2023, è destinato a un uso volontario e la pagina indica che è in corso di revisione [6]. Il 26 luglio 2024 il NIST vi ha aggiunto un profilo dedicato all'IA generativa [6]. Sono punti di riferimento offerti alle organizzazioni. ## Casi reali ### Maggio 2020: articoli di stampa difficili da distinguere Nell'articolo di presentazione di GPT-3, sottoposto il 28 maggio 2020, gli autori constatano che il modello può produrre articoli di stampa che i valutatori umani distinguono con difficoltà da articoli scritti da persone [2]. Indicano di discutere le conseguenze di questa constatazione per la società [2]. Per il dipendente, la lezione pratica è semplice: l'aspetto di un testo non prova né il suo autore né la sua esattezza. ### Novembre 2023: linee guida per mettere in sicurezza i sistemi di IA Il 27 novembre 2023 l'NCSC pubblica in versione 1.0 le sue linee guida, suddivise in quattro fasi: progettazione, sviluppo, distribuzione, esercizio e manutenzione [5]. Riguardano sistemi che funzionano come previsto, restano disponibili e non rivelano dati sensibili a terzi non autorizzati [5]. Il NIST pubblica da parte sua nel gennaio 2024 una tassonomia degli attacchi all'apprendimento automatico, accompagnata da un glossario destinato ai lettori non specialisti [7]. Per quanto riguarda l'OWASP, il progetto è passato da un piccolo gruppo di professionisti della sicurezza nel 2023 a più di 600 esperti collaboratori provenienti da più di 18 paesi [9]. ## Fonti 1. arXiv, «Attention Is All You Need», 12 giugno 2017. https://arxiv.org/abs/1706.03762 (consultato il 3 novembre 2026) 2. arXiv, «Language Models are Few-Shot Learners», 28 maggio 2020. https://arxiv.org/abs/2005.14165 (consultato il 3 novembre 2026) 3. arXiv, «Training language models to follow instructions with human feedback», 4 marzo 2022. https://arxiv.org/abs/2203.02155 (consultato il 3 novembre 2026) 4. arXiv, «BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding», 11 ottobre 2018. https://arxiv.org/abs/1810.04805 (consultato il 3 novembre 2026) 5. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 novembre 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultato il 3 novembre 2026) 6. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultato il 3 novembre 2026) 7. NIST, «Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations», 2 gennaio 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (consultato il 3 novembre 2026) 8. OWASP, «LLMRisks Archive». https://genai.owasp.org/llm-top-10/ (consultato il 3 novembre 2026) 9. OWASP, «OWASP Top 10 for Large Language Model Applications | OWASP Foundation». https://owasp.org/projects/top-10-for-large-language-model-applications (consultato il 3 novembre 2026) --- Fonte originale: Cyberpedia, l'enciclopedia pubblica di cybersicurezza e IA pubblicata da Brain. Versione canonica: https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/ Puoi riutilizzare liberamente questo testo con licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), a condizione di citare «Brain, Cyberpedia» con un link all'indirizzo qui sopra.