Cyberpediadi Brain

Regolamento di utilizzo dell'IA: autorizzare, disciplinare, vietare

A cosa serve un regolamento di utilizzo dell'IA, cosa contiene e cosa fa Lei prima di aprire un nuovo strumento di IA generativa.

In questa pagina
  1. 1In 30 secondi
  2. 2Di cosa si tratta
  3. 3Domande dirette
  4. 4Come funziona
  5. 5Cosa fa Lei
  6. 6Le insidie
  7. 7Fonti
  8. 8Cita questo articolo

In 30 secondi

Dove succede
Non appena un dipendente usa un'IA generativa per produrre contenuti, rielaborare un testo (correzione, traduzione) o analizzare documenti (selezione, sintesi)[2].
Il rischio
Secondo l'ANSSI, con la maggior parte dei servizi online, i dati inviati sono raccolti e usati dal fornitore per ottimizzare i propri modelli[3].
Il riflesso
Leggere il regolamento prima di usare un nuovo strumento e non inserire alcun dato sensibile in un servizio di IA pubblico online[3]; in caso di problema, rivolgersi al punto di contatto che l'organismo può aver designato per segnalare le difficoltà di ordine etico[2].

Di cosa si tratta

Un regolamento di utilizzo dell'IA è un documento interno che dice ai dipendenti quali usi dell'IA generativa sono consentiti e quali sono esclusi. La CNIL raccomanda di disciplinare gli usi definendo un elenco di utilizzi autorizzati e vietati[1].

Questo articolo ordina queste regole in tre colonne: ciò che è consentito con gli strumenti validati, ciò che richiede un'autorizzazione, ciò che è vietato. Indica anche cosa fa Lei prima di usare un nuovo strumento e a chi rivolgere le Sue domande.

Domande dirette

Perché un regolamento?

Secondo la CNIL, nel caso generale è l'organismo utilizzatore a rispondere legalmente in caso di cattivo uso dell'IA da parte del suo personale[2]. Raccomanda quindi a ogni organismo di disciplinare l'uso con politiche o regolamenti interni, che definiscano chiaramente gli usi autorizzati e vietati[2].

Che cosa contiene un regolamento?

La CNIL porta come esempi di divieti quello di non fornire dati personali al sistema e quello di non affidargli una decisione[1]. A seconda della modalità di distribuzione, converrà anche vietare la fornitura di alcuni dati riservati, per esempio quelli coperti dal segreto industriale e commerciale[2]. Raccomanda di formare gli utenti in modo adeguato e di svolgere controlli regolari[2].

Chi partecipa alla redazione?

La CNIL raccomanda di coinvolgere fin dall'inizio tutte le parti interessate: il responsabile della protezione dei dati (DPO), il responsabile dei sistemi informativi, il RSSI e i responsabili delle funzioni aziendali[1]. Il DPO può utilmente svolgere un ruolo di governance, se del caso insieme al RSSI, e questa designazione può offrire agli utenti un punto di contatto per segnalare i loro problemi[2].

Il regolamento europeo sull'IA chiede di formare i dipendenti?

La Commissione europea spiega che l'articolo 4 del regolamento sull'IA chiede ai fornitori e ai deployer di sistemi di IA di adottare misure per favorire l'alfabetizzazione in materia di IA del loro personale e delle altre persone che usano questi sistemi per loro conto[4]. Queste misure tengono conto delle conoscenze tecniche, dell'esperienza, dell'istruzione e della formazione di tali persone[4].

La FAQ precisa che l'articolo 4 non impone di misurare le conoscenze dei dipendenti, né di garantire un livello preciso di alfabetizzazione a ogni persona[4]. Indica anche che non è necessario alcun certificato (l'organizzazione può tenere un registro interno delle formazioni) e che non è imposta alcuna struttura di governance particolare[4]. Non fissa un formato di formazione obbligatorio, ma ritiene che affidarsi alle istruzioni per l'uso, o chiedere al personale di leggerle, possa essere inefficace[4].

Secondo la stessa FAQ, l'articolo 4 è entrato in applicazione il 2 febbraio 2025[4]. Le regole di vigilanza e di sanzione si applicano dal 2 agosto 2026, e la vigilanza spetta alle autorità nazionali di vigilanza del mercato[4]. Il Digital Omnibus sull'IA, entrato in vigore a metà luglio 2026, ha modificato l'articolo 4: l'obbligo di alfabetizzazione in materia di IA resta per i fornitori e i deployer, ma non è imposto alcun livello preciso o sufficiente[4].

Un'azienda i cui dipendenti usano ChatGPT per redigere o tradurre è interessata?

La Commissione risponde di sì: questi dipendenti dovrebbero essere informati dei rischi propri dello strumento, per esempio l'allucinazione[4].

Posso inserire dati dell'azienda in un servizio pubblico di IA?

L'ANSSI scrive che dei dati sensibili non devono assolutamente essere inviati a servizi di IA generativa di terzi come ChatGPT, Gemini, Copilot, DeepL o Perplexity[3]. Colloca in questi dati le password e le chiavi API, i dati personali e i dati contrattuali, giuridici e finanziari dell'azienda[3]. L'NCSC (Regno Unito) raccomanda di non includere informazioni sensibili nelle richieste rivolte ai LLM pubblici, né di sottoporre richieste che creerebbero problemi se fossero rese pubbliche[5].

Come funziona

La CNIL consiglia di partire da un'esigenza concreta piuttosto che distribuire un'IA generativa senza uno scopo preciso[1]. La modalità di distribuzione conta: per usi non riservati, si può prendere in considerazione un servizio per il grande pubblico con garanzie appropriate. Se l'uso consiste nel fornire dati personali o documentazione sensibile, appare generalmente più opportuno e più sicuro, secondo la CNIL, privilegiare una soluzione installata in sede, che limita i rischi di estrazione di dati presso un terzo[2]. Con un'API, il controllo del sistema è quasi esclusivamente nelle mani del fornitore, da cui l'indicazione di evitare per quanto possibile di inserirvi dati personali[2].

Dei riferimenti aiutano le organizzazioni a valutare questi rischi. Il quadro di gestione dei rischi dell'IA del NIST è destinato a un uso volontario[6]. Il suo profilo dedicato all'IA generativa, pubblicato il 26 luglio 2024, può aiutare le organizzazioni a individuare i rischi propri dell'IA generativa[6].

Sul fronte delle minacce, l'NCSC (Regno Unito) descrive l'iniezione di prompt, in cui un attaccante crea un input concepito perché il modello si comporti in modo imprevisto, per esempio rivelando informazioni riservate[7]. L'OWASP colloca la divulgazione di informazioni sensibili tra i rischi dei LLM: dati personali, dati finanziari, cartelle sanitarie, dati riservati d'impresa, credenziali di sicurezza e documenti giuridici[8].

Cosa fa Lei

Consentito con gli strumenti validati

Sono gli usi che il regolamento elenca, sugli strumenti che l'organismo ha scelto. La CNIL distingue tre categorie di compiti: generare contenuti, rielaborare un contenuto esistente (correzione, traduzione) e analizzare dati (selezione, sintesi di documenti)[2]. Porta un esempio: mettere un agente conversazionale a disposizione dei dipendenti per facilitare la redazione presenta meno rischi che usare un sistema per aiutare a decidere nei confronti di clienti, di candidati o di cittadini[2].

In questo quadro, la CNIL indica che gli utenti dovrebbero sottoporre solo informazioni che sono autorizzati a condividere, e avere uno sguardo critico sui risultati: esattezza, plagio, bias[2]. Secondo la CNIL, una buona pratica consiste nel non riprodurre mai tali e quali i risultati del sistema[2].

Ciò che richiede un'autorizzazione

La CNIL prende in considerazione un servizio per il grande pubblico per usi non riservati, con garanzie appropriate: evitare gli account creati con indirizzi personali e, se del caso, disattivare la possibilità per il fornitore di riutilizzare i dati d'uso[2]. Quando i dati rischiano di essere riutilizzati dal fornitore, l'organismo conduce un'analisi caso per caso per sapere se vieta qualsiasi dato personale o solo alcune categorie[2].

Quando uno strumento si collega alla posta elettronica, ai documenti o ai repository di codice, l'ANSSI chiede di rivederne i diritti di accesso fin dall'attivazione, poi regolarmente (per esempio ogni mese)[3].

Vietato

Il regolamento può vietare, per esempio, di fornire dati personali al sistema e di affidargli una decisione[1]. L'ANSSI scrive da parte sua che i dati sensibili non devono essere inviati a servizi di IA generativa di terzi[3]. La CNIL cita tra i dati da proteggere quelli coperti dal segreto commerciale o da obblighi deontologici, quando si usa un servizio per il grande pubblico[2]. Per il codice, l'ANSSI raccomanda fortemente di non far generare da un'IA blocchi di codice destinati ai moduli critici: crittografia, gestione dei diritti di accesso, elaborazione di dati sensibili[3].

Prima di usare un nuovo strumento

  • Verificare che figuri nel regolamento e che l'uso previsto vi sia consentito.
  • Partire dal presupposto che il fornitore riutilizzi i dati inseriti: secondo l'NCSC, le richieste sono archiviate e quasi certamente usate, a un certo punto, per sviluppare il servizio o il modello, da cui la necessità di comprendere le condizioni d'uso e l'informativa sulla privacy prima di porre una domanda sensibile[5].
  • Usare un account professionale e non un indirizzo personale[2].
  • In caso di domanda o di problema, rivolgersi al punto di contatto che l'organismo ha designato, se esiste: la CNIL indica che la designazione di un DPO, che può utilmente svolgere un ruolo di governance, se del caso insieme al RSSI, può offrire agli utenti un punto di contatto per segnalare i loro problemi[2].

Le insidie

Una risposta plausibile non è per forza esatta: la CNIL osserva che questi sistemi possono generare risultati inesatti che sembrano plausibili, e che un'eccessiva fiducia senza verifica può portare a decisioni errate[2]. Mette anche in guardia contro il bias di automazione, cioè la perdita di fiducia o di competenza legata a un uso eccessivo[2].

Una domanda può essere sensibile a causa di chi la pone. L'NCSC (Regno Unito) porta l'esempio di un dirigente che chiedesse come licenziare un dipendente, e ricorda che le richieste fatte con uno stesso account possono essere aggregate[5].

Un'istruzione data allo strumento non sostituisce la regola. L'OWASP osserva che le restrizioni inserite nel prompt di sistema possono non essere rispettate ed essere aggirate con l'iniezione di prompt[8].

Infine, l'onere non dovrebbe gravare sul solo utente: l'NCSC (Regno Unito) scrive che i clienti in genere non hanno la competenza per affrontare da soli i rischi legati all'IA, e che gli sviluppatori dovrebbero assumersi la responsabilità della sicurezza dei loro clienti[7].

Fonti

  1. CNIL, «Comment déployer une IA générative ? La CNIL apporte de premières précisions», 18 luglio 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consultato il 14 novembre 2026)
  2. CNIL, «Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative», 18 luglio 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consultato il 14 novembre 2026)
  3. ANSSI, «Security recommendations for a generative AI system», 29 aprile 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consultato il 14 novembre 2026)
  4. Commission européenne, «AI Literacy - Questions & Answers». https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers (consultato il 14 novembre 2026)
  5. NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 marzo 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultato il 14 novembre 2026)
  6. NIST, «AI Risk Management Framework», 26 gennaio 2023. https://www.nist.gov/itl/ai-risk-management-framework (consultato il 14 novembre 2026)
  7. NCSC (Royaume-Uni), «AI and cyber security: what you need to know», 13 febbraio 2024. https://www.ncsc.gov.uk/guidance/ai-and-cyber-security-what-you-need-to-know (consultato il 14 novembre 2026)
  8. OWASP, «LLM02:2025 Sensitive Information Disclosure». https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultato il 14 novembre 2026)