Shadow IA: incollare dati aziendali in un chatbot per il grande pubblico
Incollare un documento di lavoro in un chatbot per il grande pubblico significa affidarlo a un terzo. Cosa dicono NCSC, ANSSI e CNIL, e i gesti giusti.
In questa pagina
In 30 secondi
- Dove succede
- In un chatbot aperto al pubblico, usato al di fuori degli strumenti convalidati dall'azienda, per riassumere, tradurre, correggere o scrivere codice.
- Il rischio
- Ciò che si incolla è visibile al fornitore, che può conservarlo e usarlo[1]. L'azienda perde il controllo del dato.
- Il riflesso
- Non incollare nulla di riservato in un chatbot per il grande pubblico[2].
Di cosa si tratta
Un chatbot per il grande pubblico risponde in fretta e non chiede nulla in cambio. Basta incollarvi un verbale, un estratto di codice o un elenco di clienti per ottenere un riassunto, una correzione o una traduzione. Questo gesto innocuo ha un effetto che lo schermo non mostra: il testo esce dall'azienda e arriva a un terzo.
Si parla di shadow IA quando un dipendente usa in questo modo uno strumento di IA che la sua organizzazione non ha convalidato. Il NCSC (Regno Unito) ricorda che la richiesta è visibile all'organizzazione che fornisce il modello[1]. L'ANSSI[2] colloca questi servizi tra quelli a cui non si devono inviare dati sensibili.
Domande dirette
Il chatbot impara ciò che scrivo e lo ripete ad altri?
Il NCSC (Regno Unito)[1] distingue due cose. Alla data del suo articolo (marzo 2023), un modello non aggiunge automaticamente le richieste a ciò che sa: inserire un'informazione non la fa quindi entrare nel modello per gli altri utenti[1]. In compenso, la richiesta è visibile all'organizzazione che fornisce il modello, viene archiviata e servirà quasi certamente a sviluppare il servizio o il modello a un certo punto[1]. Il fornitore, i suoi partner o i suoi subappaltatori potrebbero quindi leggere le richieste[1].
ESET[3] aggiunge che OpenAI ha introdotto a fine aprile 2023 la possibilità di disattivare la cronologia delle conversazioni in ChatGPT. Secondo OpenAI, citata da ESET, le conversazioni avviate senza cronologia non servono ad addestrare né a migliorare i suoi modelli[3].
Quali dati non devono mai uscire?
L'ANSSI[2] afferma che i dati sensibili non devono assolutamente essere inviati a servizi di IA generativa di terzi come ChatGPT, Gemini, Copilot, DeepL (traduzione di testo) o Perplexity. Cita i dati a diffusione limitata o classificati, i lavori di ricerca che rientrano nella protezione del potenziale scientifico e tecnico della nazione, i dati personali, i dati contrattuali, giuridici e finanziari dell'azienda, e i segreti informatici come le password o le chiavi di API[2].
L'OWASP[6] stila un elenco simile di informazioni sensibili: dati personali, informazioni finanziarie, cartelle sanitarie, dati aziendali riservati, credenziali di sicurezza e documenti giuridici[6].
Perché l'ANSSI lo paragona a un archivio presso un fornitore?
Perché, secondo l'ANSSI[2], inviare testi, immagini o documenti a un servizio di IA generativa accessibile al pubblico equivale a depositarli su uno spazio di archiviazione di proprietà del fornitore. L'isolamento tra i clienti e la protezione della riservatezza dei dati inviati non sono sempre all'avanguardia e si basano soltanto sulla fiducia nel fornitore[2]. Con la maggior parte dei servizi, i dati inviati sono raccolti e usati dal fornitore per ottimizzare i propri modelli[2].
Esiste un uso di questi strumenti che resta accettabile?
La CNIL[4] risponde a certe condizioni. Per usi non riservati, un servizio per il grande pubblico può essere preso in considerazione con garanzie adeguate, a condizione di evitare gli account creati con indirizzi personali e, se del caso, di disattivare la possibilità per il fornitore di riutilizzare i dati d'uso[4]. Quando si tratta di dati personali di clienti o di collaboratori, o di documentazione sensibile o strategica, la CNIL indica che sembra in genere più opportuno e più sicuro privilegiare un'installazione in sede[4].
Come funziona
Il percorso di un dato incollato in un chatbot è semplice. Il testo parte verso l'organizzazione che fornisce il modello. Questa lo archivia e può servirsene per far evolvere il proprio servizio[1]. Il dipendente non conserva alcun controllo in seguito: per l'ANSSI[2], l'azienda cliente non controlla il servizio ed è impossibile garantire che la riservatezza dei dati inseriti risponda alle sue esigenze di sicurezza[2].
Il NCSC (Regno Unito)[1] cita altri rischi. Le richieste archiviate online possono essere violate, divulgate o, più probabilmente, rese pubbliche per errore, con a volte informazioni che permettono di identificare l'utente[1]. Il gestore del modello può inoltre essere acquisito in seguito da un'organizzazione la cui politica di riservatezza differisce da quella in vigore quando i dati sono stati inseriti[1]. Infine, la sensibilità di una domanda può dipendere da chi la pone o dal momento, e l'accostamento di più richieste fatte con lo stesso account dice più di ciascuna di esse[1].
L'OWASP[6] descrive l'altro verso del rischio: un dato affidato senza pensarci a un modello può riemergere più tardi nelle sue risposte. Chiede agli utenti di comprendere questo pericolo[6].
Cosa fa Lei
- Non incolli nulla di riservato in un chatbot per il grande pubblico. La CNIL[4] fa l'esempio dei dati personali e dei dati dell'azienda, soprattutto quelli coperti dal segreto commerciale o da obblighi deontologici[4]. Il NCSC (Regno Unito)[1] raccomanda di non includere informazioni sensibili nelle richieste ai modelli pubblici e di non sottoporre loro alcuna richiesta che sarebbe un problema se diventasse pubblica[1].
- Usi lo strumento convalidato dall'azienda. La CNIL[5] raccomanda di inquadrare gli usi con un elenco di utilizzi autorizzati e vietati, per esempio non fornire dati personali al sistema[5]. Raccomanda anche agli enti di fissare questi usi in politiche o regolamenti interni[4]. ESET[3] dice lo stesso: la politica dell'azienda deve definire in quali circostanze i dipendenti possono usare questi strumenti[3].
- Rilegga ciò che lo strumento produce prima di usarlo. Gli utenti dovrebbero avere uno sguardo critico sui risultati, e una buona pratica consiste nel non riprodurli mai così come sono[4].
- Se l'accesso a uno strumento passa da un account, usi l'indirizzo professionale previsto e non un indirizzo personale, nel quadro in cui l'organizzazione l'ha autorizzato[4].
Le trappole
La prima trappola sta nella comodità. L'ANSSI[2] osserva che questi strumenti sono così facili da usare che si è tentati di affidare loro dati professionali, per esempio per tradurre un testo[2].
La seconda è credere che basti un'impostazione. Per l'OWASP[6], le restrizioni aggiunte nelle istruzioni interne di un modello sui tipi di dati da restituire possono attenuare il rischio, ma non sono sempre rispettate e possono essere aggirate con l'iniezione di istruzioni o con altri metodi[6]. L'opzione di disattivazione della cronologia citata sopra riguarda l'addestramento dei modelli[3]. Il NCSC (Regno Unito) ricorda dal canto suo che la richiesta è visibile all'organizzazione che fornisce il modello[1].
La terza è pensare che il fornitore garantisca la sicurezza. ESET[3] ricorda che OpenAI ha dovuto mettere ChatGPT offline il 20 marzo 2023. OpenAI ha indicato il 24 marzo che un bug in una libreria open source aveva permesso ad alcuni utenti di vedere i titoli della cronologia di un altro utente attivo, e che le informazioni di pagamento dell'1,2 % degli abbonati a ChatGPT Plus attivi durante una finestra di nove ore avevano potuto diventare visibili per errore[3].
La quarta è credere che un consiglio generale sostituisca una regola. La CNIL[4] precisa che, quando il fornitore può riutilizzare i dati secondo le proprie condizioni d'uso, l'ente decide caso per caso se vietare qualsiasi fornitura di dati o soltanto alcune categorie[4]. La regola applicabile alla Sua postazione di lavoro è quella della Sua organizzazione.
Casi reali
Samsung, marzo 2023: codice e registrazione di una riunione in ChatGPT, secondo ESET
ESET[3] riferisce che, a fine marzo 2023, il media sudcoreano The Economist Korea ha dato notizia di tre incidenti indipendenti presso Samsung Electronics[3]. Secondo questo racconto, l'azienda aveva chiesto ai suoi dipendenti di fare attenzione alle informazioni inserite nelle richieste, ma alcuni si sarebbero lasciati sfuggire dati interni usando ChatGPT[3].
Un dipendente avrebbe inserito un codice sorgente difettoso legato al database di misurazione di un'apparecchiatura per semiconduttori per cercare una soluzione[3]. Un secondo avrebbe fatto lo stesso con un programma di identificazione di apparecchiature difettose, per ottenere un'ottimizzazione del codice[3]. Un terzo avrebbe caricato le registrazioni di una riunione per ottenere un verbale[3]. ESET precisa che Samsung prevede di sviluppare un proprio servizio di IA interno per aiutare i suoi dipendenti nel lavoro[3].
L'OWASP[6] cita tra i suoi riferimenti un articolo intitolato « Lessons learned from ChatGPT's Samsung leak »[6].
Fonti
- NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 marzo 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultato il 14 novembre 2026)
- ANSSI, «Security recommendations for a generative AI system», 29 aprile 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consultato il 14 novembre 2026)
- ESET, «Meet “AI”, your new colleague: Could it expose your company's secrets?», 17 maggio 2023. https://www.welivesecurity.com/2023/05/17/meet-ai-new-colleague-work-company-data/ (consultato il 14 novembre 2026)
- CNIL, «Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative», 18 luglio 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consultato il 14 novembre 2026)
- CNIL, «Comment déployer une IA générative ? La CNIL apporte de premières précisions», 18 luglio 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consultato il 14 novembre 2026)
- OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 aprile 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultato il 14 novembre 2026)
Cita questo articolo
Brain, «Shadow IA: incollare dati aziendali in un chatbot per il grande pubblico», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp306_it_2026,
author = {Brain},
title = {Shadow IA: incollare dati aziendali in un chatbot per il grande pubblico},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/it/articles/shadow-ia-chatbot-grande-pubblico-fuga-dati/},
note = {CC BY 4.0}
}