---
id: CP-306
slug: shadow-ia-chatbot-gran-publico-fuga-datos
lang: es
title: "Shadow IA: pegar datos de la empresa en un chatbot para el gran público"
description: Pegar un documento de trabajo en un chatbot para el gran público es confiarlo a un tercero. Lo que dicen NCSC, ANSSI y CNIL, y los gestos correctos.
canonical_url: https://startbrain.io/cyberpedia/es/articles/shadow-ia-chatbot-gran-publico-fuga-datos/
markdown_url: https://startbrain.io/cyberpedia/es/articles/shadow-ia-chatbot-gran-publico-fuga-datos.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: "Brain, «Shadow IA: pegar datos de la empresa en un chatbot para el gran público», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/shadow-ia-chatbot-gran-publico-fuga-datos/ (CC BY 4.0)"
wing: 4
theme: authorized_tools
reflex: air-019
schema: G5
updated: "2026-11-14"
translations:
  es: https://startbrain.io/cyberpedia/es/articles/shadow-ia-chatbot-gran-publico-fuga-datos/
  fr: https://startbrain.io/cyberpedia/fr/articles/shadow-ia-chatbot-grand-public-fuite-donnees/
  en: https://startbrain.io/cyberpedia/en/articles/shadow-ai-public-chatbot-data-leak/
  de: https://startbrain.io/cyberpedia/de/articles/shadow-ki-oeffentlicher-chatbot-datenabfluss/
  it: https://startbrain.io/cyberpedia/it/articles/shadow-ia-chatbot-grande-pubblico-fuga-dati/
  nl: https://startbrain.io/cyberpedia/nl/articles/shadow-ai-chatbot-groot-publiek-datalek/
  pl: https://startbrain.io/cyberpedia/pl/articles/shadow-ai-ogolnodostepny-chatbot-wyciek-danych/
  pt: https://startbrain.io/cyberpedia/pt/articles/shadow-ia-chatbot-publico-fuga-dados/
  ja: https://startbrain.io/cyberpedia/ja/articles/shadow-ai-public-chatbot-data-leak/
sources:
  - "n": 1
    title: "ChatGPT and large language models: what's the risk?"
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk
    published: "2023-03-14"
    accessed: "2026-11-14"
  - "n": 2
    title: Security recommendations for a generative AI system
    publisher: ANSSI
    url: https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf
    published: "2024-04-29"
    accessed: "2026-11-14"
  - "n": 3
    title: "Meet “AI”, your new colleague: Could it expose your company's secrets?"
    publisher: ESET
    url: https://www.welivesecurity.com/2023/05/17/meet-ai-new-colleague-work-company-data/
    published: "2023-05-17"
    accessed: "2026-11-14"
  - "n": 4
    title: Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative
    publisher: CNIL
    url: https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
    published: "2024-07-18"
    accessed: "2026-11-14"
  - "n": 5
    title: Comment déployer une IA générative ? La CNIL apporte de premières précisions
    publisher: CNIL
    url: https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions
    published: "2024-07-18"
    accessed: "2026-11-14"
  - "n": 6
    title: LLM02:2025 Sensitive Information Disclosure
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/
    published: "2024-04-10"
    accessed: "2026-11-14"
---

# Shadow IA: pegar datos de la empresa en un chatbot para el gran público

Un chatbot para el gran público responde rápido y no pide nada a cambio. Basta con pegarle un acta, un fragmento de código o una lista de clientes para obtener un resumen, una corrección o una traducción. Este gesto inocente tiene un efecto que la pantalla no muestra: el texto sale de la empresa y llega a un tercero.

Se habla de shadow IA cuando un empleado utiliza así una herramienta de IA que su organización no ha validado. El NCSC (Reino Unido) recuerda que la consulta es visible para la organización que proporciona el modelo [1]. La ANSSI [2] incluye estos servicios entre aquellos a los que no deben enviarse datos sensibles.

## En 30 segundos

- Dónde ocurre: en un chatbot abierto al público, utilizado al margen de las herramientas validadas por la empresa, para resumir, traducir, corregir o escribir código.
- El riesgo: lo que se pega es visible para el proveedor, que puede conservarlo y utilizarlo [1]. La empresa pierde el control del dato.
- El reflejo: no pegar nada confidencial en un chatbot para el gran público [2].

## Preguntas directas

### ¿Aprende el chatbot lo que escribo y se lo repite a otros?

El NCSC (Reino Unido) [1] distingue dos cosas. En la fecha de su entrada (marzo de 2023), un modelo no añade automáticamente las consultas a lo que sabe: introducir una información no hace, por tanto, que entre en el modelo para los demás usuarios [1]. En cambio, la consulta es visible para la organización que proporciona el modelo, se almacena y casi con toda seguridad servirá para desarrollar el servicio o el modelo en algún momento [1]. El proveedor, sus socios o sus subcontratistas podrían, por tanto, leer las consultas [1].

ESET [3] añade que OpenAI introdujo a finales de abril de 2023 la posibilidad de desactivar el historial de conversaciones en ChatGPT. Según OpenAI, citada por ESET, las conversaciones iniciadas sin historial no sirven para entrenar ni para mejorar sus modelos [3].

### ¿Qué datos no deben salir nunca?

La ANSSI [2] afirma que los datos sensibles no deben enviarse en absoluto a servicios de IA generativa de terceros como ChatGPT, Gemini, Copilot, DeepL (traducción de texto) o Perplexity. Cita los datos de difusión restringida o clasificados, los trabajos de investigación que dependen de la protección del potencial científico y técnico de la nación, los datos personales, los datos contractuales, jurídicos y financieros de la empresa, y los secretos informáticos como las contraseñas o las claves de API [2].

OWASP [6] establece una lista parecida de información sensible: datos personales, información financiera, historiales médicos, datos confidenciales de empresa, credenciales de seguridad y documentos jurídicos [6].

### ¿Por qué la ANSSI lo compara con un almacenamiento en un proveedor?

Porque, según la ANSSI [2], enviar texto, imágenes o documentos a un servicio de IA generativa accesible al público equivale a depositarlos en un espacio de almacenamiento que pertenece al proveedor. El aislamiento entre clientes y la protección de la confidencialidad de los datos enviados no siempre están en el estado del arte y descansan únicamente en la confianza en el proveedor [2]. Con la mayoría de los servicios, el proveedor recoge los datos enviados y los utiliza para optimizar sus modelos [2].

### ¿Hay algún uso de estas herramientas que siga siendo aceptable?

La CNIL [4] responde con una condición. Para usos no confidenciales, puede contemplarse un servicio para el gran público con garantías adecuadas, siempre que se eviten las cuentas creadas con direcciones personales y, en su caso, se desactive la posibilidad de que el proveedor reutilice los datos de uso [4]. En cuanto se trata de datos personales de clientes o de colaboradores, o de documentación sensible o estratégica, la CNIL indica que parece en general más oportuno y seguro dar prioridad a un despliegue en las instalaciones propias [4].

## Cómo funciona

El recorrido de un dato pegado en un chatbot es sencillo. El texto sale hacia la organización que proporciona el modelo. Esta lo almacena y puede servirse de él para hacer evolucionar su servicio [1]. El empleado no conserva ningún control después: para la ANSSI [2], la empresa cliente no controla el servicio, y es imposible garantizar que la confidencialidad de los datos introducidos cumpla sus requisitos de seguridad [2].

El NCSC (Reino Unido) [1] cita otros riesgos. Las consultas almacenadas en línea pueden ser pirateadas, filtradas o, lo que es más probable, hacerse públicas por accidente, a veces con información que permite identificar al usuario [1]. El operador del modelo puede también ser adquirido más adelante por una organización cuya política de privacidad difiera de la vigente cuando se introdujeron los datos [1]. Por último, la sensibilidad de una pregunta puede venir de la persona que la formula o del momento, y la combinación de varias consultas hechas con la misma cuenta dice más que cada una por separado [1].

OWASP [6] describe el otro sentido del riesgo: un dato confiado sin pensarlo a un modelo puede reaparecer más tarde en sus respuestas. Pide a los usuarios que comprendan este peligro [6].

## Qué hace usted

- No pegue nada confidencial en un chatbot para el gran público. La CNIL [4] pone como ejemplo los datos personales y los datos de la empresa, sobre todo los cubiertos por el secreto empresarial o por obligaciones de deontología [4]. El NCSC (Reino Unido) [1] recomienda no incluir información sensible en las consultas a modelos públicos y no enviarles ninguna consulta que resultara problemática si se hiciera pública [1].
- Utilice la herramienta validada por la empresa. La CNIL [5] recomienda acotar los usos mediante una lista de utilizaciones autorizadas y prohibidas, por ejemplo no facilitar datos personales al sistema [5]. Recomienda también a los organismos fijar estos usos en políticas o normas internas [4]. ESET [3] dice lo mismo: la política de la empresa debe definir en qué circunstancias pueden los empleados utilizar estas herramientas [3].
- Revise lo que produce la herramienta antes de utilizarlo. Los usuarios deberían mirar los resultados con espíritu crítico, y una buena práctica consiste en no reproducirlos nunca tal cual [4].
- Si el acceso a una herramienta pasa por una cuenta, utilice la dirección profesional prevista y no una dirección personal, en el marco en que la organización lo haya autorizado [4].

## Las trampas

La primera trampa es la comodidad. La ANSSI [2] señala que estas herramientas son tan fáciles de usar que resulta tentador confiarles datos profesionales, por ejemplo para traducir un texto [2].

La segunda es creer que basta con un ajuste. Para OWASP [6], las restricciones añadidas en las instrucciones internas de un modelo sobre los tipos de datos que debe devolver pueden atenuar el riesgo, pero no siempre se respetan y pueden eludirse mediante inyección de instrucciones u otros métodos [6]. La opción de desactivar el historial citada más arriba se refiere al entrenamiento de los modelos [3]. Por su parte, el NCSC (Reino Unido) recuerda que la consulta es visible para la organización que proporciona el modelo [1].

La tercera es pensar que el proveedor garantiza la seguridad. ESET [3] recuerda que OpenAI tuvo que desconectar ChatGPT el 20 de marzo de 2023. OpenAI indicó el 24 de marzo que un error en una biblioteca open source había permitido que algunos usuarios vieran títulos del historial de otro usuario activo, y que la información de pago del 1,2 % de los suscriptores de ChatGPT Plus activos durante una ventana de nueve horas había podido hacerse visible por error [3].

La cuarta es creer que un consejo general sustituye a una regla. La CNIL [4] precisa que, cuando el proveedor puede reutilizar los datos según sus condiciones de uso, el organismo decide caso por caso si prohíbe cualquier aportación de datos o solo ciertas categorías [4]. La regla aplicable en su puesto es la de su organización.

## Casos reales

### Samsung, marzo de 2023: código y una grabación de reunión en ChatGPT, según ESET

ESET [3] relata que, a finales de marzo de 2023, el medio surcoreano The Economist Korea informó de tres incidentes independientes en Samsung Electronics [3]. Según ese relato, la empresa había pedido a sus empleados que tuvieran cuidado con la información introducida en sus consultas, pero algunos habrían dejado escapar datos internos al utilizar ChatGPT [3].

Un empleado habría introducido un código fuente defectuoso vinculado a la base de datos de medición de un equipo de semiconductores para buscar una solución [3]. Un segundo habría hecho lo mismo con un programa de identificación de equipos defectuosos, para obtener una optimización del código [3]. Un tercero habría subido las grabaciones de una reunión para obtener un acta [3]. ESET precisa que Samsung prevé desarrollar su propio servicio de IA interno para ayudar a sus empleados en su trabajo [3].

OWASP [6] cita entre sus referencias un artículo titulado «Lessons learned from ChatGPT's Samsung leak» [6].

## Fuentes

1. NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 de marzo de 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultado el 14 de noviembre de 2026)
2. ANSSI, «Security recommendations for a generative AI system», 29 de abril de 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consultado el 14 de noviembre de 2026)
3. ESET, «Meet “AI”, your new colleague: Could it expose your company's secrets?», 17 de mayo de 2023. https://www.welivesecurity.com/2023/05/17/meet-ai-new-colleague-work-company-data/ (consultado el 14 de noviembre de 2026)
4. CNIL, «Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative», 18 de julio de 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consultado el 14 de noviembre de 2026)
5. CNIL, «Comment déployer une IA générative ? La CNIL apporte de premières précisions», 18 de julio de 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consultado el 14 de noviembre de 2026)
6. OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado el 14 de noviembre de 2026)

---

Fuente original: Cyberpedia, la enciclopedia pública de ciberseguridad e IA publicada por Brain. Versión canónica: https://startbrain.io/cyberpedia/es/articles/shadow-ia-chatbot-gran-publico-fuga-datos/
Puede reutilizar este texto libremente bajo la licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), siempre que cite «Brain, Cyberpedia» con un enlace a la dirección anterior.
