Cyberpediapor Brain

Política interna de uso de la IA: autorizar, regular, prohibir

Para qué sirve una política interna de uso de la IA, qué contiene y qué hace usted antes de abrir una nueva herramienta de IA generativa.

En esta página
  1. 1En 30 segundos
  2. 2De qué se trata
  3. 3Preguntas directas
  4. 4Cómo funciona
  5. 5Qué hace usted
  6. 6Las trampas
  7. 7Fuentes
  8. 8Citar este artículo

En 30 segundos

Dónde ocurre
En cuanto un empleado utiliza una IA generativa para producir contenido, retocar un texto (corrección, traducción) o analizar documentos (clasificación, síntesis)[2].
El riesgo
Según la ANSSI, con la mayoría de los servicios en línea, los datos enviados los recoge y los utiliza el proveedor para optimizar sus modelos[3].
El reflejo
Leer la política interna antes de utilizar una nueva herramienta y no introducir ningún dato sensible en un servicio de IA público en línea[3]; en caso de problema, acudir al punto de contacto que el organismo haya podido designar para escalar las dificultades de orden ético[2].

De qué se trata

Una política interna de uso de la IA es un documento interno que indica a los empleados qué usos de la IA generativa están permitidos y cuáles quedan excluidos. La CNIL recomienda regular los usos definiendo una lista de utilizaciones autorizadas y prohibidas[1].

Este artículo ordena estas reglas en tres columnas: lo que está permitido con las herramientas validadas, lo que requiere una autorización y lo que está prohibido. Indica también qué hace usted antes de utilizar una nueva herramienta y a quién dirigir sus preguntas.

Preguntas directas

¿Por qué una política interna?

Según la CNIL, en el caso general es el organismo usuario quien compromete su responsabilidad legal si su personal hace un mal uso de la IA[2]. Por ello recomienda a todo organismo regular el uso mediante políticas o normas internas, que definan claramente los usos autorizados y prohibidos[2].

¿Qué contiene una política interna?

La CNIL da como ejemplos de prohibiciones no facilitar datos personales al sistema y no confiarle ninguna toma de decisión[1]. Según el modo de despliegue, convendrá también prohibir el suministro de ciertos datos confidenciales, por ejemplo los cubiertos por el secreto industrial y comercial[2]. Recomienda formar a los usuarios de manera adecuada y realizar controles periódicos[2].

¿Quién participa en la redacción?

La CNIL recomienda implicar desde el principio a todas las partes interesadas: el delegado de protección de datos (DPO), el responsable de los sistemas de información, el RSSI y los responsables de negocio[1]. El DPO puede desempeñar útilmente un papel de gobernanza, en su caso en coordinación con el RSSI, y esta designación puede ofrecer a los usuarios un punto de contacto para escalar sus problemas[2].

¿El reglamento europeo sobre la IA exige formar a los empleados?

La Comisión Europea explica que el artículo 4 del reglamento sobre la IA exige a los proveedores y a los responsables del despliegue de sistemas de IA que adopten medidas para favorecer la alfabetización en materia de IA de su personal y de las demás personas que utilizan estos sistemas en su nombre[4]. Estas medidas tienen en cuenta los conocimientos técnicos, la experiencia, la educación y la formación de esas personas[4].

La FAQ precisa que el artículo 4 no impone medir los conocimientos de los empleados ni garantizar un nivel preciso de alfabetización a cada persona[4]. Indica también que no se necesita ningún certificado (la organización puede llevar un registro interno de las formaciones) y que no se impone ninguna estructura de gobernanza particular[4]. No fija ningún formato de formación obligatorio, pero considera que remitirse a las instrucciones de uso, o pedir al personal que las lea, puede ser ineficaz[4].

Según la misma FAQ, el artículo 4 entró en aplicación el 2 de febrero de 2025[4]. Las normas de supervisión y de sanción se aplican desde el 2 de agosto de 2026, y la supervisión corresponde a las autoridades nacionales de vigilancia del mercado[4]. El Digital Omnibus sobre la IA, que entró en vigor a mediados de julio de 2026, modificó el artículo 4: la obligación de alfabetización en materia de IA se mantiene para los proveedores y los responsables del despliegue, pero no se impone ningún nivel preciso o suficiente[4].

¿Está afectada una empresa cuyos empleados usan ChatGPT para redactar o traducir?

La Comisión responde que sí: esos empleados deberían estar informados de los riesgos propios de la herramienta, por ejemplo la alucinación[4].

¿Puedo introducir datos de la empresa en un servicio público de IA?

La ANSSI escribe que no deben enviarse en absoluto datos sensibles a servicios de IA generativa de terceros como ChatGPT, Gemini, Copilot, DeepL o Perplexity[3]. Incluye en esos datos las contraseñas y las claves de API, los datos personales y los datos contractuales, jurídicos y financieros de la empresa[3]. El NCSC (Reino Unido) recomienda no incluir información sensible en las consultas dirigidas a los LLM públicos, ni enviar consultas que plantearían un problema si se hicieran públicas[5].

Cómo funciona

La CNIL aconseja partir de una necesidad concreta en lugar de desplegar una IA generativa sin un objetivo preciso[1]. El modo de despliegue importa: para usos no confidenciales, puede contemplarse un servicio para el gran público con garantías adecuadas. Si el uso consiste en proporcionar datos personales o documentación sensible, según la CNIL parece en general más oportuno y más seguro dar preferencia a una solución desplegada en las instalaciones propias, que limita los riesgos de extracción de datos por parte de un tercero[2]. Con una API, el control del sistema está casi exclusivamente en manos del proveedor, de ahí la consigna de evitar en lo posible introducir en ella datos personales[2].

Hay marcos de referencia que ayudan a las organizaciones a evaluar estos riesgos. El marco de gestión de riesgos de la IA del NIST está pensado para un uso voluntario[6]. Su perfil dedicado a la IA generativa, publicado el 26 de julio de 2024, puede ayudar a las organizaciones a identificar los riesgos propios de la IA generativa[6].

En cuanto a las amenazas, el NCSC (Reino Unido) describe la inyección de prompt, en la que un atacante crea una entrada diseñada para que el modelo se comporte de forma imprevista, por ejemplo revelando información confidencial[7]. OWASP incluye la divulgación de información sensible entre los riesgos de los LLM: datos personales, datos financieros, historiales de salud, datos confidenciales de empresa, credenciales de seguridad y documentos jurídicos[8].

Qué hace usted

Permitido con las herramientas validadas

Son los usos que la política interna enumera, con las herramientas que el organismo ha elegido. La CNIL distingue tres categorías de tareas: generar contenido, reprocesar un contenido existente (corrección, traducción) y analizar datos (clasificación, síntesis de documentos)[2]. Da un ejemplo: poner un agente conversacional a disposición de los empleados para facilitar la redacción presenta menos riesgos que utilizar un sistema para ayudar a decidir respecto de clientes, candidatos o ciudadanos[2].

En este marco, la CNIL indica que los usuarios deberían enviar únicamente información que estén autorizados a compartir, y examinar con ojo crítico los resultados: exactitud, plagio, sesgos[2]. Según ella, una buena práctica consiste en no reproducir nunca tal cual los resultados del sistema[2].

Lo que requiere una autorización

La CNIL contempla un servicio para el gran público para usos no confidenciales, con garantías adecuadas: evitar las cuentas creadas con direcciones personales y, en su caso, desactivar la posibilidad de que el proveedor reutilice los datos de uso[2]. Cuando los datos corren el riesgo de ser reutilizados por el proveedor, el organismo realiza un análisis caso por caso para saber si prohíbe todo dato personal o solo ciertas categorías[2].

Cuando una herramienta se conecta al correo, a los documentos o a los repositorios de código, la ANSSI pide revisar sus derechos de acceso desde la activación y después periódicamente (por ejemplo, cada mes)[3].

Prohibido

La política interna puede prohibir, por ejemplo, proporcionar datos personales al sistema y confiarle una toma de decisión[1]. La ANSSI escribe por su parte que los datos sensibles no deben enviarse a servicios de IA generativa de terceros[3]. La CNIL cita entre los datos que hay que proteger los cubiertos por el secreto empresarial o por obligaciones deontológicas, al usar un servicio para el gran público[2]. Para el código, la ANSSI recomienda encarecidamente no hacer que una IA genere bloques de código destinados a los módulos críticos: criptografía, gestión de los derechos de acceso, tratamiento de datos sensibles[3].

Antes de utilizar una nueva herramienta

  • Comprobar que figura en la política interna y que el uso previsto está permitido en ella.
  • Partir de la base de que el proveedor reutiliza los datos introducidos: según el NCSC, las consultas se almacenan y casi con certeza se utilizan, en algún momento, para desarrollar el servicio o el modelo, de ahí la necesidad de entender las condiciones de uso y la política de privacidad antes de formular una pregunta sensible[5].
  • Utilizar una cuenta profesional y no una dirección personal[2].
  • En caso de pregunta o de problema, dirigirse al punto de contacto que el organismo haya designado, si existe: la CNIL indica que la designación de un DPO, que puede desempeñar útilmente un papel de gobernanza, en su caso en coordinación con el RSSI, puede ofrecer a los usuarios un punto de contacto para escalar sus problemas[2].

Las trampas

Una respuesta plausible no es necesariamente exacta: la CNIL señala que estos sistemas pueden generar resultados inexactos que parecen plausibles, y que una confianza excesiva sin verificación puede llevar a decisiones erróneas[2]. También advierte del sesgo de automatización, es decir, la pérdida de confianza o de competencia vinculada a un uso excesivo[2].

Una pregunta puede ser sensible por quien la formula. El NCSC (Reino Unido) pone el ejemplo de un directivo que preguntara cómo despedir a un empleado, y recuerda que las consultas realizadas con una misma cuenta pueden agregarse[5].

Una instrucción dada a la herramienta no sustituye a la regla. OWASP señala que las restricciones incluidas en el prompt del sistema pueden no respetarse y eludirse mediante inyección de prompt[8].

Por último, la carga no debería recaer solo en el usuario: el NCSC (Reino Unido) escribe que los clientes no suelen tener la experiencia necesaria para abordar por sí solos los riesgos vinculados a la IA, y que los desarrolladores deberían asumir la responsabilidad de la seguridad de sus clientes[7].

Fuentes

  1. CNIL, «Comment déployer une IA générative ? La CNIL apporte de premières précisions», 18 de julio de 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consultado el 14 de noviembre de 2026)
  2. CNIL, «Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative», 18 de julio de 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consultado el 14 de noviembre de 2026)
  3. ANSSI, «Security recommendations for a generative AI system», 29 de abril de 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consultado el 14 de noviembre de 2026)
  4. Commission européenne, «AI Literacy - Questions & Answers». https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers (consultado el 14 de noviembre de 2026)
  5. NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 de marzo de 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultado el 14 de noviembre de 2026)
  6. NIST, «AI Risk Management Framework», 26 de enero de 2023. https://www.nist.gov/itl/ai-risk-management-framework (consultado el 14 de noviembre de 2026)
  7. NCSC (Royaume-Uni), «AI and cyber security: what you need to know», 13 de febrero de 2024. https://www.ncsc.gov.uk/guidance/ai-and-cyber-security-what-you-need-to-know (consultado el 14 de noviembre de 2026)
  8. OWASP, «LLM02:2025 Sensitive Information Disclosure». https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado el 14 de noviembre de 2026)