IA local en el equipo o IA en la nube

Un modelo de IA se ejecuta («inferencia») sobre un hardware. En un PC con NPU, Microsoft recomienda usar Windows ML para lanzar tareas de IA en el NPU¹. Si el NPU no está disponible, Windows ML recurre a la GPU o al procesador¹. Windows ML se apoya en ONNX Runtime, un motor de inferencia de código abierto¹.

Los modelos suelen publicarse en formatos pesados. Muchos NPU solo aceptan cálculos con enteros de precisión reducida, de modo que los modelos deben convertirse («cuantizarse») antes de funcionar en ellos¹. Existen modelos ya convertidos, y cada usuario puede aportar su propio modelo para convertirlo¹. Este último punto importa al empleado: un modelo local es un archivo, y procede de alguien.

• Use las herramientas facilitadas o validadas por la empresa, ya sean locales o en la nube.
• Antes de instalar una herramienta o un modelo, pida la autorización del departamento de informática.
• Antes de introducir un documento sensible o datos de personas, pregunte si la herramienta está autorizada para ese uso. La CNIL publica fichas prácticas sobre la aplicación del RGPD a la IA, entre ellas una sobre la seguridad del desarrollo de un sistema de IA⁵.
• Si ya ha introducido un dato en una herramienta no validada, comuníquelo.

Creer que una IA local no tiene riesgos

El cálculo se hace en el equipo, pero el modelo y la aplicación siguen siendo programas que hay que mantener actualizados. El NCSC incluye las actualizaciones y el registro de actividad entre las acciones de la fase de explotación y mantenimiento de un sistema de IA². OWASP señala además el riesgo de «agencia excesiva»: un sistema basado en un modelo de lenguaje suele recibir cierta autonomía³. Una herramienta local conectada a sus archivos o a sus buzones de correo es un ejemplo que conviene examinar con el departamento de informática.

Usar una herramienta no validada («shadow AI»)

Una herramienta no validada escapa a las comprobaciones de la empresa. El NCSC recomienda tratar la seguridad como un requisito básico, a lo largo de todo el ciclo de vida de un sistema². Una herramienta elegida por un empleado por su cuenta no pasa por ninguno de esos controles.

Descargar un modelo de procedencia desconocida

Un modelo descargado es un elemento de la cadena de suministro, un riesgo que OWASP cita de forma explícita³. El informe del NIST sobre aprendizaje automático adversarial trata los ataques por puerta trasera y por «caballo de Troya», así como el envenenamiento de datos⁷. Por su parte, la CNIL mantiene una herramienta que permite explorar la genealogía de los modelos de IA publicados en código abierto, actualizada el 26 de agosto de 2026⁶. Para un modelo de procedencia desconocida, pida la autorización del departamento de informática antes de instalarlo.

Descuidar los accesos a los datos

Una IA que lee documentos puede revelar su contenido. OWASP cita la divulgación de información sensible, que afecta tanto al modelo como a su aplicación³. El marco de gestión de riesgos del NIST, de uso voluntario, pretende integrar la fiabilidad en el diseño, el uso y la evaluación de los sistemas de IA⁸.