Modelos de IA abiertos o propietarios
Modelo con pesos publicados o servicio en línea: qué cambia para los datos de la empresa y qué debe hacer o evitar el empleado.
En 30 segundos
- Dónde ocurre
- En cualquier herramienta de IA, sea un servicio en línea o un modelo descargado e instalado en un equipo.
- Qué cambia
- Con un servicio en línea, sus datos van a un proveedor de alojamiento. Con un modelo abierto, todo depende de dónde se ejecute y de quién lo haya instalado y lo mantenga actualizado.
- El riesgo
- Un modelo «abierto» sigue sujeto a una licencia y a riesgos, y no protege los datos si se usa a través de un servicio de terceros.
- El reflejo
- Usar solo las herramientas de IA autorizadas por Brain, no instalar ningún modelo descargado sin validación y no introducir datos sensibles en un servicio no aprobado.
- Si ya lo ha hecho
- Avisar sin demora al equipo de seguridad de Brain e indicar qué datos se introdujeron o qué modelo se instaló.
De qué se trata
Un asistente de IA se basa en un modelo de lenguaje. Ese modelo puede distribuirse como archivos que cualquiera puede descargar y ejecutar en su propio equipo: se habla entonces de un modelo con pesos publicados, o «abierto». También puede quedarse en manos de su editor, que solo lo ofrece mediante un servicio en línea: se habla entonces de un modelo propietario.
Para un empleado, la diferencia depende menos de la calidad de las respuestas que de una pregunta sencilla: ¿adónde van los datos que se introducen y quién responde de ellos? Esta ficha explica los dos casos y lo que Brain espera en cada uno.
Preguntas directas
¿Cuál es la diferencia entre un modelo abierto y un modelo propietario?
Un modelo abierto se publica, en lugar de quedarse detrás de un servicio. Las fuentes citadas aquí documentan dos ejemplos: LLaMA, presentado en febrero de 2023 por un equipo de investigadores, que escribe «We release all our models to the research community»1, y Mistral 7B, publicado bajo licencia Apache 2.02. Un modelo propietario solo se consulta mediante un servicio en línea: el usuario envía su texto y recibe una respuesta, sin ver el modelo.
¿Adónde van mis datos?
Con un servicio en línea, el texto introducido sale de la empresa para que lo trate el proveedor. Las directrices del NCSC británico se refieren, de hecho, a los sistemas que usan modelos alojados por una organización o interfaces externas (API), y piden sistemas de IA que funcionen sin revelar datos sensibles a terceros no autorizados4. Con un modelo abierto instalado en un equipo o en un servidor interno, el tratamiento puede quedarse en la propia empresa. Nada en los modelos mismos lo impone: todo depende de dónde se ejecuten.
¿Un modelo abierto protege mis datos?
No de forma automática. Si un modelo abierto se usa a través de un servicio de terceros, lo que usted introduce pasa por ese servicio, igual que con un modelo propietario. Lo que cuenta es dónde se realiza el tratamiento, no que el modelo sea abierto.
¿Quién actualiza el modelo y quién responde de él?
Con un servicio en línea, el modelo permanece en manos del proveedor. Con un modelo descargado, está en manos de quien lo instaló, y nadie más se ocupa de él. Las directrices del NCSC sitúan la gestión de las actualizaciones en la fase de «operación y mantenimiento» de un sistema de IA, y la seguridad de la cadena de suministro en la fase de desarrollo4. En cuanto a los datos personales, la CNIL plantea la cuestión del reparto de responsabilidades cuando un editor suministra un sistema de IA y lo utiliza un tercero5.
¿Puede el proveedor reutilizar lo que introduzco?
La CNIL indica que un proveedor de sistemas de IA puede reutilizar legalmente datos confiados por un responsable del tratamiento si se cumplen varias condiciones: autorización del responsable del tratamiento, prueba de compatibilidad, información y respeto de los derechos de las personas, y conformidad del nuevo tratamiento5. De ahí el interés de usar una herramienta cuyas condiciones Brain haya verificado.
1Cómo funciona1 min
Un modelo de lenguaje se entrena con una gran cantidad de textos y luego sirve para predecir la continuación de un texto en respuesta a una instrucción7. Los investigadores de LLaMA demostraron que se podía entrenar un modelo de vanguardia usando únicamente datos públicos, y que LLaMA-13B superaba a GPT-3 (175B) en la mayoría de las pruebas1. Mistral 7B, con 7000 millones de parámetros, supera a Llama 2 13B en todas las pruebas evaluadas2. El mayor modelo de Llama 3 tiene 405 000 millones de parámetros, y sus autores consideran que su calidad es comparable a la de GPT-4 en muchas tareas3. Publicaron ese modelo, junto con Llama Guard 3, un modelo de control de entradas y salidas3.
Para la empresa, la decisión recae, por tanto, en tres puntos: dónde se aloja el modelo, quién lo actualiza y quién responde de un incidente. La respuesta varía de una herramienta a otra. Por eso la lista de herramientas autorizadas hace las veces de norma.
2Qué hace usted1 min
- Use solo las herramientas de IA autorizadas por Brain, se basen en un modelo abierto o en uno propietario.
- No instale un modelo descargado en un equipo de trabajo sin la validación del equipo de seguridad.
- No introduzca datos sensibles en un servicio no aprobado: datos de clientes, de compañeros, de salud o secretos de la empresa.
- Para una prueba, prefiera datos ficticios, es decir, con la misma estructura que los reales pero sin relación con ninguna persona. La CNIL menciona las pruebas con datos ficticios para determinar los datos necesarios para un sistema de IA5.
- Si tiene dudas sobre una herramienta, pregunte antes de usarla.
- Si ya ha introducido datos en un servicio no aprobado o ha instalado un modelo, comuníquelo de inmediato.
3Las trampas2 min
«Abierto» no significa sin licencia
Mistral 7B se publica bajo licencia Apache 2.02. Un modelo abierto se publica, pues, con una licencia, que fija sus condiciones de uso. Las fuentes citadas aquí no detallan las licencias de los demás modelos: no dé por hecho que cualquier uso está permitido.
Un modelo descargado puede estar manipulado o sesgado
OWASP incluye entre los diez riesgos de 2025 para las aplicaciones de IA generativa la cadena de suministro de los modelos, expuesta a diversas vulnerabilidades, y el envenenamiento de datos y de modelos6. También incluye la desinformación, en este caso como debilidad central de las aplicaciones que se apoyan en los modelos6. Un archivo de modelo obtenido en un sitio cualquiera no ha sido controlado por Brain. El NCSC, de hecho, incluye la seguridad de la cadena de suministro entre los puntos que hay que tratar desde el desarrollo de un sistema de IA4.
Un modelo puede haber memorizado datos personales
La CNIL señala que numerosos estudios han demostrado que los modelos de lenguaje de gran tamaño tendían a «memorizar» elementos de sus datos de entrenamiento: nombre, apellido, dirección, número de teléfono, número de tarjeta bancaria5. Un ataque que logre vulnerar la confidencialidad de un modelo puede constituir una violación de datos5. Esto es cierto tanto para un modelo abierto como para uno propietario.
Un modelo que sigue aprendiendo
Algunos sistemas reutilizan los datos introducidos para mejorar, lo que el NCSC llama aprendizaje continuo7. La CNIL advierte de que este modo de funcionamiento plantea cuestiones de protección de datos, porque los datos sirven entonces para dos finalidades distintas5. Lo que un servicio hace con lo que se introduce forma parte de las condiciones que hay que conocer antes de autorizarlo.
Un marco de referencia que cambia
El marco de gestión de riesgos de la IA del NIST, de uso voluntario, se publicó el 26 de enero de 2023 y se completó el 26 de julio de 2024 con un perfil dedicado a la IA generativa8. La página del NIST indica que la versión 1.0 está en revisión8. Las recomendaciones evolucionan: las normas de Brain, en cambio, siguen siendo las de la empresa.
4Casos reales1 min
27 de febrero de 2023: LLaMA
Un equipo de investigadores presenta LLaMA, una colección de modelos de 7000 a 65 000 millones de parámetros, entrenados únicamente con conjuntos de datos públicos, y publica todos sus modelos para la comunidad investigadora1.
10 de octubre de 2023: Mistral 7B
Mistral 7B v0.1, un modelo de 7000 millones de parámetros, se publica bajo licencia Apache 2.0, con una versión ajustada para seguir instrucciones2.
31 de julio de 2024: Llama 3
Se presenta la familia Llama 3, con un modelo de 405 000 millones de parámetros y una ventana de contexto de hasta 128 000 tokens. Se publican las versiones preentrenada y posentrenada del modelo más grande. Las versiones que añaden imagen, vídeo y voz no se difunden ampliamente, porque, según los autores, aún están en desarrollo3.
Ficha
- Identificador
- CP-268
- Ala
- 4. Inteligencia artificial
- Competencia Brain
- Herramientas autorizadas (authorized_tools)
- Reflejo Brain
- air-023
- Esquema
- G3 · Corte anatómico
- Idiomas
- de, en, es, fr
- Fuentes
- 8 fuentes verificadas el 3 de noviembre de 2026
Fuentes8 fuentes
- arXiv, «LLaMA: Open and Efficient Foundation Language Models», 27 de febrero de 2023. https://arxiv.org/abs/2302.13971 (consultado el 3 de noviembre de 2026)
- arXiv, «Mistral 7B», 10 de octubre de 2023. https://arxiv.org/abs/2310.06825 (consultado el 3 de noviembre de 2026)
- arXiv, «The Llama 3 Herd of Models», 31 de julio de 2024. https://arxiv.org/abs/2407.21783 (consultado el 3 de noviembre de 2026)
- NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de noviembre de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado el 3 de noviembre de 2026)
- CNIL, «IA : comment être en conformité avec le RGPD ?», 5 de abril de 2022. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (consultado el 3 de noviembre de 2026)
- OWASP, «LLMRisks Archive». https://genai.owasp.org/llm-top-10/ (consultado el 3 de noviembre de 2026)
- NCSC (Royaume-Uni), «Principles for security of Machine learning ML», 22 de mayo de 2024. https://www.ncsc.gov.uk/collection/machine-learning-principles (consultado el 3 de noviembre de 2026)
- NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado el 3 de noviembre de 2026)
Citar este artículo
Brain, «Modelos de IA abiertos o propietarios», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp268_es_2026,
author = {Brain},
title = {Modelos de IA abiertos o propietarios},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/es/articles/modelos-abiertos-vs-propietarios-ia/},
note = {CC BY 4.0}
}