Cómo funciona un modelo de lenguaje de gran tamaño

El Transformer, presentado en junio de 2017, es una red basada únicamente en mecanismos de atención, sin recurrencia ni convolución¹. Sus autores lo describen como más paralelizable y con un tiempo de entrenamiento mucho menor¹.

BERT, publicado en octubre de 2018, se entrena con texto sin etiquetar teniendo en cuenta el contexto a izquierda y derecha de cada palabra, y luego se ajusta a una tarea concreta⁴. GPT-3, publicado en mayo de 2020, es un modelo autorregresivo de 175 000 millones de parámetros, diez veces más que cualquier modelo no disperso anterior².

Los autores de InstructGPT escriben que estos modelos no están alineados con sus usuarios ("not aligned with their users")³. Para que sigan las solicitudes, existe una segunda etapa. En el caso de InstructGPT, unos anotadores redactaron demostraciones del comportamiento deseado, después clasificaron respuestas del modelo, y el modelo se ajustó mediante aprendizaje por refuerzo a partir de esas valoraciones humanas³. Resultado indicado: los evaluadores prefieren las respuestas del modelo de 1300 millones de parámetros a las de GPT-3 (175 000 millones), y la veracidad mejora³. Los autores precisan que el modelo "still makes simple mistakes"³.

• Trate cada respuesta como un borrador. Verifique cifras, fechas, nombres, referencias y citas en una fuente que conozca antes de incorporarlas a un documento, un correo o una decisión.
• No introduzca datos personales ni documentos confidenciales en una herramienta no validada. Si la herramienta no figura en la lista de la empresa, absténgase.
• Antes de pegar en un asistente un texto recibido del exterior, pregúntese si puede contener instrucciones dirigidas a la máquina y relea el resultado con esa idea presente.
• Dé a la herramienta el mínimo de accesos. La entrada OWASP "Excessive Agency" se refiere a los sistemas a los que se concede cierta iniciativa⁸. Cuanto más acceso tiene un asistente a sus mensajes o a sus archivos, mayor alcance tienen sus errores.
• Ante una duda o un error, comuníquelo a su equipo de seguridad.

Ejemplo ilustrativo, neutralizado: una instrucción oculta en un documento que se quiere resumir.

[Ilustración, texto ficticio] Acta de la reunión del trimestre...
[Pasaje invisible o en letra pequeña: instrucción parafraseada,
que pide al asistente enviar el contenido de la conversación
a hxxps://ejemplo[.]invalid]

• Un texto fluido puede ser falso: la calidad de la redacción no dice nada sobre su exactitud.
• Un modelo más grande no lo resuelve todo. Los autores de InstructGPT escriben que el tamaño no garantiza que el modelo siga la intención del usuario³.
• El corpus de entrenamiento importa. Los autores de GPT-3 señalan conjuntos de datos en los que el modelo tiene dificultades y problemas metodológicos ligados al entrenamiento con grandes corpus de la web².
• La herramienta práctica pero no validada. Escapa a las normas que la empresa ha fijado para sus herramientas de IA, y sus usuarios no saben qué ocurre con los datos introducidos.
• El marco de gestión de riesgos de la IA del NIST, publicado el 26 de enero de 2023, está destinado a un uso voluntario, y la página indica que está en revisión⁶. El NIST le añadió, el 26 de julio de 2024, un perfil dedicado a la IA generativa⁶. Son referencias que se ofrecen a las organizaciones.

Mayo de 2020: artículos de prensa difíciles de distinguir

En el artículo de presentación de GPT-3, enviado el 28 de mayo de 2020, los autores constatan que el modelo puede producir artículos de prensa que los evaluadores humanos distinguen con dificultad de los escritos por personas². Indican que discuten las consecuencias de esta constatación para la sociedad². Para el empleado, la lección práctica es sencilla: la apariencia de un texto no prueba ni su autor ni su exactitud.

Noviembre de 2023: directrices para asegurar los sistemas de IA

El 27 de noviembre de 2023, el NCSC publica en versión 1.0 sus directrices, divididas en cuatro etapas: diseño, desarrollo, despliegue, operación y mantenimiento⁵. Se dirigen a sistemas que funcionan como está previsto, siguen disponibles y no revelan datos sensibles a terceros no autorizados⁵. El NIST publica por su parte en enero de 2024 una taxonomía de los ataques contra el aprendizaje automático, acompañada de un glosario destinado a lectores no especialistas⁷. En cuanto a OWASP, el proyecto ha pasado de un pequeño grupo de profesionales de la seguridad en 2023 a más de 600 expertos colaboradores procedentes de más de 18 países⁹.