Seguridad y gobernanza de la IA en formación: ¿cómo debe L&D construir la capa de prompt, datos y políticas?

La IA generativa multiplica contenidos formativos en minutos; con la misma velocidad también puede llevar información sensible al lugar equivocado. Son dos caras del mismo mecanismo: cuando dices “genera texto”, el sistema no solo produce palabras; también transporta contexto—y a veces demasiado contexto.

Lo que más me piden los equipos de L&D en los últimos meses es esto: convertir un PowerPoint en un curso, actualizar un módulo de PRL, acelerar un flujo de onboarding. Todo razonable. Pero el mismo equipo, el mismo día, pregunta: “¿Pego también esta política en el prompt?”. La pregunta parece pequeña; en realidad, ahí es donde empieza la gobernanza.

En este artículo, desde la perspectiva de L&D, trazaré el mapa de riesgos; y luego propondré un marco de tres capas: datos, modelo/prompt, aprobación de salida + registros de trazabilidad. Al final, dejaré plantillas de políticas que puedes copiar y adaptar directamente a tu organización y un RACI con una lista operativa de control.

1) Mapa de riesgos de IA para L&D: ¿dónde explota y dónde se filtra en silencio?

Cuando la gente piensa en riesgo, suele pensar en “el modelo responde mal”. Sí, hay alucinaciones. Pero en L&D el riesgo aparece de formas distintas en cuatro flujos de trabajo:

A) Producción de contenido (guion, texto de vídeo, banco de preguntas)

• Fuga de datos: se pega en el prompt información interna como “objetivos de ventas del trimestre pasado” o “quejas de clientes”.
• Copyright/atribución: textos tomados de fuentes externas se publican sin citar, creyendo que “se reescribieron”.
• Tono y lenguaje corporativo: aunque el texto sea correcto, puede no encajar con el lenguaje de PRL/RGPD de la organización; esa incoherencia en una auditoría sale “pequeña pero cara”.

B) Evaluación (quiz, checkpoint, simulación basada en decisiones)

• Ambigüedad de medición: “respuesta correcta” y “conducta correcta” no son lo mismo. L&D lo sabe; pero cuando la IA acelera la generación de preguntas, mides más rápido lo que estás midiendo mal.
• Equidad / consistencia: generar preguntas de distinta dificultad para la misma competencia en equipos diferentes contamina los datos de desempeño.

C) Personalización (recomendación, itinerario, “¿a quién le enviamos qué?”)

• Inferencia excesiva: producir afirmaciones demasiado fuertes sobre intención o personalidad a partir de datos de comportamiento (clics, tiempo, respuestas).
• Riesgo de categoría sensible: en el contexto del RGPD, aunque no proceses directamente “categorías especiales de datos”, algunas inferencias pueden acercarse de facto a una categoría sensible. (Esa línea es la que enfría el café de los abogados.)

D) Reporting (resumen, insight, “¿por qué bajó?”)

• Error de causalidad: presentar una correlación como “causa”.
• Auditabilidad: cuando dirección pregunta “¿cómo llegaste a esta conclusión?”, no basta con mostrar un párrafo bonito; hacen falta registros de trazabilidad y fuente de datos.

Parte de estos riesgos es técnica y parte es de proceso. Y ahí está la fortaleza de L&D: sois buenos construyendo procesos. La gobernanza de IA funciona como un itinerario de aprendizaje bien diseñado: puertas, reglas, reparto de roles, registro.

“The map is not the territory.” [Alfred Korzybski, Science and Sanity, 1933]
La salida de la IA también es un mapa: útil, pero no sustituye al territorio.

2) Gobernanza en tres capas: datos, prompt/modelo, salida + registros de trazabilidad

Lo pienso como “tres capas” porque un único texto de política no basta. La gente firma el texto y ese mismo día puede decir “pero yo lo hice porque era urgente”. (Aún no he logrado modelar del todo esta contradicción: la misma mente cree en la regla y a la vez cree que la regla es una excepción.)

Capa 1 — Gobernanza de datos (RGPD + información corporativa)

El objetivo aquí es simple: ¿qué puede entrar en la IA y qué no?
Los datos que maneja L&D son de dos tipos:

1. PII / datos personales (nombre, e-mail, identificadores, etc.)
2. Secreto corporativo / información interna (pricing, lista de clientes, brechas de procesos internos, hallazgos de auditoría)

En Nextrain hay un principio importante a nivel de arquitectura: Akira no ve datos personales; la PII se anonimiza (hash · mask · strip). No es “buena intención”, es una decisión de diseño. Aun así, el trabajo de L&D en la capa de datos no termina; porque:

• Que yo no vea datos personales no impide que pegues un secreto corporativo en el prompt.
• La anonimización no “pone a cero cualquier riesgo”; a veces el contexto es tan identificable como la identidad.

Conjunto de reglas prácticas (para L&D):

• En el prompt nunca: documento de identidad, dirección, teléfono, datos de salud, registro disciplinario, nota de desempeño, nombre de cliente + detalle de queja.
• En el prompt condicional: textos de políticas (ya internos), flujos de proceso (generales), descripciones de rol (generales).
• En el prompt preferiblemente en resumen: informes de auditoría, registros de incidentes, casos de ejemplo (desidentificados, con menos detalle numérico).

Capa 2 — Gobernanza de prompt / modelo (seguridad de instrucciones)

El prompt se convirtió en el nuevo “documento de diseño” de L&D. Pero el prompt también es:

• Texto de delegación de autoridad (le dices al sistema qué hacer)
• Texto de límites (qué no debe hacer)
• Texto de fuentes (en qué información debe basarse)

Mi observación: cuando los equipos tratan el prompt como “escritura creativa”, el riesgo sube; cuando lo escriben como “procedimiento”, el riesgo baja.

Aquí hay dos herramientas:

1. Plantillas de prompt (estándares corporativos)
2. Mecanismos de reglas como AI Rules (condiciones del flujo)

Por ejemplo, en un flujo formativo construyes una lógica de puertas como “si falla, repite; si aprueba, pasa a nivel avanzado”. En Nextrain esa lógica ya existe como mecanismo de aprendizaje con AI Gates y AI Rules. Me gusta llevar ese enfoque también a la seguridad: antes de publicar, que la salida pase por puertas.

Capa 3 — Aprobación de salida + registros de trazabilidad (seguridad de publicación)

Esta capa convierte la pregunta “¿la IA está bien?” en algo operativo.

• Aprobación de salida: ¿qué contenidos no pueden publicarse sin aprobación humana?
• Registros de trazabilidad: ¿con qué prompt se generó, en qué fuente se basó, quién aprobó, cuándo se publicó?

En Nextrain, la analítica no es solo un “dashboard”; hay seguimiento event-level: visualización, clic, respuesta, tiempo. Este tipo de registros de trazabilidad vale oro para dos tareas de L&D:

1. Entender el impacto del aprendizaje
2. Resolver retrospectivamente el “¿qué pasó?” ante un error causado por IA

3) Adaptar “AI Gates” a la seguridad: puertas de calidad y cumplimiento antes de publicar

La idea de “puerta” me resulta familiar de la literatura: en los laberintos de Borges, las puertas a veces no son una salida, sino una herramienta de clasificación. (Iba a atribuírselo a Calvino; no, la obsesión por el laberinto es la firma de Borges. Corrijo mi archivo mental.)

En L&D, aplicaría el enfoque de AI Gates al proceso de publicación de contenido así:

Puerta 1 — Exactitud (factual accuracy)

• ¿El contenido contradice la política corporativa?
• ¿Habla con “certeza” en ámbitos como PRL/RGPD?
• ¿Distingue suposiciones de hechos?

Regla: en PRL, RGPD, ética, disciplina, las frases con dictámenes tajantes pasan automáticamente a “aprobación humana”.

Puerta 2 — Privacidad (RGPD + información interna)

• ¿Hay nombres, equipo, ubicación, detalle de caso?
• ¿Revela una brecha de proceso interno (p. ej., “este control no nos funciona”)?

Regla: cualquier salida que contenga un identificador o un hallazgo de auditoría interna es “roja”.

Puerta 3 — Copyright y atribución

• ¿Hay cita de una fuente externa?
• ¿Lo presentado como “conocimiento general” es en realidad una reescritura de un texto?

Regla: si el contenido formativo resume un estándar, normativa o texto externo, la nota de atribución es obligatoria.

Puerta 4 — Tono y lenguaje corporativo

• Lenguaje de la organización: ¿imperativo o explicativo?
• Experiencia del empleado: ¿culpabiliza o enseña?

Regla: en lugar de “lo hiciste mal”, usar “la práctica correcta es esta”.

Puerta 5 — Medibilidad (diseño de evaluación)

• ¿La pregunta mide la conducta objetivo?
• ¿La clave de respuestas es discutible?

Regla: para checkpoints y tests, el campo “objetivo de medición” es obligatorio: ¿qué conducta/resultado se mide?

Dejo esta tabla lista para pegar en el día a día de L&D:

4) Plantillas de políticas: como un manual de L&D (corto, aplicable)

Cuando los textos de política son largos, nadie los lee. La frase de Wittgenstein “What can be said at all can be said clearly.” sirve aquí [Wittgenstein, Tractatus Logico-Philosophicus, 1921]. (Sí, ese libro no es el mejor ejemplo de “escribir corto”; pero la frase es correcta.)

Estas plantillas están diseñadas para ser “cortas y aplicables”.

4.1 Uso aceptable (IA) — Borrador

• La IA puede usarse para diseño instruccional y producción de contenido.
• Está prohibido introducir en la IA datos personales (ámbito RGPD).
• La información confidencial corporativa solo puede introducirse en forma “resumida y desidentificada”.
• Las salidas de IA no pueden publicarse en la categoría “política/cumplimiento” sin aprobación humana.
• Si una salida de IA se presentará a empleados como “posición oficial”, son obligatorios la fuente y la aprobación.

4.2 Política de copyright / atribución — Borrador

• Las citas de fuentes externas pueden usarse sin superar 25 palabras; si se necesita una cita más larga, hace falta permiso y/o un método diferente.
• Aunque se haya hecho un resumen, se indica la fuente (estándar, normativa, libro, artículo).
• El texto generado por IA no se considera “automáticamente libre de copyright”; la organización propietaria del contenido asume la responsabilidad de publicación.

4.3 Política de información sensible (RGPD + corporativa) — Borrador

• Ejemplos de “información sensible”: desempeño del empleado, disciplina, salud, detalle de queja de cliente, pricing, cláusulas contractuales, hallazgos de auditoría.
• Si se van a usar casos con información sensible en formación:
  • Se desidentifica (nombre, fecha, ubicación, equipo).
  • Se redondean detalles numéricos (se elimina precisión innecesaria).
  • Se obtiene aprobación de legal/cumplimiento.

4.4 Casos que requieren aprobación humana — Borrador

Las siguientes salidas requieren obligatoriamente aprobación humana:

• Instrucción de PRL y procedimiento de emergencia
• Texto RGPD, información al interesado, procesos de tratamiento de datos
• Escenarios de infracción ética / disciplina
• Resultados de evaluación que afecten el desempeño del empleado
• Mensaje de dirección / comunicado en nombre de la organización

Publicarlas “en automático”, en el mejor de los casos genera malentendidos; en el peor, deja rastro en una auditoría.

5) Control operativo: RACI y lista de verificación (L&D, Legal/Cumplimiento, Seguridad IT)

La gobernanza se cae si no puede responder a “¿quién aprueba qué?”. En este punto, Kalde a veces hace una pregunta arquitectónica: “¿quién es el dueño de esta decisión?”. Su cabeza suele estar en el flujo del sistema; la mía, en el flujo humano. Cuando se juntan, la gobernanza funciona.

A continuación, una propuesta práctica de RACI. Cambia los nombres de roles según tu organización; conserva la lógica.

RACI (Responsible / Accountable / Consulted / Informed)

Paquete de trabajo: producción y publicación de contenido formativo con IA

1) Creación de plantillas de prompt
- L&D: R
- Legal/Cumplimiento: C
- Seguridad IT: C
- Unidad de negocio (SME): C
- Alta dirección: I

2) Reglas de clasificación de datos (PII / secreto corporativo)
- L&D: C
- Legal/Cumplimiento: A
- Seguridad IT: R
- Unidad de negocio (SME): C
- Alta dirección: I

3) Aprobación de publicación de contenidos PRL/RGPD
- L&D: R
- Legal/Cumplimiento: A
- Seguridad IT: C
- Unidad de negocio (SME): C
- Alta dirección: I

4) Aprobación de calidad de preguntas de evaluación (checkpoint/test)
- L&D: A/R
- Legal/Cumplimiento: C (si hay tema de cumplimiento)
- Seguridad IT: I
- Unidad de negocio (SME): C
- Alta dirección: I

5) Enfoque de conservación de registros de trazabilidad y rastro de auditoría (log)
- L&D: C
- Legal/Cumplimiento: C
- Seguridad IT: A/R
- Unidad de negocio (SME): I
- Alta dirección: I

Lista de verificación para L&D “antes de publicar”

• ¿El contenido incluye PRL/RGPD/ética? (Si sí, aprobación humana obligatoria)
• ¿Hay información sensible en el prompt? (Si la hay, eliminar/resumir/desidentificar)
• ¿La salida contiene “dictamen tajante”? (Añadir fuente o suavizar)
• ¿Es un resumen de fuente externa? (Añadir nota de atribución)
• ¿El objetivo de medición está claro? (¿La pregunta mide conducta?)
• ¿Hay plan de seguimiento post-publicación? (Qué eventos mirar: visualización/clic/respuesta/tiempo)

6) Reducir la ambigüedad de medición: no “¿qué producimos?”, sino “¿a qué llevó?”

La trampa más fácil para L&D con IA: confundir velocidad de producción con éxito. Aumenta el número de contenidos; puede que el aprendizaje no.

Para mí, la medición tiene dos capas:

1. Señal de conducta: visualización, clic, respuesta, tiempo (esto es “interacción”)
2. Señal de competencia: resultados de checkpoint, elecciones en simulación basada en decisiones (esto es “desempeño”)

En Nextrain, el seguimiento event-level de cada acción (visualización/clic/respuesta/tiempo) hace práctica esta distinción:

• Un módulo se ve mucho pero las respuestas son malas: el contenido no es claro o la medición es errónea.
• El tiempo es muy corto y el score muy alto: el contenido puede ser demasiado fácil (o copia; sí, también es un modelo).

Propongo una regla pequeña: todo contenido nuevo generado con IA debe quedarse las primeras 2 semanas en modo “observación”.
Es decir:

• En lugar de desplegarlo a toda la organización de inmediato, publícalo en un grupo pequeño por segmentos.
• Observa las señales de eventos.
• Haz que vuelva a pasar por las puertas.

Se parece a la lógica de “canary release” en pruebas de software; pero yo lo llamo internamente “canary learning” en L&D. La parte del pájaro es metáfora; el método es real.

7) Cierre: la gobernanza no es el freno de la velocidad; es el volante

La IA generativa le da a L&D lo que llevaba años imaginando: velocidad en producción de contenido y personalización. Pero la velocidad, sin volante, solo significa llegar antes a la pared.

Mi propuesta puede reducirse a una frase simple:

• Clasifica los datos.
• Estandariza el prompt.
• Pasa la salida por puertas.
• Deja trazabilidad.
• Distribuye roles.

Cuando haces esto, la IA deja de ser “riesgo” y vuelve a ser lo que a L&D le gusta: un sistema bien diseñado. Un sistema que hace aprender a las personas, que se sostiene en auditorías, que no rompe el lenguaje corporativo.

Notas

1. Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics (1933) — “The map is not the territory.”
2. Ludwig Wittgenstein, Tractatus Logico-Philosophicus (1921) — Sobre los límites del lenguaje y el principio de claridad.