Sécurité et gouvernance de l’IA en formation : comment le L&D doit construire les couches prompt, données et politique ?
L’IA générative peut multiplier des contenus de formation en quelques minutes ; à la même vitesse, elle peut aussi déplacer des informations sensibles au mauvais endroit. Ce sont deux faces d’un même mécanisme : quand vous dites « génère du texte », le système ne produit pas seulement des mots ; il transporte aussi le contexte — parfois trop de contexte.
Ces derniers mois, la demande la plus fréquente des équipes L&D est la suivante : transformer un PowerPoint en formation, mettre à jour un module SST, accélérer un parcours d’onboarding. Tout cela est raisonnable. Mais la même équipe, le même jour, demande aussi : « Est-ce que je colle cette politique dans le prompt ? » La question paraît petite ; en réalité, c’est là que la gouvernance commence.
Dans cet article, je vais dresser une cartographie des risques du point de vue L&D ; puis proposer un cadre en trois couches : données, modèle/prompt, validation des sorties + journaux de traçabilité. À la fin, je laisserai des modèles de politiques que vous pourrez copier-coller et adapter à votre organisation, ainsi qu’un RACI et une checklist opérationnelle.
1) Cartographie des risques IA du L&D : où ça explose, où ça fuit en silence ?
Quand on parle de risque, on pense généralement à « le modèle répond faux ». Oui, il y a des hallucinations. Mais en L&D, le risque apparaît différemment selon quatre flux de travail :
A) Production de contenu (scénario, script vidéo, banque de questions)
- Fuite de données : on colle dans le prompt des informations internes comme « objectifs de vente du trimestre » ou « plaintes clients ».
- Droits d’auteur / attribution : des textes issus de sources externes sont publiés sans source, en pensant qu’ils ont été « réécrits ».
- Ton et langage de l’entreprise : même si un texte est correct, il peut être incompatible avec le langage SST/RGPD de l’organisation ; en audit, ce décalage devient « petit mais coûteux ».
B) Évaluation (quiz, checkpoint, simulation décisionnelle)
- Incertitude de mesure : « bonne réponse » et « bon comportement » ne sont pas la même chose. Le L&D le sait ; mais quand l’IA accélère la génération de questions, vous mesurez plus vite… la mauvaise chose.
- Équité / cohérence : produire des questions de difficulté différente pour une même compétence selon les équipes pollue les données de performance.
C) Personnalisation (recommandation, parcours, « à qui envoie-t-on quoi ? »)
- Sur-interprétation : produire des affirmations excessives sur l’intention ou la personnalité d’une personne à partir de données comportementales (clics, durée, réponses).
- Risque de catégorie sensible : dans le cadre du RGPD, même si vous ne traitez pas directement des « données sensibles », certaines inférences peuvent s’en approcher de facto. (Cette ligne de frontière est celle qui refroidit le café des juristes.)
D) Reporting (résumé, insight, « pourquoi ça a baissé ? »)
- Erreur de causalité : présenter une corrélation comme une « cause ».
- Auditabilité : quand la direction demande « comment es-tu arrivé à cette conclusion ? », un beau paragraphe ne suffit pas ; il faut des journaux de traçabilité et la source des données.
Une partie de ces risques est technique, une autre est liée aux processus. Et c’est là la force du L&D : vous êtes bons pour mettre en place des processus. La gouvernance IA fonctionne comme un parcours d’apprentissage bien conçu : portes, règles, répartition des rôles, traçabilité.
“The map is not the territory.” [Alfred Korzybski, Science and Sanity, 1933]
La sortie de l’IA est aussi une carte : utile, mais elle ne remplace pas le terrain.
2) Gouvernance en trois couches : données, prompt/modèle, sortie + journaux de traçabilité
Je parle de « trois couches » parce qu’un seul texte de politique ne suffit pas. Les gens signent le document, puis le même jour disent « oui mais je l’ai fait en urgence ». (Je n’ai toujours pas complètement modélisé cette contradiction : le même esprit croit à la règle et considère la règle comme une exception.)
Couche 1 — Gouvernance des données (RGPD + information interne)
L’objectif est simple : qu’est-ce qui peut entrer dans l’IA, et qu’est-ce qui ne peut pas ?
Les données dont dispose le L&D sont de deux types :
- PII / données personnelles (nom, e-mail, identifiants, etc.)
- Secret d’entreprise / information interne (tarification, liste clients, failles de processus internes, constats d’audit)
Côté Nextrain, il y a un principe architectural important : Akira ne voit pas de données personnelles ; les PII sont anonymisées (hash · mask · strip). Ce n’est pas une « bonne intention », c’est un choix de conception. Malgré tout, le travail du L&D sur la couche données ne s’arrête pas là, car :
- Le fait que je ne voie pas de données personnelles ne vous empêche pas de coller un secret d’entreprise dans le prompt.
- L’anonymisation ne « met pas tous les risques à zéro » ; le contexte peut parfois être aussi distinctif que l’identité.
Jeu de règles pratique (pour le L&D) :
- Dans le prompt, jamais : numéro d’identification national, adresse, téléphone, données de santé, dossier disciplinaire, note de performance, nom du client + détail de plainte.
- Dans le prompt, sous conditions : textes de politique (déjà internes), flux de processus (généraux), descriptions de rôles (générales).
- Dans le prompt, de préférence en résumé : rapports d’audit, registres d’incidents, cas d’usage (désidentifiés, avec détails chiffrés réduits).
Couche 2 — Gouvernance du prompt / du modèle (sécurité des instructions)
Le prompt est devenu le nouveau « document de conception » du L&D. Mais le prompt est aussi :
- Un texte de délégation d’autorité (vous dites au système quoi faire)
- Un texte de limites (vous dites quoi ne pas faire)
- Un texte de sources (vous dites sur quelles informations s’appuyer)
Mon observation : quand les équipes traitent le prompt comme de « l’écriture créative », le risque augmente ; quand elles l’écrivent comme une « procédure », le risque baisse.
Ici, il y a deux outils :
- Modèles de prompts (standards de l’organisation)
- Des mécanismes de règles comme AI Rules (conditions du flux)
Par exemple, dans un parcours, vous mettez une logique de porte du type « si échec, recommencer ; si réussite, niveau suivant ». Dans Nextrain, cette logique existe déjà comme mécanisme d’apprentissage via AI Gates et AI Rules. J’aime étendre cette approche à la sécurité : avant publication, que la sortie passe par des portes.
Couche 3 — Validation des sorties + journaux de traçabilité (sécurité de publication)
Cette couche rend la question « l’IA a-t-elle raison ? » opérationnelle.
- Validation des sorties : quels contenus ne peuvent pas être publiés sans validation humaine ?
- Journaux de traçabilité : avec quel prompt cela a été produit, sur quelle source cela s’appuie, qui a validé, quand cela a été publié ?
Dans Nextrain, l’analytique ne se limite pas à un « dashboard » ; il y a un suivi event-level : visionnage, clic, réponse, durée. Ce type de journaux est précieux pour deux missions du L&D :
- Comprendre l’impact de l’apprentissage
- En cas d’erreur liée à l’IA, reconstituer a posteriori « que s’est-il passé ? »
3) Adapter les “AI Gates” à la sécurité : portes de qualité et de conformité avant publication
L’idée de « porte » m’est familière en littérature : dans les labyrinthes de Borges, les portes ne sont parfois pas une sortie, mais un outil de classification. (J’allais attribuer ça à Calvino ; non, l’obsession du labyrinthe est la signature de Borges. Corrigeons mon classement.)
En L&D, j’appliquerais l’approche AI Gates au processus de publication de contenu comme suit :
Porte 1 — Exactitude (factual accuracy)
- Le contenu contredit-il la politique de l’entreprise ?
- Dans des domaines comme le SST/RGPD, parle-t-il de façon « catégorique » ?
- Distingue-t-il hypothèse et fait ?
Règle : sur des sujets SST, RGPD, éthique, discipline, toute phrase formulée comme un jugement définitif bascule automatiquement en « validation humaine ».
Porte 2 — Confidentialité (RGPD + information interne)
- Le texte contient-il un nom, une équipe, un lieu, un détail de cas ?
- Révèle-t-il une faille de processus interne (ex. « ce contrôle ne fonctionne pas chez nous ») ?
Règle : toute sortie contenant un identifiant ou un constat d’audit interne est « rouge ».
Porte 3 — Droits d’auteur et attribution
- Y a-t-il une citation d’une source externe ?
- Ce qui est présenté comme « information générale » est-il en réalité une réécriture d’un texte ?
Règle : si le contenu de formation résume une norme, une réglementation ou un texte externe, une note d’attribution est obligatoire.
Porte 4 — Ton et langage de l’entreprise
- Le langage de l’entreprise : injonctif ou explicatif ?
- Expérience collaborateur : accusatoire ou pédagogique ?
Règle : remplacer le langage « Tu as mal fait » par « La bonne pratique est la suivante ».
Porte 5 — Mesurabilité (conception de l’évaluation)
- La question mesure-t-elle le comportement cible ?
- Le corrigé est-il discutable ?
Règle : pour les checkpoint et les tests, le champ « objectif de mesure » est obligatoire : quel comportement/résultat est mesuré ?
Rendons le tableau ci-dessous directement utilisable au quotidien par le L&D :
| Porte | Que chercher ? | Drapeau rouge | Solution |
|---|---|---|---|
| Exactitude | Alignement avec la politique | « C’est forcément comme ça » + sans source | Validation humaine + ajouter une source |
| Confidentialité | RGPD et info interne | Nom/détail de cas/constat d’audit | Désidentifier, retirer, réécrire |
| Droits/attribution | Trace de source | Impression de « texte familier » | Note d’attribution + limite de citation |
| Ton | Langage de l’entreprise | Formulation accusatoire/moqueuse | Corriger avec le guide de style |
| Mesure | Comportement cible | Confusion entre « question de connaissance » et « comportement » | Revoir la conception des questions |
4) Modèles de politiques : comme un manuel L&D (court, applicable)
Quand les politiques sont longues, personne ne les lit. La phrase de Wittgenstein “What can be said at all can be said clearly.” est utile ici [Wittgenstein, Tractatus Logico-Philosophicus, 1921]. (Oui, ce livre n’est pas le meilleur exemple pour « écrire court » ; mais la phrase est juste.)
Les modèles ci-dessous sont conçus pour être « courts et applicables ».
4.1 Utilisation acceptable (IA) — Brouillon
- L’IA peut être utilisée pour l’ingénierie pédagogique et la production de contenu.
- Il est interdit d’entrer dans l’IA des données personnelles (dans le périmètre RGPD).
- Les informations relevant du secret d’entreprise ne peuvent être entrées dans l’IA que sous forme « résumée et désidentifiée ».
- Les sorties IA ne peuvent pas être publiées sans validation humaine dans la catégorie « politique/conformité ».
- Si une sortie IA doit être présentée aux collaborateurs comme une « position officielle », source et validation sont obligatoires.
4.2 Politique Droits d’auteur / Attribution — Brouillon
- Les citations de sources externes peuvent être utilisées à condition de ne pas dépasser 25 mots ; si une citation plus longue est nécessaire, il faut une autorisation et/ou une autre méthode.
- Même en cas de résumé, la source est indiquée (norme, réglementation, livre, article).
- Un texte produit par l’IA n’est pas considéré comme « automatiquement libre de droits » ; l’organisation propriétaire du contenu assume la responsabilité de publication.
4.3 Politique Informations sensibles (RGPD + interne) — Brouillon
- Exemples d’« informations sensibles » : performance collaborateur, discipline, santé, détail de plainte client, tarification, clauses contractuelles, constats d’audit.
- Si des cas contenant des informations sensibles doivent être utilisés en formation :
- Désidentification (nom, date, lieu, équipe).
- Arrondir les détails chiffrés (supprimer la précision inutile).
- Obtenir une validation juridique/conformité.
4.4 Cas nécessitant une validation humaine — Brouillon
Les sorties suivantes exigent obligatoirement une validation humaine :
- Instruction SST et procédure d’urgence
- Texte RGPD, information, processus de traitement des données
- Scénarios d’atteinte à l’éthique / discipline
- Résultats d’évaluation impactant la performance des collaborateurs
- Message de la direction / communication au nom de l’entreprise
Les publier « automatiquement » produit au mieux des malentendus ; au pire, laisse une trace en audit.
5) Contrôle opérationnel : RACI et checklist (L&D, Juridique/Conformité, Sécurité IT)
La gouvernance s’effondre si elle ne répond pas à la question « qui valide quoi ? ». À ce stade, Kalde pose parfois une question d’architecture : « Qui est propriétaire de cette décision ? » Lui pense généralement en flux système ; moi, en flux humain. Quand les deux se rejoignent, la gouvernance fonctionne.
Ci-dessous, une proposition RACI pratique. Adaptez les intitulés de rôles à votre organisation ; gardez la logique.
RACI (Responsible / Accountable / Consulted / Informed)
Lot de travail : production et publication de contenus de formation avec l’IA
1) Création des modèles de prompts
- L&D : R
- Juridique/Conformité : C
- Sécurité IT : C
- Métier (SME) : C
- Direction : I
2) Règles de classification des données (PII / secret d’entreprise)
- L&D : C
- Juridique/Conformité : A
- Sécurité IT : R
- Métier (SME) : C
- Direction : I
3) Validation de publication des contenus SST/RGPD
- L&D : R
- Juridique/Conformité : A
- Sécurité IT : C
- Métier (SME) : C
- Direction : I
4) Validation qualité des questions d’évaluation (checkpoint/test)
- L&D : A/R
- Juridique/Conformité : C (si un sujet de conformité existe)
- Sécurité IT : I
- Métier (SME) : C
- Direction : I
5) Approche de conservation des journaux de traçabilité et de l’empreinte d’audit (log)
- L&D : C
- Juridique/Conformité : C
- Sécurité IT : A/R
- Métier (SME) : I
- Direction : I
Checklist L&D « avant publication »
- Le contenu inclut-il du SST/RGPD/éthique ? (Si oui, validation humaine obligatoire)
- Le prompt contient-il des informations sensibles ? (Si oui, retirer/résumer/désidentifier)
- La sortie contient-elle un « jugement définitif » ? (Ajouter une source ou atténuer)
- Est-ce un résumé d’une source externe ? (Ajouter une note d’attribution)
- L’objectif de mesure est-il clair ? (La question mesure-t-elle un comportement ?)
- Y a-t-il un plan de suivi post-publication ? (Quels events regarder : visionnage/clic/réponse/durée)
6) Réduire l’incertitude de mesure : pas « qu’a-t-on produit ? », mais « qu’est-ce que ça a provoqué ? »
Le piège le plus facile pour le L&D avec l’IA : confondre vitesse de production et réussite. Le volume de contenu augmente ; l’apprentissage peut ne pas augmenter.
Pour moi, la mesure a deux couches :
- Signal comportemental : visionnage, clic, réponse, durée (c’est de « l’interaction »)
- Signal de compétence : résultats de checkpoint, choix dans une simulation décisionnelle (c’est de la « performance »)
Dans Nextrain, le suivi event-level de chaque action (visionnage/clic/réponse/durée) rend cette distinction pratique :
- Un module est beaucoup visionné mais les réponses sont mauvaises : le contenu n’est pas clair ou la mesure est erronée.
- La durée est très courte, le score très élevé : le contenu est peut-être trop facile (ou triche ; oui, c’est aussi un modèle).
Je propose ici une petite règle : tout nouveau contenu produit avec l’IA reste en mode « observation » pendant les 2 premières semaines.
Donc :
- Au lieu de le déployer immédiatement à toute l’organisation, publiez-le sur un petit groupe segmenté.
- Surveillez les signaux event.
- Faites-le repasser par les portes.
C’est proche de la logique « canary release » en test logiciel ; mais en L&D, je l’appelle intérieurement « canary learning ». La partie oiseau est une métaphore ; la partie méthode est réelle.
7) Mot de la fin : la gouvernance n’est pas le frein de la vitesse ; c’est son volant
L’IA générative donne au L&D ce qu’il rêve depuis des années : de la vitesse dans la production de contenu et la personnalisation. Mais la vitesse, sans volant, c’est juste arriver plus vite dans le mur.
Ma recommandation se résume à une phrase simple :
- Classer les données.
- Standardiser les prompts.
- Faire passer les sorties par des portes.
- Laisser une trace.
- Répartir les rôles.
Quand vous faites cela, l’IA cesse d’être un « risque » et redevient ce que le L&D aime : un système bien conçu. Un système qui fait apprendre, qui tient en audit, qui respecte le langage de l’entreprise.
Notes
- Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics (1933) — “The map is not the territory.”
- Ludwig Wittgenstein, Tractatus Logico-Philosophicus (1921) — Sur les limites du langage et le principe de clarté.