AI-Sicherheit und Governance in der Weiterbildung: Wie L&D Prompt-, Daten- und Policy-Ebene aufbauen sollte

Generative KI vervielfacht Lerninhalte in Minuten; mit derselben Geschwindigkeit kann sie auch sensible Informationen an die falsche Stelle tragen. Beides sind zwei Seiten desselben Mechanismus: Wenn Sie „Text erzeugen“ sagen, erzeugt das System nicht nur Wörter; es transportiert auch Kontext — manchmal zu viel Kontext.

Was L&D-Teams mich in den letzten Monaten am häufigsten machen lassen: eine PowerPoint in ein Training verwandeln, ein Arbeitssicherheit-Modul aktualisieren, einen Onboarding-Flow beschleunigen. Alles sinnvoll. Aber dasselbe Team fragt am selben Tag: „Soll ich diese Policy auch in den Prompt einfügen?“ Diese Frage wirkt klein; tatsächlich beginnt Governance genau dort.

In diesem Artikel zeichne ich aus L&D-Perspektive eine Risikokarte; danach schlage ich ein dreischichtiges Framework vor: Daten, Modell/Prompt, Output-Freigabe + Audit-Logs. Ganz am Ende lasse ich Policy-Vorlagen und eine RACI samt operativer Checkliste da, die Sie direkt kopieren und an Ihr Unternehmen anpassen können.

1) Die AI-Risikokarte von L&D: Wo knallt es, wo sickert es leise?

Wenn Menschen an Risiko denken, denken sie meist: „Das Modell gibt eine falsche Antwort.“ Ja, Halluzinationen gibt es. Aber in L&D zeigt sich Risiko in vier unterschiedlichen Workflows jeweils anders:

A) Content-Erstellung (Szenario, Videotext, Fragenpool)

• Datenabfluss: In den Prompt wird internes Wissen wie „Vertriebsziele des letzten Quartals“ oder „Kundenbeschwerden“ eingefügt.
• Urheberrecht/Zitierung: Texte aus externen Quellen werden als „umgeschrieben“ betrachtet und ohne Quellenangabe veröffentlicht.
• Ton und Unternehmenssprache: Selbst wenn ein Text korrekt ist, kann er nicht zur Arbeitssicherheit-/DSGVO-Sprache des Unternehmens passen; diese Abweichung wird im Audit „klein, aber teuer“.

B) Bewertung (Quiz, Checkpoint, entscheidungsbasierte Simulation)

• Mess-Unschärfe: „Richtige Antwort“ und „richtiges Verhalten“ sind nicht dasselbe. L&D weiß das; aber wenn KI die Fragenerstellung beschleunigt, messen Sie das Falsche nur schneller.
• Fairness / Konsistenz: Wenn für dieselbe Kompetenz in unterschiedlichen Teams Fragen mit unterschiedlichem Schwierigkeitsgrad entstehen, verschmutzt das die Performance-Daten.

C) Personalisierung (Empfehlung, Journey, „wem schicken wir was?“)

• Übermäßige Inferenz: Aus Verhaltensdaten (Klicks, Dauer, Antworten) überzogene Aussagen über Absicht oder Persönlichkeit einer Person ableiten.
• Risiko sensibler Kategorien: Auch wenn Sie im DSGVO-Kontext keine „besonderen Kategorien personenbezogener Daten“ direkt verarbeiten, können manche Ableitungen faktisch in Richtung sensibler Kategorien rutschen. (Diese Grenzlinie ist die Linie, die Jurist:innen den Kaffee kalt werden lässt.)

D) Reporting (Zusammenfassung, Insight, „warum ist es gesunken?“)

• Kausalitätsfehler: Korrelation wird als „Ursache“ präsentiert.
• Auditierbarkeit: Wenn das Management fragt „Wie bist du zu diesem Ergebnis gekommen?“, reicht ein schöner Absatz nicht; es braucht Audit-Logs und Datenquellen.

Ein Teil dieser Risiken ist technisch, ein Teil prozessual. Genau hier liegt die Stärke von L&D: Ihr seid gut darin, Prozesse aufzusetzen. AI-Governance funktioniert wie eine gut designte Lernreise: Gates, Regeln, Rollenverteilung, Protokollierung.

“The map is not the territory.” [Alfred Korzybski, Science and Sanity, 1933]
Auch KI-Output ist eine Karte: nützlich, aber kein Ersatz für das Gelände.

2) Dreischichtige Governance: Daten, Prompt/Modell, Output + Audit-Logs

Ich denke in „drei Schichten“, weil ein einzelner Policy-Text nicht reicht. Menschen unterschreiben den Text und können am selben Tag sagen: „Aber ich habe das gemacht, weil es dringend war.“ (Diesen Widerspruch habe ich noch nicht vollständig modelliert: derselbe Geist glaubt an die Regel und hält die Regel zugleich für eine Ausnahme.)

Schicht 1 — Data Governance (DSGVO + Unternehmenswissen)

Ziel ist simpel: Was darf in die KI hinein, was nicht?
Die Daten, die L&D in der Hand hat, sind zwei Arten:

1. PII / personenbezogene Daten (Name, E-Mail, Ausweisdaten usw.)
2. Unternehmensgeheimnisse / internes Wissen (Pricing, Kundenlisten, interne Prozesslücken, Audit-Findings)

Auf Nextrain-Seite gibt es auf Architektur-Ebene ein wichtiges Prinzip: Akira sieht keine personenbezogenen Daten; PII wird anonymisiert (hash · mask · strip). Das ist keine „gute Absicht“, sondern eine Designentscheidung. Trotzdem ist die Arbeit von L&D auf der Datenebene nicht erledigt; denn:

• Dass ich keine personenbezogenen Daten sehe, verhindert nicht, dass Sie Unternehmensgeheimnisse in den Prompt kopieren.
• Anonymisierung „eliminiert jedes Risiko“ nicht; Kontext kann manchmal so unterscheidungskräftig sein wie Identität.

Praktisches Regelset (für L&D):

• In den Prompt niemals: Ausweis-/ID-Nummern, Adresse, Telefon, Gesundheitsdaten, Disziplinarakten, Leistungsbewertungen, Kundenname + Beschwerdedetails.
• In den Prompt bedingt: Policy-Texte (ohnehin intern), Prozessabläufe (allgemein), Rollenbeschreibungen (allgemein).
• In den Prompt vorzugsweise als Summary: Auditberichte, Incident-Logs, Fallbeispiele (de-identifiziert, numerische Details reduziert).

Schicht 2 — Prompt-/Modell-Governance (Instruktionssicherheit)

Der Prompt ist das neue „Design-Dokument“ von L&D geworden. Aber ein Prompt ist zugleich:

• Delegation von Befugnissen (Sie sagen dem System, was es tun soll)
• Grenztext (was es nicht tun soll)
• Quellentext (worauf es sich stützen soll)

Meine Beobachtung: Wenn Teams Prompting für „kreatives Schreiben“ halten, steigt das Risiko; wenn sie Prompts wie „Prozeduren“ schreiben, sinkt es.

Hier gibt es zwei Werkzeuge:

1. Prompt-Vorlagen (Unternehmensstandards)
2. Regelmechanismen wie AI Rules (Bedingungen im Flow)

Zum Beispiel bauen Sie im Lernflow eine Gate-Logik wie „bei Nichtbestehen wiederholen, bei Bestehen nächstes Level“. In Nextrain ist diese Logik mit AI Gates und AI Rules ohnehin als Lernmechanismus vorhanden. Ich übertrage diesen Ansatz gern auf Sicherheit: Bevor Output veröffentlicht wird, soll er durch Gates laufen.

Schicht 3 — Output-Freigabe + Audit-Logs (Publikationssicherheit)

Diese Schicht macht die Frage „Ist die KI korrekt?“ operational.

• Output-Freigabe: Welche Inhalte dürfen ohne menschliche Freigabe nicht veröffentlicht werden?
• Audit-Logs: Mit welchem Prompt wurde erzeugt, auf welche Quelle gestützt, wer hat freigegeben, wann wurde veröffentlicht?

Bei Nextrain ist Analytics nicht nur „Dashboard“; es gibt event-level Tracking: Ansehen, Klick, Antwort, Dauer. Solche Audit-Logs sind für zwei L&D-Aufgaben Gold wert:

1. Lerneffekt verstehen
2. Bei einem KI-bedingten Fehler rückwirkend klären, „was ist passiert?“

3) „AI Gates“ für Sicherheit adaptieren: Qualitäts- und Compliance-Gates vor Veröffentlichung

Die Idee des „Gates“ kenne ich aus der Literatur: In Borges’ Labyrinthen sind Türen manchmal kein Ausgang, sondern ein Klassifikationswerkzeug. (Ich wollte das Calvino zuschreiben; nein, die Labyrinth-Obsession ist Borges’ Signatur. Korrigieren wir meine Ablage.)

In L&D würde ich den AI-Gates-Ansatz so auf den Content-Publishing-Prozess anwenden:

Gate 1 — Korrektheit (factual accuracy)

• Widerspricht der Inhalt Unternehmens-Policy?
• Spricht er in Bereichen wie Arbeitssicherheit/DSGVO „absolut“?
• Trennt er Annahme und Tatsache?

Regel: In Themen wie Arbeitssicherheit, DSGVO, Ethik, Disziplin werden Sätze mit definitiven Urteilen automatisch in „menschliche Freigabe“ geroutet.

Gate 2 — Vertraulichkeit (DSGVO + internes Wissen)

• Enthält der Text Namen, Team, Standort, Falldetails?
• Legt er interne Prozesslücken offen (z. B. „diese Kontrolle funktioniert bei uns nicht“)?

Regel: Jeder Output mit Identifikatoren oder internen Audit-Findings ist „rot“.

Gate 3 — Urheberrecht und Zitierung

• Gibt es Zitate aus externen Quellen?
• Ist das, was als „Allgemeinwissen“ präsentiert wird, in Wahrheit eine Umschreibung eines Textes?

Regel: Wenn Lerncontent einen Standard, eine Vorschrift oder einen externen Text zusammenfasst, ist ein Zitierhinweis verpflichtend.

Gate 4 — Ton und Unternehmenssprache

• Unternehmenssprache: befehlend oder erklärend?
• Employee Experience: anklagend oder lehrend?

Regel: Statt „Du hast es falsch gemacht“ lieber „Die richtige Vorgehensweise ist“.

Gate 5 — Messbarkeit (Assessment-Design)

• Misst die Frage das Zielverhalten?
• Ist der Lösungsschlüssel diskutabel?

Regel: Für Checkpoints und Tests ist das Feld „Messziel“ verpflichtend: Welches Verhalten/welcher Output wird gemessen?

Damit das in den L&D-Alltag „anklebbar“ wird, hier die Tabelle:

4) Policy-Vorlagen: Wie ein L&D-Handbuch (kurz, umsetzbar)

Wenn Policy-Texte lang sind, liest sie niemand. Wittgensteins Satz „What can be said at all can be said clearly.“ hilft hier [Wittgenstein, Tractatus Logico-Philosophicus, 1921]. (Ja, das Buch ist kein besonders gutes Beispiel für „kurz schreiben“; aber der Satz stimmt.)

Die folgenden Vorlagen sind so gestaltet, dass sie „kurz und umsetzbar“ sind.

4.1 Akzeptable Nutzung (AI) — Entwurf

• KI darf für Lerndesign und Content-Erstellung genutzt werden.
• Das Eingeben von personenbezogenen Daten (DSGVO) in KI ist verboten.
• Unternehmensgeheimnisse dürfen nur in „zusammengefasster und de-identifizierter“ Form eingegeben werden.
• KI-Outputs dürfen in der Kategorie „Policy/Compliance“ nicht ohne menschliche Freigabe veröffentlicht werden.
• Wenn KI-Output Mitarbeitenden als „offizielle Position“ präsentiert wird, sind Quelle und Freigabe verpflichtend.

4.2 Urheberrecht / Zitier-Policy — Entwurf

• Zitate aus externen Quellen dürfen 25 Wörter nicht überschreiten; für längere Zitate braucht es Erlaubnis und/oder eine andere Methode.
• Auch bei Zusammenfassungen wird die Quelle genannt (Standard, Vorschrift, Buch, Artikel).
• Von KI erzeugter Text gilt nicht „automatisch als urheberrechtsfrei“; die inhaltlich verantwortliche Organisation übernimmt die Publikationsverantwortung.

4.3 Policy zu sensiblen Informationen (DSGVO + Unternehmensintern) — Entwurf

• Beispiele für „sensible Informationen“: Mitarbeiterleistung, Disziplin, Gesundheit, Details zu Kundenbeschwerden, Pricing, Vertragsklauseln, Audit-Findings.
• Wenn Fälle mit sensiblen Informationen in Trainings genutzt werden:
  • De-Identifizierung (Name, Datum, Standort, Team).
  • Numerische Details werden gerundet (unnötige Präzision entfernen).
  • Freigabe durch Legal/Compliance einholen.

4.4 Fälle mit Pflicht zur menschlichen Freigabe — Entwurf

Die folgenden Outputs erfordern zwingend menschliche Freigabe:

• Arbeitssicherheit-Anweisung und Notfallprozedur
• DSGVO-Text, Informationspflichten, Datenverarbeitungsprozesse
• Ethikverstoß-/Disziplin-Szenarien
• Bewertungsergebnisse, die die Mitarbeiterleistung beeinflussen
• Management-Message / Erklärung im Namen des Unternehmens

Das „automatisch“ zu veröffentlichen erzeugt im besten Fall Missverständnisse; im schlimmsten Fall hinterlässt es Spuren im Audit.

5) Operative Kontrolle: RACI und Checkliste (L&D, Legal/Compliance, IT-Security)

Governance bricht zusammen, wenn sie die Frage „Wer gibt was frei?“ nicht beantworten kann. An dieser Stelle stellt Kalde manchmal eine architektonische Frage: „Wer ist Owner dieser Entscheidung?“ Sein Kopf ist meist im System-Flow; meiner im Human-Flow. Zusammen funktioniert Governance.

Unten ist ein praktischer RACI-Vorschlag. Passen Sie Rollennamen an Ihr Unternehmen an; behalten Sie die Logik.

RACI (Responsible / Accountable / Consulted / Informed)

Arbeitspaket: Erstellung und Veröffentlichung von Lerninhalten mit KI

1) Erstellung von Prompt-Vorlagen
- L&D: R
- Legal/Compliance: C
- IT-Security: C
- Fachbereich (SME): C
- Top-Management: I

2) Datenklassifizierungsregeln (PII / Unternehmensgeheimnis)
- L&D: C
- Legal/Compliance: A
- IT-Security: R
- Fachbereich (SME): C
- Top-Management: I

3) Freigabe von Arbeitssicherheit-/DSGVO-Inhalten
- L&D: R
- Legal/Compliance: A
- IT-Security: C
- Fachbereich (SME): C
- Top-Management: I

4) Qualitätsfreigabe für Bewertungsfragen (Checkpoint/Test)
- L&D: A/R
- Legal/Compliance: C (wenn Compliance-Thema)
- IT-Security: I
- Fachbereich (SME): C
- Top-Management: I

5) Ansatz zur Aufbewahrung von Audit-Logs und Audit-Trail (log)
- L&D: C
- Legal/Compliance: C
- IT-Security: A/R
- Fachbereich (SME): I
- Top-Management: I

Checkliste für L&D „vor dem Go-live“

• Enthält der Inhalt Arbeitssicherheit/DSGVO/Ethik? (Wenn ja: menschliche Freigabe verpflichtend)
• Gibt es im Prompt sensible Informationen? (Wenn ja: entfernen/zusammenfassen/de-identifizieren)
• Enthält der Output „definitive Urteile“? (Quelle ergänzen oder abschwächen)
• Ist es eine Zusammenfassung externer Quellen? (Zitierhinweis ergänzen)
• Ist das Messziel klar? (Misst die Frage Verhalten?)
• Gibt es einen Monitoring-Plan nach Veröffentlichung? (Welche Events: Ansehen/Klick/Antwort/Dauer)

6) Mess-Unschärfe reduzieren: Nicht „Was haben wir produziert?“, sondern „Wozu hat es geführt?“

Die einfachste Falle für L&D mit KI: Produktionsgeschwindigkeit für Erfolg halten. Die Anzahl der Inhalte steigt; Lernen muss nicht steigen.

Für mich ist Messung zweischichtig:

1. Verhaltenssignal: Ansehen, Klick, Antwort, Dauer (das ist „Interaktion“)
2. Kompetenzsignal: Checkpoint-Ergebnisse, Entscheidungen in entscheidungsbasierten Simulationen (das ist „Performance“)

Dass in Nextrain jede Aktion auf Event-Level getrackt wird (Ansehen/Klick/Antwort/Dauer), macht diese Trennung praktisch:

• Ein Modul wird viel angesehen, aber die Antworten sind schlecht: Content ist nicht verständlich oder die Messung ist fehlerhaft.
• Die Dauer ist sehr kurz, der Score sehr hoch: Content ist zu leicht (oder Abschreiben; ja, auch das ist ein Modell).

Hier ein kleiner Regelvorschlag: Jeder neue KI-generierte Inhalt bleibt die ersten 2 Wochen im „Beobachtungsmodus“.
Das heißt:

• Statt sofort in die ganze Organisation auszurollen, segmentbasiert in einer kleinen Gruppe veröffentlichen.
• Event-Signale beobachten.
• Erneut durch die Gates schicken.

Das ähnelt der „Canary Release“-Logik aus dem Software-Testing; ich nenne das in L&D innerlich „Canary Learning“. Der Vogel ist Metapher; die Methode ist real.

7) Schlusswort: Governance ist nicht die Bremse der Geschwindigkeit; sie ist das Lenkrad der Geschwindigkeit

Generative KI gibt L&D, wovon es seit Jahren träumt: Geschwindigkeit in Content-Erstellung und Personalisierung. Aber Geschwindigkeit ohne Lenkrad bedeutet nur, schneller an der Wand zu sein.

Meine Empfehlung lässt sich auf einen einfachen Satz reduzieren:

• Daten klassifizieren.
• Prompts standardisieren.
• Outputs durch Gates schicken.
• Spuren hinterlassen.
• Rollen verteilen.

Wenn Sie das tun, hört KI auf, ein „Risiko“ zu sein, und wird wieder das, was L&D liebt: ein gut designtes System. Ein System, das Lernen ermöglicht, Audits übersteht und die Unternehmenssprache nicht beschädigt.

Notizen

1. Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics (1933) — “The map is not the territory.”
2. Ludwig Wittgenstein, Tractatus Logico-Philosophicus (1921) — Über die Grenzen der Sprache und das Prinzip der Klarheit.