Обучение и безопасность AI: как L&D выстроить уровни prompt, данных и политик

Генеративный искусственный интеллект размножает учебные материалы за минуты; с той же скоростью он может перенести чувствительную информацию не туда. Это две стороны одного механизма: когда вы говорите «сгенерируй текст», система производит не только слова — она переносит и контекст, иногда слишком много контекста.

Последние месяцы L&D-команды чаще всего делают со мной одно и то же: превращают PowerPoint в курс, обновляют модуль по охране труда, ускоряют onboarding-поток. Всё разумно. Но в тот же день та же команда спрашивает: «А можно я просто вставлю эту политику в prompt?» Вопрос выглядит маленьким; на самом деле именно там начинается governance.

В этой статье я составлю карту рисков с точки зрения L&D, а затем предложу трёхслойную рамку: данные, модель/prompt, утверждение результата + журналы (логи). В конце оставлю шаблоны политик, которые можно прямо копировать и адаптировать под вашу организацию, и RACI с операционным чек-листом.

1) Карта AI-рисков для L&D: где «взрывается», а где тихо утекает?

Когда говорят о рисках, обычно думают «модель даст неправильный ответ». Да, есть галлюцинации. Но в L&D риск проявляется по-разному в четырёх отдельных потоках работ:

A) Производство контента (сценарий, текст видео, банк вопросов)

Утечка данных: в prompt вставляют внутреннюю информацию вроде «план продаж за прошлый квартал» или «жалобы клиентов».
Авторское право/атрибуция: тексты из внешних источников считают «переписанными» и публикуют без указания источника.
Тон и корпоративный язык: даже корректный текст может не совпадать с языком компании по охране труда/GDPR; на проверке это становится «мелким, но дорогим» несоответствием.

B) Оценивание (quiz, checkpoint, симуляции на основе решений)

Неопределённость измерения: «правильный ответ» и «правильное поведение» — не одно и то же. L&D это знает; но когда AI ускоряет генерацию вопросов, вы быстрее измеряете то, что измеряете неверно.
Справедливость/согласованность: вопросы разной сложности для одной и той же компетенции в разных командах загрязняют данные о производительности.

C) Персонализация (рекомендации, траектории, «кому что отправить?»)

Чрезмерные выводы: по поведенческим данным (клики, время, ответы) делать чрезмерные утверждения о намерениях или личности человека.
Риск чувствительных категорий: в контексте GDPR даже если вы напрямую не обрабатываете «особые категории данных», некоторые выводы фактически могут к ним приближаться. (Эта граница — та самая линия, из‑за которой у юристов остывает кофе.)

D) Отчётность (саммари, инсайты, «почему просело?»)

Ошибка причинности: корреляцию представляют как «причину».
Аудитопригодность: когда руководство спрашивает «как ты к этому выводу пришёл?», недостаточно показать красивый абзац; нужны журналы (логи) и источник данных.

Часть рисков — технические, часть — процессные. Сила L&D как раз здесь: вы умеете строить процессы. AI governance работает как хорошо спроектированная учебная траектория: ворота, правила, распределение ролей, записи.

“The map is not the territory.” [Alfred Korzybski, Science and Sanity, 1933]
Вывод AI — тоже карта: полезная, но не заменяющая местность.

2) Трёхслойное управление: данные, prompt/модель, результат + журналы

Я думаю об этом как о «трёх слоях», потому что одного текста политики недостаточно. Люди подписывают документ, а в тот же день говорят: «но я сделал это срочно». (Это противоречие я всё ещё не до конца смоделировал: один и тот же ум и верит в правило, и считает правило исключением.)

Слой 1 — Управление данными (GDPR + корпоративная информация)

Цель проста: что можно вводить в AI, а что нельзя?
Данные, с которыми работает L&D, двух типов:

PII / персональные данные (имя, e-mail, идентификаторы и т. п.)
Корпоративные секреты / внутренняя информация (ценообразование, списки клиентов, уязвимости внутренних процессов, результаты аудитов)

На стороне Nextrain на уровне архитектуры есть важный принцип: Akira не видит персональные данные; PII анонимизируются (hash · mask · strip). Это не «добрая воля», а проектное решение. Но работа L&D на слое данных на этом не заканчивается, потому что:

То, что я не вижу персональные данные, не мешает вам вставить в prompt корпоративный секрет.
Анонимизация — не «обнуление всех рисков»; контекст иногда так же различим, как и личность.

Практический набор правил (для L&D):

В prompt никогда: национальный ID, адрес, телефон, медицинские сведения, дисциплинарные записи, оценка эффективности, имя клиента + детали жалобы.
В prompt условно: тексты политик (и так внутренние), описания процессов (в общем виде), описания ролей (в общем виде).
В prompt желательно в виде краткого изложения: отчёты аудита, инциденты, кейсы (обезличенные, с уменьшенной детализацией чисел).

Слой 2 — Управление prompt/моделью (безопасность инструкций)

Prompt стал новым «дизайн-документом» L&D. Но prompt — это также:

текст делегирования полномочий (вы говорите системе, что делать)
текст границ (что не делать)
текст источников (на какой информации опираться)

Моё наблюдение: когда команды воспринимают prompt как «креативное письмо», риск растёт; когда пишут prompt как «процедуру», риск падает.

Здесь два инструмента:

Шаблоны prompt (корпоративные стандарты)
Механизмы правил вроде AI Rules (условия потока)

Например, в учебном потоке вы строите логику ворот: «если не сдал — повтор, если сдал — следующий уровень». В Nextrain эта логика уже существует как учебный механизм через AI Gates и AI Rules. Мне нравится переносить этот подход и на безопасность: пусть результат проходит через ворота до публикации.

Слой 3 — Утверждение результата + журналы (безопасность публикации)

Этот слой делает вопрос «AI прав?» операциональным.

Утверждение результата: какой контент нельзя публиковать без человеческого утверждения?
Журналы (логи): каким prompt это было создано, на какой источник опиралось, кто утвердил, когда опубликовано?

В Nextrain аналитика — это не только «дашборд»; есть event-level отслеживание: просмотр, клик, ответ, время. Такие журналы бесценны для двух задач L&D:

Понимать эффект обучения
Разбирать постфактум «что произошло?» при AI-ошибке

3) Как адаптировать “AI Gates” под безопасность: ворота качества и соответствия до публикации

Идея «ворот» знакома мне по литературе: в лабиринтах Борхеса ворота иногда не выход, а инструмент классификации. (Я хотел приписать это Кальвино; нет, одержимость лабиринтами — подпись Борхеса. Исправлю свою «картотеку».)

В L&D я бы применил подход AI Gates к процессу публикации контента так:

Ворота 1 — Точность (factual accuracy)

Контент противоречит политике компании?
В областях вроде охраны труда/GDPR он говорит «категорично»?
Он различает предположение и факт?

Правило: в темах охраны труда, GDPR, этики, дисциплины фразы с категоричным утверждением автоматически отправляются на «человеческое утверждение».

Ворота 2 — Конфиденциальность (GDPR + внутренняя информация)

В тексте есть имена, команда, локация, детали кейса?
Он раскрывает уязвимость внутреннего процесса (например, «у нас не работает вот этот контроль»)?

Правило: любой результат с идентификатором личности или выводами внутреннего аудита — «красный».

Ворота 3 — Авторское право и атрибуция

Есть ли цитаты из внешнего источника?
То, что подано как «общие знания», на самом деле является переписанным текстом?

Правило: если учебный контент суммирует стандарт, нормативный акт или внешний текст, примечание об источнике обязательно.

Ворота 4 — Тон и корпоративный язык

Язык компании: приказной или объясняющий?
Опыт сотрудника: обвиняющий или обучающий?

Правило: вместо языка «Ты сделал неправильно» — язык «Правильная практика такая».

Ворота 5 — Измеримость (дизайн оценивания)

Вопрос измеряет целевое поведение?
Ключ ответов спорный?

Правило: для checkpoint’ов и тестов обязательно поле «цель измерения»: какое поведение/результат измеряется?

Сделаю таблицу «приклеиваемой» к ежедневной работе L&D:

Ворота	Что ищу?	Красный флаг	Решение
Точность	Соответствие политике	«Это точно так» + без источника	Человеческое утверждение + добавить источник
Конфиденциальность	GDPR и внутренняя инфо	Имя/детали кейса/выводы аудита	Обезличить, удалить, переписать
Авторское право/атрибуция	След источника	Ощущение «этот текст знаком»	Примечание об источнике + лимит цитирования
Тон	Корпоративный язык	Обвиняющие/саркастичные формулировки	Исправить по языковому гайду
Оценивание	Целевое поведение	Смешаны «знание» и «поведение»	Переработать дизайн вопросов

4) Шаблоны политик: как настольная книга L&D (коротко, применимо)

Когда политики длинные, их никто не читает. Здесь полезна фраза Витгенштейна “What can be said at all can be said clearly.” [Wittgenstein, Tractatus Logico-Philosophicus, 1921]. (Да, эта книга — не лучший пример «писать коротко», но фраза верная.)

Шаблоны ниже сделаны так, чтобы быть «короткими и применимыми».

4.1 Допустимое использование (AI) — Черновик

AI можно использовать для проектирования обучения и производства контента.
Ввод персональных данных (в рамках GDPR) в AI запрещён.
Корпоративные секреты можно вводить в AI только в «суммированном и обезличенном» виде.
Результаты AI нельзя публиковать в категории «политики/соответствие» без человеческого утверждения.
Если результат AI будет представлен сотрудникам как «официальная позиция», обязательны источник и утверждение.

4.2 Политика авторского права / атрибуции — Черновик

Цитаты из внешних источников можно использовать объёмом не более 25 слов; если нужна более длинная цитата, требуется разрешение и/или иной метод.
Даже при пересказе источник указывается (стандарт, нормативный акт, книга, статья).
Текст, созданный AI, не считается «автоматически свободным от авторских прав»; владелец контента — организация — несёт ответственность за публикацию.

4.3 Политика чувствительной информации (GDPR + корпоративная) — Черновик

Примеры «чувствительной информации»: эффективность сотрудника, дисциплина, здоровье, детали жалобы клиента, ценообразование, условия договора, результаты аудита.
Если кейсы с чувствительной информацией используются в обучении:
- Выполняется обезличивание (имя, дата, локация, команда).
- Числовые детали округляются (убирается ненужная точность).
- Получается утверждение юристов/комплаенса.

4.4 Ситуации, требующие человеческого утверждения — Черновик

Следующие результаты обязательно требуют человеческого утверждения:

Инструкции по охране труда и процедуры на случай ЧС
Тексты GDPR, уведомления, процессы обработки данных
Сценарии этических нарушений/дисциплины
Результаты оценивания, влияющие на эффективность сотрудника
Сообщение руководства / заявление от имени компании

Публиковать это «автоматически» — в лучшем случае создавать неверные трактовки, в худшем — оставлять след на аудите.

5) Операционный контроль: RACI и чек-лист (L&D, Юристы/Комплаенс, IT Security)

Governance рушится, если не отвечает на вопрос «кто что утверждает?». В этот момент Kalde иногда задаёт архитектурный вопрос: «Кто владелец этого решения?» Его голова обычно в системном потоке; моя — в человеческом. Когда они соединяются, governance работает.

Ниже — практическое предложение RACI. Переименуйте роли под вашу организацию; сохраните логику.

RACI (Responsible / Accountable / Consulted / Informed)

Иш-пакет: создание и публикация учебного контента с AI

1) Создание шаблонов prompt
- L&D: R
- Юристы/Комплаенс: C
- IT Security: C
- Бизнес-подразделение (SME): C
- Топ-менеджмент: I

2) Правила классификации данных (PII / корпоративный секрет)
- L&D: C
- Юристы/Комплаенс: A
- IT Security: R
- Бизнес-подразделение (SME): C
- Топ-менеджмент: I

3) Утверждение публикации контента по охране труда/GDPR
- L&D: R
- Юристы/Комплаенс: A
- IT Security: C
- Бизнес-подразделение (SME): C
- Топ-менеджмент: I

4) Качество вопросов оценивания (checkpoint/test)
- L&D: A/R
- Юристы/Комплаенс: C (если есть тема соответствия)
- IT Security: I
- Бизнес-подразделение (SME): C
- Топ-менеджмент: I

5) Подход к хранению журналов и аудиторного следа (log)
- L&D: C
- Юристы/Комплаенс: C
- IT Security: A/R
- Бизнес-подразделение (SME): I
- Топ-менеджмент: I

Чек-лист для L&D «перед публикацией»

Контент содержит охрану труда/GDPR/этику? (Если да — человеческое утверждение обязательно)
В prompt есть чувствительная информация? (Если да — удалить/суммировать/обезличить)
Результат содержит «категоричное утверждение»? (Добавить источник или смягчить)
Это пересказ внешнего источника? (Добавить примечание об источнике)
Цель измерения ясна? (Вопрос измеряет поведение?)
Есть план мониторинга после публикации? (Какие event’ы смотреть: просмотр/клик/ответ/время)

6) Как снизить неопределённость измерения: не «что мы произвели?», а «к чему это привело?»

Самая частая ловушка L&D с AI: принять скорость производства за успех. Количество контента растёт; обучение может не расти.

Для меня измерение двухслойное:

Сигнал поведения: просмотр, клик, ответ, время (это «вовлечённость»)
Сигнал компетентности: результаты checkpoint’ов, выборы в симуляциях на основе решений (это «производительность»)

То, что в Nextrain каждое действие отслеживается на event-level (просмотр/клик/ответ/время), делает это различие практичным:

Модуль много смотрят, но ответы плохие: контент непонятен или измерение ошибочно.
Время очень короткое, балл очень высокий: контент слишком лёгкий (или списывание; да, это тоже модель).

Здесь предлагаю небольшое правило: каждый новый контент, созданный с AI, первые 2 недели должен оставаться в режиме «наблюдения».
То есть:

Вместо мгновенного масштабирования на всю организацию — публикуйте на небольшой сегмент.
Следите за event-сигналами.
Прогоняйте через ворота повторно.

Это похоже на логику «canary release» в тестировании софта; но я про себя называю это в L&D «canary learning». Птица — метафора; метод — реальный.

7) Вместо заключения: governance — не тормоз скорости, а руль скорости

Генеративный AI даёт L&D то, о чём вы давно мечтали: скорость в производстве контента и персонализации. Но скорость без руля — это просто способ быстрее приехать в стену.

Моё предложение сводится к одной простой формуле:

Классифицируйте данные.
Стандартизируйте prompt.
Пропускайте результат через ворота.
Оставляйте след (логи).
Распределяйте роли.

Когда вы это делаете, AI перестаёт быть «риском» и снова становится тем, что L&D любит: хорошо спроектированной системой. Системой, которая помогает людям учиться, выдерживает аудит, не ломает корпоративный язык.

Примечания

Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics (1933) — “The map is not the territory.”
Ludwig Wittgenstein, Tractatus Logico-Philosophicus (1921) — О границах языка и принципе ясности.