Качество оценивания с AI: как контролировать галлюцинации, предвзятость и уровень сложности в банке вопросов?

В одном вопросе с множественным выбором одно слово («наиболее подходящий», «первый», «какое НЕ является») может изменить то, что вы измеряете; оценивание иногда — это скорее грамматика, чем содержание. У Кальвино в «Невидимых городах» города построены из одного материала, но живут по совершенно разным правилам — мои банки вопросов такие же: одна тема, одно целевое поведение; но стоит изменить формулировку (stem) и дистракторы (distractors), и появляется другой «город» (Calvino, Le città invisibili, 1972).

Поэтому генерация вопросов с AI — одновременно и прекрасно, и опасно. Прекрасно, потому что растёт скорость производства. Опасно, потому что качество часто ухудшается молча: никто не поднимает тревогу «мы измерили не то»; просто баллы становятся странными, люди говорят «этот тест был какой-то нелепый», и на этом всё заканчивается.

В этой статье я предложу практический фреймворк обеспечения качества (QA), чтобы держать банк вопросов надёжным, справедливым и уровневым: генерация вопросов → качественные ворота → публикационное одобрение. На стороне Nextrain это можно мыслить как “AI Gates”: контент, не прошедший ворота, не переходит на следующий этап; он возвращается назад, исправляется и пробуется снова.

“Not everything that counts can be counted, and not everything that can be counted counts.” [William Bruce Cameron, 1963]
Я перевожу это на язык экзаменов так: вы можете выставить баллы за что угодно; но не каждый балл — это измерение.

1) Что такое «качество» в банке вопросов? (Три оси: точность, справедливость, уровень)

Я вижу команды, которые пытаются управлять качеством вопроса одной меткой «хороший/плохой». Это упрощение, которое любит человеческий мозг. Но проблема качества банка вопросов живёт на трёх разных осях:

1. Точность (validity + техническая корректность):

   • Есть ли один правильный ответ?
   • Действительно ли правильный ответ правильный?
   • Не расплывчат ли вопрос?
   • Не требует ли он знания вне контекста?

2. Справедливость (bias + инклюзивность):

   • Соответствует ли уровень языка роли?
   • Не дают ли культурные отсылки преимущество одной группе?
   • То, что «все знают», действительно знают все?

3. Уровень (сложность + различающая способность):

   • Слишком легко/слишком сложно?
   • Отличает ли хорошо знающих от слабо знающих?
   • Реалистичны ли дистракторы или это «смешные ошибки»?

Интересно вот что: люди обычно спорят про пункт 1 («правильно или нет?»), пункт 2 обсуждают осторожно (слово «предвзятость» напрягает встречу), а пункт 3 почти никогда не измеряют («мы же и так сделали тест в конце обучения»). Хотя деградация в пункте 3 незаметно разъедает и 1, и 2.

2) Типовые классы ошибок в вопросах, сгенерированных AI (и быстрая диагностика)

Ошибки AI при генерации вопросов не «случайны»; есть повторяющиеся классы. В банке вопросов чаще всего я вижу следующие четыре:

A) Расплывчатая формулировка (ambiguous stem)

Признак: возможны две интерпретации и два разных правильных ответа.

• Плохой пример: «Какой подход является подходящим для обработки данных в рамках GDPR?»
  «Подходящим» по какому критерию? Согласие, договор, законный интерес? Контекста нет.

• Быстрый стандарт исправления:

  • Формулировка должна давать один контекст: роль, ситуация, ограничения.
  • Один глагол: «выберите», «определите», «примените» (не всё сразу).

B) Несколько правильных ответов (multiple correct)

Признак: два варианта верны; экзамен измеряет не «знание», а «намерение автора вопроса».

• Диагностический вопрос: «Могу ли я написать правильный ответ, не видя вариантов?»
  Если не можете — скорее всего, не хватает формулировки; если можете, но подходят два варианта — проблема в вариантах.

C) Знание вне контекста (out-of-context knowledge)

Признак: спрашивается деталь, которой нет в учебном контенте, нет в политике компании, а иногда она может отличаться и по законодательству страны.

Это то, что AI делает, пытаясь помочь «общими знаниями о мире». Как океан у Лема в «Солярисе»: он даёт вам то, что вы хотите, но не из вашего контекста (Lem, Solaris, 1961). В тестировании это называется: галлюцинация.

• Быстрый стандарт исправления:
  • Обязательное «привязывание к доказательству» для каждого вопроса (ниже расскажу).

D) Вводящий в заблуждение дистрактор (misleading distractor)

Признак: дистрактор нереалистичен; либо слишком очевидно неверен, либо «хитрит».

• Очевидно неверный дистрактор: не различает обучающихся, измеряет только скорость.
• «Хитрый» дистрактор: наказывает добросовестного обучающегося, выглядит как «шутка».

Моё маленькое правило: дистрактор должен быть написан языком частой ошибки на практике. Он должен быть «неверным, но понятным», а не «неверным и странным».

3) Самый скучный, но самый эффективный способ снизить галлюцинации: стандарт «привязки к доказательству»

Полностью убрать галлюцинации AI… теоретически красиво, на практике дорого. Лучшая стратегия: не дать галлюцинациям сломать экзамен.

Для этого я задаю для каждого вопроса стандарт мини‑«пакета доказательств». Каждая единица, попадающая в публикацию, несёт три вещи:

• Обоснование правильного ответа (1–2 предложения): «Почему это верно?»
• Обоснование неверных (минимум для 1 критического дистрактора): «Почему это заманчиво, но неверно?»
• Ссылка (внутренний документ / раздел обучения / заголовок нормы): «На что опирается?»

Когда вы пишете этот пакет, происходит два эффекта:

1. Автор вопроса (включая меня) ловит момент «на самом деле я не уверен».
2. Когда приходит аудит (GDPR/охрана труда и т. п.), банк вопросов становится защищаемым.

Можно использовать такой шаблон:

Soru ID: KVKK-ONB-014
Hedef davranış: Veri minimizasyonu ilkesini uygulama
Kök: (senaryo + rol + kısıt)
Doğru seçenek: B
Gerekçe (doğru): ...
Çeldirici notu (A): ... (neden yanlış ama cazip)
Referans: KVKK farkındalık eğitimi / Bölüm 2.3 + kurum politikası madde X
Dil seviyesi: Operasyon
Risk etiketi: KVKK

Сделаю небольшую поправку: выше я сказал «минимум 1 критический дистрактор»; на самом деле в высокорисковых областях (KVKK, охрана труда, этика) я прошу короткое обоснование для всех вариантов. Потому что в этих областях «неверная информация» не только ломает измерение; она может испортить и поведение.

4) Предвзятость и инклюзивность: язык, культура, роль… и невидимые пороги

Предвзятость во многих командах воспринимается как «злой умысел». По моим наблюдениям чаще встречается другое: ленивость в языке и контексте.

Три типа риска:

1) Языковая предвзятость (порог грамотности)

Одно и то же знание можно спросить с разной языковой нагрузкой.

• Плохой пример (высокая языковая нагрузка):
  «Какой из нижеперечисленных вариантов является целостным представлением минимальных элементов, которые оператор данных обязан предоставить субъекту данных в рамках обязанности по информированию?»

Это не вопрос на измерение; это тест на дыхание.

• Более инклюзивная версия:
  «Какая информация обязательно должна быть в тексте информирования по GDPR?»

Та же тема, ниже языковой барьер.

2) Культурная предвзятость (барьер отсылок)

Примеры, которые вы считаете «всем известными», могут быть чужими для некоторых групп: определённые города, социальные практики, семейные роли.

Моё правило: примеры должны идти из рабочего контекста. Продажи — значит продажи; склад — значит склад; колл‑центр — значит колл‑центр. Банк вопросов — не литературный клуб. (Иронично, потому что я только что упомянул Кальвино. Но я использую отсылку не для читателя, а для себя; не для вопросов.)

3) Ролевая предвзятость (барьер реальности работы)

Не каждый может применять один и тот же концепт с одинаковыми полномочиями.

• Плохой пример: «Сотрудник должен остановить деятельность по обработке данных.»
  Какой сотрудник? С какими полномочиями?

• Исправленный: «В какой отдел сотрудник должен эскалировать до согласования подозрительный запрос на передачу данных?»
  Это измеряет действие, которое роль действительно может выполнить.

Одно пользовательское поведение всё ещё удивляет меня: одна и та же компания в одну и ту же неделю говорит и «вопросы слишком лёгкие, никто не воспринимает всерьёз», и «операционная команда не понимает текст». Оба утверждения могут быть верными одновременно — но решение не в том, чтобы «усложнять», а в том, чтобы снизить языковую нагрузку и прояснить когнитивную цель.

5) Сложность и различающая способность: быстрый чек‑лист на основе простой предметной аналитики

Когда банк вопросов растёт, «интуиции» недостаточно. Я предлагаю быстрый чек‑лист предметной аналитики. Пусть статистика не пугает; базовые сигналы простые.

В таблице ниже — практические пороги (настройте под свою организацию):

Поскольку я знаю, что в Nextrain на аналитической стороне есть event‑level отслеживание вроде «Ответ» и «Время», я особенно люблю эти два сигнала: одна доля правильных сама по себе обманчива; в паре со временем вы начинаете отличать «сложно» от «непонятно».

Здесь есть маленькая ловушка: очень сложные вопросы не всегда плохи. Если целевое поведение — «разделение экспертов», то p=0.25 может быть вполне хорошим. Плохо, когда вопрос не соответствует целевому уровню.

6) Дизайн потока: генерация вопросов → качественные ворота → публикационное одобрение (мышление AI Gates)

Качество банка вопросов — это не столько исправление отдельных вопросов, сколько дизайн процесса. Я строю это как поток из трёх ворот. Мне нравится выражение “AI Gates”, потому что оно механистичное: не прошёл — значит не прошёл.

Ворота 1 — Структурная валидация (формат + единственная правильность)

Цель: поймать самые дешёвые ошибки как можно раньше.

Чек‑лист:

• Формулировка требует одного действия?
• Есть один правильный ответ?
• Варианты грамматически согласуются с формулировкой?
• Нет ли вариантов вроде «всё / ничего», если они не нужны?

Ворота 2 — Доказательство и контекст (галлюцинации + соответствие компании)

Цель: привязать «почему правильный ответ правильный».

Чек‑лист:

• Есть ссылка? (раздел обучения / политика / норма)
• Написано обоснование?
• Есть ли риск неверной информации в областях вроде KVKK/охрана труда?
• Сценарий соответствует реальности компании?

На этом этапе Saadet, то есть наш Specialist “We’ll Handle It”, обычно задаёт лучший вопрос: «Когда человек прочитает это “в поле”, он скажет: “окей, а что мне делать?”» Её рефлекс рано ловит предвзятость и несоответствие роли — потому что проблема клиента чаще всего не «информация неверна», а «действие неясно».

Ворота 3 — Статистическое здоровье (сложность + различающая способность)

Цель: держать банк вопросов живым и рано ловить деградацию.

Чек‑лист:

• p‑значение в целевом диапазоне?
• Различающая способность отрицательная?
• Дистрактор не выбирают?
• Есть аномалия по времени?

Эти ворота не обязаны быть «до публикации». Я часто публикую, а затем запускаю эти ворота на реальных пользовательских данных. Потому что некоторые вопросы на бумаге идеальны, а в поле разваливаются. Люди творчески неправильно понимают.

7) Практический пример: улучшить один и тот же вопрос четыре раза (расплывчатость → доказательство → предвзятость → уровень)

Пойдём на примере. Тема: базовое поведение в охране труда (общий пример; адаптируйте под свою организацию).

Версия 0 (быстрая генерация AI)

Вопрос: «Какое поведение является правильным с точки зрения охраны труда?»
A) Быть внимательным
B) Соблюдать правила
C) Снижать риски
D) Проходить обучение

Это не вопрос; это мотивационный постер.

Версия 1 (исправить расплывчатую формулировку)

Вопрос: «В мастерской вы увидели разлив жидкости на полу. Что нужно сделать в первую очередь?»
A) Перепрыгнуть и продолжить
B) Обозначить зону и сообщить ответственному
C) Сфотографировать и написать в группу
D) Убрать в конце смены

Теперь есть поведение и «первый шаг».

Версия 2 (привязать доказательство)

• Правильный: B
• Обоснование: Риск поскользнуться/упасть возникает сразу; приоритет — обезопасить зону и сделать уведомление.
• Ссылка: базовое обучение по охране труда / раздел «Сообщение об опасности и безопасность зоны»

Здесь снижается риск галлюцинаций: «сфотографировать и написать в группу» в некоторых компаниях может поощряться — но не как «первый шаг». Ссылка это фиксирует.

Версия 3 (снизить предвзятость: роль и полномочия)

Допустим, вы заметили, что некоторые сотрудники не знают, кто такой «ответственный».

Обновлённая формулировка: «... Что нужно сделать в первую очередь?»
B) «Обозначить зону и сообщить руководителю смены / представителю по охране труда»

Это приземляет действие к реальности роли.

Версия 4 (настройка уровня: сделать дистракторы реалистичными)

«Перепрыгнуть и продолжить» слишком карикатурно. Обычно люди делают более «разумные» ошибки: говорят «я сам уберу».

A) «Быстро убрать самому, чтобы никого не отвлекать»
D) «Если нет подходящего оборудования, оставить уборку клинингу в конце смены»

Ошибки стали «человечными»; различающая способность растёт.

Заключение: банк вопросов — не склад контента, а измерительный прибор

В истории Борхеса про «карту» империя делает карту в масштабе один к одному, и в итоге карта сгнивает и смешивается с пустыней (Borges, «Del rigor en la ciencia», 1946). Банки вопросов иногда такие же: растут, растут, растут — а потом никто не доверяет, никто не использует, и они гниют под собственным весом.

Мой фреймворк предлагает не держать банк вопросов маленьким, а держать его здоровым:

• Назовите классы ошибок,
• Введите стандарт привязки к доказательству,
• Сделайте контроль предвзятости вопросом «дизайна», а не «намерений»,
• Отслеживайте сложность и различающую способность простыми статистиками,
• И запускайте всё это через процесс с воротами.

AI ускорил генерацию вопросов. Сохранение качества измерения всё ещё инженерная работа: скучные проверки, чёткие стандарты, повторяющиеся ворота. Скучные вещи обычно работают. (Пишу это и понимаю, что слишком свободно использовал слово «обычно»; некоторые скучные вещи просто скучные. Но качественные ворота — да, работают.)

Примечания

1. Italo Calvino, Le città invisibili (Görünmez Kentler), 1972.
2. Stanisław Lem, Solaris, 1961.
3. William Bruce Cameron, “Not everything that counts can be counted...”, 1963 (широко распространённая цитата).
4. Jorge Luis Borges, “Del rigor en la ciencia” (в El Hacedor), 1946.