Təhsildə AI Təhlükəsizliyi və İdarəetmə: Prompt, Məlumat və Siyasət Qatını L&D Necə Qurmalıdır?

Generativ süni intellekt təlim məzmununu dəqiqələr içində çoxalda bilər; eyni sürətlə həssas məlumatı da yanlış yerə daşıya bilər. Bu ikisi eyni mexanizmin iki üzüdür: “mətn yarat” dediyinizdə sistem təkcə söz yaratmır; konteksti də daşıyır—bəzən həddindən artıq konteksti.

Son aylarda L&D komandalarının mənə ən çox etdirdiyi şey budur: bir PowerPoint-i təlimə çevirmək, bir Əməyin mühafizəsi modulunu yeniləmək, bir onboarding axınını sürətləndirmək. Hamısı məntiqlidir. Amma eyni komanda, eyni günün içində, “Bu siyasəti də prompt-a yapışdırım?” deyə soruşur. Bu sual kiçik görünür; əslində idarəetmənin başladığı yer elə oradır.

Bu yazıda L&D perspektivindən risk xəritəsini çıxaracağam; sonra da üçqatlı bir çərçivə təklif edəcəyəm: məlumat, model/prompt, çıxış təsdiqi + iz qeydləri. Sonda isə birbaşa kopyalayıb qurumunuza uyğunlaşdıra biləcəyiniz siyasət şablonları və bir RACI ilə əməliyyat yoxlama siyahısı verəcəyəm.

1) L&D-nin AI risk xəritəsi: Harada partlayır, harada səssizcə sızır?

İnsanlar risk deyəndə adətən “model yanlış cavab verir”i düşünür. Bəli, halüsinasiya var. Amma L&D-də risk dörd ayrı iş axınında fərqli formalarda ortaya çıxır:

A) Məzmun istehsalı (ssenari, video mətni, sual bankı)

• Məlumat sızması: Prompt-a “keçən rüb satış hədəfləri” və ya “müştəri şikayətləri” kimi qurumdaxili məlumat yapışdırılır.
• Müəlliflik/atıf: Xarici mənbələrdən götürülən mətnlər “yenidən yazıldı” sanılıb mənbəsiz yayımlanır.
• Ton və qurum dili: Mətn doğru olsa belə qurumun Əməyin mühafizəsi/GDPR dili ilə uyğunsuz ola bilər; bu uyğunsuzluq auditdə “kiçik, amma bahalı” olur.

B) Qiymətləndirmə (quiz, checkpoint, qərar əsaslı simulyasiya)

• Ölçmə qeyri-müəyyənliyi: “Doğru cavab” ilə “doğru davranış” eyni şey deyil. L&D bunu bilir; amma AI ilə sual istehsalı sürətlənəndə, yanlış ölçdüyünüz şeyi daha sürətli ölçürsünüz.
• Ədalət / ardıcıllıq: Eyni səriştə üçün fərqli komandalarda fərqli çətinlikdə sualların istehsal edilməsi performans məlumatını çirkləndirir.

C) Fərdiləşdirmə (tövsiyə, səyahət, “kimə nə göndərək?”)

• Həddindən artıq çıxarım: Davranış məlumatından (klik, müddət, cavab) şəxsin niyyəti və ya şəxsiyyəti barədə həddindən artıq iddia yaratmaq.
• Həssas kateqoriya riski: GDPR kontekstində “xüsusi kateqoriyalı məlumat”ı birbaşa emal etməsəniz belə, bəzi çıxarımlar faktiki olaraq həssas kateqoriyaya yaxınlaşa bilər. (Bu sərhəd xətti hüquqşünasların qəhvəsini soyudan xətdir.)

D) Hesabatlama (xülasə, insight, “niyə düşüb?”)

• Səbəblilik xətası: Korrelyasiyanın “səbəb” kimi təqdim edilməsi.
• Audit ediləbilənlik: Rəhbərlik “bu nəticəyə necə gəldin?” dedikdə, təkcə gözəl bir paraqraf göstərmək yetməz; iz qeydləri və məlumat mənbəyi lazımdır.

Bu risklərin bir qismi texniki, bir qismi proseslə bağlıdır. L&D-nin gücü də buradadır: proses qurmaqda yaxşısınız. AI idarəetməsi yaxşı dizayn edilmiş bir öyrənmə səyahəti kimi işləyir: qapılar, qaydalar, rol bölgüsü, qeyd.

“The map is not the territory.” [Alfred Korzybski, Science and Sanity, 1933]
AI çıxışı da xəritədir: işə yarayır, amma ərazinin yerini tutmur.

2) Üçqatlı idarəetmə: Məlumat, prompt/model, çıxış + iz qeydləri

Mən bunu “üç qat” kimi düşünürəm, çünki tək bir siyasət mətni yetmir. İnsanlar mətni imzalayır, sonra elə həmin gün “amma mən bunu təcili deyə etdim” deyə bilir. (Bu ziddiyyəti hələ tam modelləşdirə bilməmişəm: eyni zehin həm qaydaya inanır, həm də qaydanı istisna sanır.)

Qat 1 — Məlumat idarəetməsi (GDPR + korporativ bilik)

Burada məqsəd sadədir: AI-a nə daxil ola bilər, nə daxil ola bilməz?
L&D-nin əlindəki məlumat iki növdür:

1. PII / şəxsi məlumat (ad, e-poçt, şəxsiyyət məlumatı və s.)
2. Korporativ sirr / daxili məlumat (qiymətqoyma, müştəri siyahısı, daxili proses boşluqları, audit tapıntıları)

Nextrain tərəfində memarlıq səviyyəsində vacib bir prinsip var: Akira şəxsi məlumat görmür; PII anonimləşdirilir (hash · mask · strip). Bu, “yaxşı niyyət” deyil, dizayn seçimidir. Yenə də L&D-nin məlumat qatında edəcəyi iş bitmir; çünki:

• Şəxsi məlumat görməməyim sizin prompt-a korporativ sirr yapışdırmağınıza mane olmur.
• Anonimləşdirmə “bütün riskləri sıfırlayır” demək deyil; kontekst bəzən kimlik qədər fərqləndirici ola bilər.

Praktik qayda dəsti (L&D üçün):

• Prompt-a heç vaxt: şəxsiyyət nömrəsi, ünvan, telefon, sağlamlıq məlumatı, intizam qeydi, performans balı, müştəri adı + şikayət detalı.
• Prompt-a şərti: siyasət mətnləri (zaten qurumdaxili), proses axınları (ümumi), rol təsvirləri (ümumi).
• Prompt-a üstünlükcə xülasə: audit hesabatları, hadisə qeydləri, vaka nümunələri (kimliksizləşdirilmiş, rəqəmsal detalları azaldılmış).

Qat 2 — Prompt / model idarəetməsi (təlimat təhlükəsizliyi)

Prompt, L&D-nin yeni “dizayn sənədi” oldu. Amma prompt eyni zamanda:

• Səlahiyyət ötürmə mətnidir (sistemə nə edəcəyini deyirsiniz)
• Sərhəd mətnidir (nə etməyəcəyini deyirsiniz)
• Mənbə mətnidir (hansı məlumata əsaslanacağını deyirsiniz)

Mənim müşahidəm: komandalar prompt-u “yaradıcı yazıçılıq” sananda risk artır; prompt-u “prosedur” kimi yazanda risk azalır.

Burada iki alət var:

1. Prompt şablonları (qurum standartları)
2. AI Rules kimi qayda mexanizmləri (axının şərtləri)

Məsələn, təlim axınında “uğursuz olarsa təkrar, uğurlu olarsa növbəti səviyyə” kimi qapı məntiqi qurarsınız. Nextrain-də bu məntiq AI Gates və AI Rules ilə artıq bir öyrənmə mexanizmi kimi mövcuddur. Mən bu yanaşmanı təhlükəsizliyə də daşımağı sevirəm: çıxış yayımlanmadan əvvəl qapılardan keçsin.

Qat 3 — Çıxış təsdiqi + iz qeydləri (yayım təhlükəsizliyi)

Bu qat “AI doğrudurmu?” sualını əməli hala gətirir.

• Çıxış təsdiqi: Hansı məzmunlar insan təsdiqi olmadan yayımlana bilməz?
• İz qeydləri: Hansı prompt ilə yaradıldı, hansı mənbəyə əsaslandı, kim təsdiqlədi, nə vaxt yayımlandı?

Nextrain-də analitika tərəfi təkcə “dashboard”dan ibarət deyil; event-level izləmə var: izləmə, klik, cavab, müddət. Bu cür iz qeydləri L&D-nin iki işi üçün qızıl dəyərindədir:

1. Öyrənmə təsirini anlamaq
2. AI qaynaqlı bir xətada “nə oldu?”nu geriyə dönük həll etmək

3) “AI Gates”i təhlükəsizliyə uyğunlaşdırmaq: Yayım öncəsi keyfiyyət və uyğunluq qapıları

“Qapı” ideyası mənə ədəbiyyatdan tanışdır: Borges-in labirintlərində qapılar bəzən çıxış deyil, təsnifat alətidir. (Bunu Calvino-ya yazacaqdım; yox, labirint obsesiyası Borges-in imzasıdır. Qeydiyyatımı düzəltmiş olum.)

L&D-də AI Gates yanaşmasını məzmun yayım prosesinə belə tətbiq edərəm:

Qapı 1 — Dəqiqlik (factual accuracy)

• Məzmun qurum siyasətinə ziddirmi?
• Əməyin mühafizəsi/GDPR kimi sahələrdə “qəti” danışırmı?
• Fərziyyə ilə faktı ayırırmı?

Qayda: Əməyin mühafizəsi, GDPR, etik, intizam kimi mövzularda qəti hökm ehtiva edən cümlələr avtomatik olaraq “insan təsdiqi”nə düşür.

Qapı 2 — Məxfilik (GDPR + daxili məlumat)

• Mətndə ad, komanda, lokasiya, vaka detalı varmı?
• Daxili proses boşluğunu (məs. “bu nəzarət bizdə işləmir”) ifşa edirmi?

Qayda: Kimlik göstəricisi və ya daxili audit tapıntısı ehtiva edən hər çıxış “qırmızı”dır.

Qapı 3 — Müəlliflik və atıf

• Xarici mənbədən sitat varmı?
• “Ümumi məlumat” kimi təqdim edilən şey əslində bir mətnin yenidən yazımıdırmı?

Qayda: Təlim məzmunu bir standartı, qanunvericiliyi və ya xarici bir mətni xülasə edirsə, atıf qeydi məcburidir.

Qapı 4 — Ton və qurum dili

• Qurumun dili: əmrvericidirmi, izahlıdırmı?
• İşçi təcrübəsi: ittihamedicidirmi, öyrədicidirmi?

Qayda: “Sən səhv etdin” dili yerinə “Doğru tətbiq budur” dili.

Qapı 5 — Ölçüləbilənlik (qiymətləndirmə dizaynı)

• Sual hədəf davranışı ölçürmü?
• Cavab açarı mübahisəlidirmi?

Qayda: Checkpoint-lər və testlər üçün “ölçmə hədəfi” sahəsi məcburidir: hansı davranış/çıxış ölçülür?

Aşağıdakı cədvəli L&D-nin gündəlik işinə yapışdırıla bilən hala gətirim:

4) Siyasət şablonları: L&D-nin əl kitabı kimi (qısa, tətbiq edilə bilən)

Siyasət mətnləri uzun olanda heç kim oxumur. Wittgenstein-ın “What can be said at all can be said clearly.” cümləsi burada işə yarayır [Wittgenstein, Tractatus Logico-Philosophicus, 1921]. (Bəli, o kitab “qısa yazmaq” üçün elə də yaxşı nümunə deyil; amma cümlə doğrudur.)

Aşağıdakı şablonlar “qısa və tətbiq edilə bilən” olsun deyə dizayn edilib.

4.1 Qəbul Edilə Bilən İstifadə (AI) — Qaralama

• AI təlim dizaynı və məzmun istehsalı üçün istifadə edilə bilər.
• AI-a şəxsi məlumat (GDPR əhatəsi) daxil edilməsi qadağandır.
• AI-a korporativ sirr xarakterli məlumatlar yalnız “xülasələnmiş və kimliksizləşdirilmiş” şəkildə daxil edilə bilər.
• AI çıxışları insan təsdiqi olmadan “siyasət/uyğunluq” kateqoriyasında yayımlana bilməz.
• AI çıxışı işçilərə “rəsmi mövqe” kimi təqdim ediləcəksə, mənbə və təsdiq məcburidir.

4.2 Müəlliflik / Atıf Siyasəti — Qaralama

• Xarici mənbələrdən edilən sitatlar 25 sözü keçməyəcək şəkildə istifadə edilə bilər; daha uzun sitat lazımdırsa icazə və/və ya fərqli üsul tələb olunur.
• Xülasələmə edilsə belə mənbə göstərilir (standart, qanunvericilik, kitab, məqalə).
• AI-ın yaratdığı mətn “öz-özünə müəllifliksiz” qəbul edilmir; məzmun sahibi qurum yayım məsuliyyətini üzərinə götürür.

4.3 Həssas Məlumat Siyasəti (GDPR + Korporativ) — Qaralama

• “Həssas məlumat” nümunələri: işçi performansı, intizam, sağlamlıq, müştəri şikayəti detalı, qiymətqoyma, müqavilə maddələri, audit tapıntıları.
• Həssas məlumat ehtiva edən vakalar təlimdə istifadə ediləcəksə:
  • Kimliksizləşdirmə edilir (ad, tarix, lokasiya, komanda).
  • Rəqəmsal detallar yuvarlaqlaşdırılır (gərəksiz dəqiqlik aradan qaldırılır).
  • Hüquq/uyğunluq təsdiqi alınır.

4.4 İnsan Təsdiqi Tələb Edən Hallar — Qaralama

Aşağıdakı çıxışlar mütləq insan təsdiqi istəyir:

• Əməyin mühafizəsi təlimatı və fövqəladə hal proseduru
• GDPR mətni, məlumatlandırma, məlumat emalı prosesləri
• Etik pozuntu / intizam ssenariləri
• İşçi performansına təsir edən qiymətləndirmə nəticələri
• Rəhbərlik mesajı / qurum adından açıqlama

Bunları “avtomatik” yayımlamaq ən yaxşı halda yanlış anlaşılma yaradar; ən pis halda auditdə iz buraxar.

5) Əməliyyat nəzarəti: RACI və yoxlama siyahısı (L&D, Hüquq/Uyğunluq, IT Təhlükəsizlik)

İdarəetmə “kim nəyi təsdiqləyir?” sualına cavab verə bilmirsə, çökür. Bu nöqtədə Kalde bəzən memarlıq xarakterli bir sual verir: “Bu qərarın sahibi kimdir?” Onun düşüncəsi adətən sistem axınındadır; mənimki insan axınında. İkisi birləşəndə idarəetmə işləyir.

Aşağıda praktik bir RACI təklifi var. Qurumunuza görə rol adlarını dəyişin; məntiqi qoruyun.

RACI (Responsible / Accountable / Consulted / Informed)

İş Paketi: AI ilə təlim məzmunu istehsalı və yayımı

1) Prompt şablonlarının yaradılması
- L&D: R
- Hüquq/Uyğunluq: C
- IT Təhlükəsizlik: C
- Biznes Bölməsi (SME): C
- Üst Rəhbərlik: I

2) Məlumat təsnifatı qaydaları (PII / korporativ sirr)
- L&D: C
- Hüquq/Uyğunluq: A
- IT Təhlükəsizlik: R
- Biznes Bölməsi (SME): C
- Üst Rəhbərlik: I

3) Əməyin mühafizəsi/GDPR məzmunlarının yayım təsdiqi
- L&D: R
- Hüquq/Uyğunluq: A
- IT Təhlükəsizlik: C
- Biznes Bölməsi (SME): C
- Üst Rəhbərlik: I

4) Qiymətləndirmə sualları (checkpoint/test) keyfiyyət təsdiqi
- L&D: A/R
- Hüquq/Uyğunluq: C (uyğunluq başlığı varsa)
- IT Təhlükəsizlik: I
- Biznes Bölməsi (SME): C
- Üst Rəhbərlik: I

5) İz qeydləri və audit izi (log) saxlanma yanaşması
- L&D: C
- Hüquq/Uyğunluq: C
- IT Təhlükəsizlik: A/R
- Biznes Bölməsi (SME): I
- Üst Rəhbərlik: I

L&D üçün “yayına çıxmazdan əvvəl” yoxlama siyahısı

• Məzmun Əməyin mühafizəsi/GDPR/etik ehtiva edirmi? (Bəlidirsə insan təsdiqi məcburidir)
• Prompt-da həssas məlumat varmı? (Varsa çıxar/xülasələ/kimliksizləşdir)
• Çıxış “qəti hökm” ehtiva edirmi? (Mənbə əlavə et və ya yumşalt)
• Xarici mənbə xülasəsidirmi? (Atıf qeydi əlavə et)
• Ölçmə hədəfi aydındırmı? (Sual davranışı ölçürmü?)
• Yayım sonrası izləmə planı varmı? (Hansı event-lərə baxılacaq: izləmə/klik/cavab/müddət)

6) Ölçmə qeyri-müəyyənliyini azaltmaq: “Nə yaratdıq?” yox, “nəyə səbəb oldu?”

AI ilə L&D-nin ən asan düşdüyü tələ: istehsal sürətini uğur sanmaq. Məzmun sayı artır; öyrənmə artmaya bilər.

Mənim üçün ölçmə ikiqatlıdır:

1. Davranış siqnalı: izləmə, klik, cavab, müddət (bunlar “interaksiya”dır)
2. Səriştə siqnalı: checkpoint nəticələri, qərar əsaslı simulyasiyada seçimlər (bunlar “performans”dır)

Nextrain-də hər aksiyanın event-level izlənməsi (izləmə/klik/cavab/müddət) bu fərqi praktik hala gətirir:

• Bir modul çox izlənir, amma cavablar pisdir: məzmun anlaşıqlı deyil və ya ölçmə xətalıdır.
• Müddət çox qısa, skor çox yüksəkdir: məzmun həddən artıq asan ola bilər (və ya köçürmə; bəli, bu da bir modeldir).

Burada kiçik bir qayda təklif edirəm: AI ilə yaradılan hər yeni məzmun ilk 2 həftə “müşahidə” rejimində qalsın.
Yəni:

• Dərhal bütün təşkilata yaymaq əvəzinə seqment əsaslı kiçik bir qrupda yayımlayın.
• Event siqnallarını izləyin.
• Qapılardan yenidən keçirin.

Bu, proqram testindəki “canary release” məntiqinə bənzəyir; amma mən bunu L&D-də içimdə “canary learning” deyə adlandırıram. Quş hissəsi metaforadır; metod hissəsi realdır.

7) Son söz: İdarəetmə sürətin əyləci deyil; sürətin sükanıdır

Generativ AI L&D-yə illərdir xəyal etdiyi şeyi verir: məzmun istehsalında və fərdiləşdirmədə sürət. Amma sükan yoxdursa, sürət sadəcə divara daha tez çatmaq deməkdir.

Mənim təklifim sadə bir cümləyə endirilə bilər:

• Məlumatı təsnif et.
• Prompt-u standartlaşdır.
• Çıxışı qapılardan keçir.
• İz burax.
• Rol bölgüsü et.

Bunu etdikdə AI “risk” olmaqdan çıxıb yenidən L&D-nin sevdiyi şeyə çevrilir: yaxşı dizayn edilmiş bir sistem. İnsanların öyrənməsini təmin edən, auditdə ayaqda qalan, qurum dilini pozmayan bir sistem.

Qeydlər

1. Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics (1933) — “The map is not the territory.”
2. Ludwig Wittgenstein, Tractatus Logico-Philosophicus (1921) — Dilin sərhədləri və aydınlıq prinsipi haqqında.