Üçlü Əks-Əlaqə Çərçivəsi (Tripartite Feedback Framework), ali təhsildə mürəkkəb yazılı hesabatlara verilən əks-əlaqə tapşırıqlarını epistemik xarakterinə görə aşağı səviyyəli struktur/təqdimat yoxlaması, orta səviyyəli faktoloji doğrulama və yüksək səviyyəli tənqidi qiymətləndirmə olmaqla üç sinfə ayıran nəzəri insan–SZ vəzifə bölgüsü çərçivəsidir. Tədqiqat yeni SZ sistemi və ya tələbə eksperimenti təqdim etmir; mövcud əks-əlaqə nəzəriyyələrini, SZ-nin imkan və məhdudiyyətlərinə dair ədəbiyyatı və mürəkkəb hesabatların qiymətləndirilməsinin praktik tələblərini birləşdirərək hansı tapşırıqların texnologiya ilə dəstəklənə biləcəyi və hansılarının insan akademik mühakiməsində qalmalı olduğu üçün əməliyyat sərhədləri təklif edir.
Çərçivədə aşağı səviyyəli əks-əlaqə; format, istinad, qrammatika, struktur ardıcıllığı və cümlə səviyyəsində aydınlıq kimi açıq qaydalarla müqayisə edilə bilən elementləri əhatə edir. Orta səviyyəli əks-əlaqə; hesablamanın düzgün aparılıb-aparılmadığı, faktın səlahiyyətli mənbə ilə uyğunluğu və ya açıq prosedurun tətbiq olunub-olunmadığı kimi məhdud doğrulama tapşırıqlarını ehtiva edir. Yüksək səviyyəli əks-əlaqə isə arqumentin keyfiyyəti, metodun uyğunluğu, tənqidi düşüncə, sintez, fənn üzrə anlayış və orijinal mühakimə kimi kontekstə həssas peşəkar qiymətləndirmələri əhatə edir.
Tədqiqat SZ-nin xüsusilə orta səviyyəli doğrulamada yalnız beş şərtin birlikdə ödənildiyi halda dəstəkləyici rol oynaya biləcəyini müdafiə edir: qiymətləndirici tərəfindən kurasiya edilmiş bilik bazası, insanın yekun səlahiyyəti, yalnız açıq şəkildə məhdudlaşdırılmış doğrulama tapşırıqları, əks-əlaqənin mənbəyinə dair şəffaflıq və təhlükəsizlik/bütövlük-by-design. Retrieval-Augmented Generation (RAG) kimi metodlar faktoloji səhv sahəsini daralda bilər, lakin hallüsinasiyanı aradan qaldırmadığı üçün insan nəzarətini əvəz etmir.
Tədqiqatın ən mühüm şərh məhdudiyyəti çərçivənin hələ işləyən sistem və ya tələbə nümunəsi üzərində empirik olaraq təsdiqlənməməsidir. Səmərəlilik, tələbə öyrənməsi, ədalət, SZ səhv nisbəti və ya əks-əlaqə keyfiyyətində ölçülmüş artım bildirilməyib. Müəllif bunun əvəzinə gələcək pilot və nəzarətli qiymətləndirmələrin hansı sübutları toplamalı olduğunu ətraflı təsvir edir.
Ali təhsildə əks-əlaqə niyə çətin problemdir?
Mürəkkəb tələbə hesabatları eyni vaxtda çox fərqli qiymətləndirmə fəaliyyətləri tələb edir. Akademik eyni hesabatda istinad formatını yoxlaya, hesablamaların düzgün olub-olmadığını araşdıra, istifadə edilən metodun uyğunluğunu dəyərləndirə və tələbənin nəticələri nə qədər əsaslı şərh etdiyini qiymətləndirə bilər. Bu tapşırıqların hamısı “əks-əlaqə” adlandırılsa da, eyni koqnitiv və epistemik quruluşa malik deyil.
Mənbə bu çoxölçülülüyün iki əsas problem yaratdığını müzakirə edir. Birincisi, akademik heyət sadə qayda yoxlaması ilə dərin fənn mühakiməsi arasında davamlı zehni keçid etməli olur. İkincisi, tələbə sayı çox olduqda zaman təzyiqi əks-əlaqənin vaxtında, ətraflı və ardıcıl verilməsini çətinləşdirə bilər.
Əks-əlaqə savadlılığı niyə yalnız “düzgün cavab” verməkdən fərqlidir?
Məqalə əks-əlaqənin yalnız tələbəyə səhvlər siyahısı göndərmək olmadığını vurğulayan ədəbiyyata əsaslanır. Tələbə əks-əlaqənin nə demək olduğunu başa düşməli, müxtəlif mənbələrin etibarlılığını dəyərləndirə bilməli, tövsiyələri öz işinə tətbiq etməli və zamanla öz fəaliyyətini qiymətləndirmək qabiliyyətini inkişaf etdirməlidir.
Bu baxış SZ dəstəkli əks-əlaqəni mühüm pedaqoji sualla üz-üzə qoyur: sürətli və düzgün avtomatik düzəliş tələbənin özünüqiymətləndirmə qabiliyyətini inkişaf etdirir, yoxsa onu xarici doğrulamadan asılı edir? Çərçivə SZ-nin dəyərini yalnız iş yükü və ya sürətə görə deyil, bu öyrənmə təsirinə görə də qiymətləndirməyi təklif edir.
Üçlü Əks-Əlaqə Çərçivəsi Nədir və Üç Səviyyə Necə Ayrılır?
Üçlü Əks-Əlaqə Çərçivəsi əks-əlaqə tapşırıqlarını formal qayda yoxlaması, məhdud faktoloji doğrulama və şərhedici akademik qiymətləndirmə olmaqla üç epistemik sinfə ayırır; aşağı səviyyəli tapşırıqlar texnologiyaya daha uyğundur, orta səviyyəli tapşırıqlar yalnız sərt şərtlərlə SZ dəstəyinə açıqdır, yüksək səviyyəli tapşırıqlar isə peşəkar insan mühakiməsinin məsuliyyətində qəbul edilir.
| Səviyyə | Əsas funksiya | Tipik nümunələr | Epistemik quruluş | SZ / insan rolu |
|---|---|---|---|---|
| Aşağı səviyyə | Struktur və təqdimat düzgünlüyü | Qrammatika, istinad formatı, cədvəl/şəkil başlıqları, sənəd strukturu, cümlə səviyyəsində aydınlıq | Açıq qaydaya görə yoxlama | Yetkin avtomatlaşdırma alətləri ilə dəstəklənə bilər |
| Orta səviyyə | Faktoloji və prosedur doğrulaması | Hesablama yoxlaması, məlum istinad dəyəri ilə müqayisə, açıq prosedura uyğunluq | Məhdud məlumata qarşı doğrulama | Yalnız beş sərhəd prinsipi altında SZ dəstəyi nəzərdən keçirilə bilər |
| Yüksək səviyyə | Tənqidi qiymətləndirmə və sintez | Metod seçiminin uyğunluğu, arqumentin keyfiyyəti, şərh, orijinal düşüncə, fənn mühakiməsi | Kontekstual və şərhedici peşəkar mühakimə | İnsan akademikin məsuliyyətində qalmalıdır |
Aşağı səviyyəli əks-əlaqə
Aşağı səviyyəli əks-əlaqə tələbənin işinin elmi məzmununu birbaşa qiymətləndirmək əvəzinə peşəkar ünsiyyət formasını yoxlayır. APA və ya IEEE kimi istinad standartları, formal tələblər və qrammatika qaydaları müəyyən istinad standartına görə yoxlana bilər.
Məqalə bununla yanaşı “aydınlıq” anlayışına xüsusi sərhəd qoyur. Cümlənin sintaksis və ya söz seçimi səbəbindən anlaşılmaz olması səthi problem ola bilər. Lakin düşüncənin özünün ziddiyyətli olması, anlayışlar arasında məntiqi əlaqənin qurulmaması və ya tələbənin nə demək istədiyinin konseptual olaraq qeyri-müəyyən olması yüksək səviyyəli mühakimə problemi ola bilər. Buna görə hər “clarity” problemi aşağı səviyyəli avtomatlaşdırmaya endirilə bilməz.
Orta səviyyəli əks-əlaqə
Orta səviyyəli əks-əlaqə məzmuna toxunur, lakin şərhə açıq akademik keyfiyyət mühakiməsindən fərqlənir. Tələbənin müəyyən edilmiş formulda düzgün rəqəmləri istifadə edib-etmədiyini, məlum istinad dəyərini düzgün ötürüb-ötürmədiyini və ya açıq laboratoriya proseduruna əməl edib-etmədiyini yoxlamaq buna nümunədir.
Bu tapşırıqlarda əsas koqnitiv əməliyyat “qiymətləndirmə” deyil, “doğrulama”dır. Sistem tələbənin iddiasını əvvəlcədən müəyyən edilmiş məlumat və ya qəbul edilə bilən cavablar toplusu ilə müqayisə edir.
Yüksək səviyyəli əks-əlaqə
Yüksək səviyyəli əks-əlaqə tələbənin yalnız düzgün nəticəni tapıb-tapmadığını deyil, düzgün elmi metodu seçib-seçmədiyini, sübutları necə şərh etdiyini, məhdudiyyətləri tanıyıb-tanımadığını və alternativ izahları nə qədər güclü qiymətləndirdiyini araşdırır.
Məqalənin normativ yanaşmasına görə bu cür qiymətləndirmə yalnız texniki təsnifat problemi deyil. Tələbənin təhsil səviyyəsi, fənn normaları, tədqiqat konteksti və inkişafı ilə bağlı peşəkar məsuliyyət ehtiva edir. Buna görə yüksək səviyyəli akademik mühakimənin alqoritmik sistemə ötürülməməsi çərçivənin əsas prinsiplərindən biridir.
Üç səviyyə niyə yalnız “asan, orta, çətin” deyil?
Çərçivədə üç səviyyə çətinlik sırası deyil. Çox mürəkkəb arifmetik əməliyyat orta səviyyəli doğrulamaya aid ola bilər, qısa paraqrafın elmi əsaslandırması isə yüksək səviyyəli peşəkar mühakimə tələb edə bilər.
Fərq əməliyyatın epistemik statusuna əsaslanır: açıq qaydaya görə yoxlama aparılır, müəyyən edilmiş biliyə qarşı doğrulama edilir, yoxsa kontekstə görə keyfiyyət və uyğunluq qiymətləndirilir?
Kimya laboratoriyası hesabatı nümunəsi
Mənbə üçlü bölgünü kimya laboratoriyası hesabatı üzərindən izah edir. Çatışmayan şəkil başlığını müəyyən etmək aşağı səviyyədir. Hesablanmış məhsuldarlığın düzgün formul və istinad dəyərlərinə görə doğru olub-olmadığını yoxlamaq orta səviyyədir. Təcrübə şəraitində seçilmiş metodun uyğun olub-olmadığını və tələbənin seçimini kifayət qədər əsaslandırıb-əsaslandırmadığını qiymətləndirmək isə yüksək səviyyədir.
Bu nümunə eyni elmi obyektin üç müxtəlif suala mövzu ola biləcəyini göstərir. Formul düzgün tətbiq edilmiş ola bilər; lakin həmin təcrübə üçün yanlış formul seçilmiş ola bilər. Birincisi doğrulama, ikincisi şərhedici qiymətləndirmədir.
Orta Səviyyəli SZ İstifadəsinin Beş Məcburi Sərhədi Nədir?
Orta səviyyəli SZ dəstəyi yalnız qiymətləndiricinin nəzarət etdiyi məhdud bilik bazası, insanın şərtsiz yekun səlahiyyəti, yalnız məhdudlaşdırılmış doğrulama tapşırıqları, açıq mənbə/proses şəffaflığı və təhlükəsizlik-bütövlük-by-design prinsiplərinin beşinin də birlikdə ödənildiyi halda çərçivənin əhatəsinə daxil olur; mənbə dörd prinsipin ödənilib birinin ödənilməməsini kifayət hesab etmir.
| Prinsip | Məcburi şərt | Qarşısı alınmaq istənən əsas risk |
|---|---|---|
| 1. Qiymətləndirici tərəfindən kurasiya edilmiş bilik bazası | Mənbələr səriştəli insan qiymətləndiricilər tərəfindən açıq şəkildə müəyyənləşdirilməli və məhdudlaşdırılmalıdır. | Modelin xarici, köhnə, yanlış və ya dərs məqsədi ilə uyğunsuz məlumata əsaslanması |
| 2. İnsan nəzarəti və yekun səlahiyyət | Bütün SZ çıxışları tələbəyə çatmazdan əvvəl insan tərəfindən nəzərdən keçirilə bilməli; insan çıxış üzərində mütləq dəyişdirmə və ya rədd etmə səlahiyyətinə malik olmalıdır. | Hesabatlılıq boşluğu və yanlış əks-əlaqənin avtomatik yayılması |
| 3. Məhdud doğrulama tapşırığı | Tapşırıq açıq meyarlara malik, şərh tələb etməyən və əvvəlcədən müəyyən edilmiş düzgün/qəbul edilə bilən cavab sahəsinə sahib olmalıdır. | Doğrulamanın şərhedici akademik qiymətləndirməyə çevrilməsi |
| 4. Şəffaflıq və istinad | Tələbə hansı əks-əlaqənin insan, SZ və ya avtomatik qayda yoxlamasından gəldiyini bilməlidir. | SZ çıxışına yanlış epistemik çəki verilməsi və qiymətləndirmə prosesinə etimadın itirilməsi |
| 5. Təhlükəsizlik və bütövlük-by-design | Sistem manipulyasiya və prompt injection kimi hücumlara qarşı əvvəldən dizayn edilməlidir. | Qiymətləndirmə sisteminin tələbə girişləri ilə yönləndirilməsi və ya bütövlüyünün pozulması |
Prinsip 1: Qiymətləndirici tərəfindən kurasiya edilmiş bilik bazası
SZ-nin doğrulama üçün istifadə edəcəyi bilik bazası tapşırıq təlimatı, rubrik, laboratoriya təlimatı, işlənmiş nümunələr, lisenziyalı dərslik və dərs materialları kimi səlahiyyətli mənbələrdən yaradılmalıdır. Sistem özbaşına internetdən və ya əvvəlcədən öyrədilmiş model yaddaşından yeni doğrulama məlumatı gətirməməlidir.
Bu prinsipin məqsədi modelin “ümumiyyətlə məntiqli” cavabı dərs kontekstində düzgün cavab saymasının qarşısını almaqdır. Eyni anlayış müxtəlif modullarda fərqli fərziyyələr və ya metod sərhədləri altında istifadə oluna bilər.
Prinsip 2: İnsanın yekun səlahiyyəti
İnsan qiymətləndirici SZ-nin yaratdığı əks-əlaqəni qəbul etmək, dəyişdirmək və ya rədd etmək səlahiyyətini itirməməlidir. Mənbənin yanaşmasında insan nəzarəti SZ kifayət qədər uğurlu olduqda aradan qaldırıla bilən müvəqqəti təhlükəsizlik tədbiri deyil; akademik hesabatlılığın əsasını təşkil edir.
Yanlış SZ əks-əlaqəsi tələbənin akademik nəticəsinə təsir edərsə, kimin məsul olduğu aydın olmalıdır. Çərçivə bu məsuliyyəti texnologiyaya yaymaq əvəzinə peşəkar qiymətləndirmə zəncirində insanda saxlayır.
Prinsip 3: Məhdud doğrulama
Tapşırığın orta səviyyəyə daxil olması üçün dörd şərt eyni vaxtda ödənilməlidir:
- Qiymətləndirmə meyarları açıq və sənədləşdirilmiş olmalıdır.
- Tapşırıq müəyyən edilmiş biliklə birbaşa müqayisə aparmalı, şərhedici mühakimə tələb etməməlidir.
- Bir neçə alternativ, lakin eyni dərəcədə etibarlı yanaşmanın keyfiyyət qiymətləndirilməsi tələb olunmamalıdır.
- Bir düzgün cavab və ya əvvəlcədən müəyyən edilmiş qəbul edilə bilən cavablar toplusu olmalıdır.
Bu dörd şərtdən hətta biri ödənilmirsə, tapşırıq orta səviyyəli avtomatlaşdırma sahəsindən çıxır və insan qiymətləndirməsinə yüksəldilir.
Prinsip 4: Şəffaflıq və əks-əlaqənin mənbəyi
Tələbə şərhin haradan gəldiyini bilməlidir. “Bu hesablama dərsin müəyyən edilmiş mənbələrinə qarşı SZ dəstəkli sistem tərəfindən yoxlanıldı” ilə “Bu metodun uyğunluğu akademik qiymətləndirici tərəfindən qiymətləndirildi” eyni epistemik statusa malik deyil.
Çərçivə bu fərqi tələbənin əks-əlaqə savadlılığının bir hissəsi sayır. Mənbə gizlədildikdə tələbə müxtəlif əks-əlaqə növlərinin nə qədər etibarlı olduğunu və onlarla necə işləməli olduğunu öyrənə bilmir.
Prinsip 5: Təhlükəsizlik və qiymətləndirmə bütövlüyü
Məqalə prompt injection və sənəd daxilində gizlədilmiş təlimatları birbaşa qiymətləndirmə sistemi üçün təhlükə kimi nəzərdən keçirir. Ağ və ya çox kiçik mətn, hexadecimal/Base64/Unicode ilə kodlaşdırılmış təlimat, şəkilə yerləşdirilmiş məzmun, metadata və ya şərhlər vasitəsilə sistem davranışını manipulyasiya etməyə yönəlmiş girişlər nümunə göstərilir.
Təklif olunan müdafiələrə çoxqatlı giriş təmizlənməsi, şübhəli nümunələrin izlənməsi, açıq akademik bütövlük siyasətləri, müstəqil təhlükəsizlik auditləri və sistemin yalnız xoşniyyətli istifadədə deyil, qəsdən hücum altında da işləyəcəyi fərziyyəsi ilə dizayn edilməsi daxildir.
RAG, SZ-nin Faktoloji Səhv və Hallüsinasiya Problemini Həll Edirmi?
Xeyr. Retrieval-Augmented Generation (RAG), SZ cavabını qiymətləndirici tərəfindən seçilmiş mənbələrə bağlayaraq səhv sahəsini daralda bilər, lakin müvafiq parçanın gətirilməməsi, yanlış parçanın səlahiyyətli sayılması, düzgün mənbənin model tərəfindən yanlış şərh edilməsi və ya mənbədəki qeyri-müəyyənliyin modelə daşınması kimi problemlər davam etdiyi üçün mənbə RAG-ı düzgünlük zəmanəti kimi qəbul etmir.
RAG-ın çərçivədəki rolu
RAG-ın əsas funksiyası modelin açıq internetə və ya parametrik yaddaşdakı qeyri-müəyyən məlumatlara əsaslanmaq əvəzinə qiymətləndirmə üçün müəyyən edilmiş dərs materiallarına əsaslanmasını təmin etməkdir. Bu, xüsusilə hesablama, prosedur və ya istinad dəyərinin doğrulanması üçün vacibdir.
Lakin RAG qatının mövcudluğu insan nəzarətini lazımsız etmir. Model düzgün sənədi tapıb yanlış şərh edə və ya başqa bölmədəki mühüm istisnanı qaçıra bilər. Buna görə RAG beş sərhəd prinsipindən yalnız bilik bazasının məhdudlaşdırılmasına kömək edən memarlıq vasitələrindən biridir.
SZ doğrulaması niyə “qərar” deyil, “işarələmə” kimi dizayn olunur?
Mənbə orta səviyyəli sistemin mümkün qədər “tələbə səhvdir” hökmü vermək əvəzinə potensial uyğunsuzluğu insan qiymətləndiriciyə işarə etməsini təklif edir. Bu yanaşma model səhvinin birbaşa tələbəyə akademik nəticə kimi əks olunmasını azaldır.
Arifmetika, vahid və açıq ardıcıllıq yoxlamalarında qayda əsaslı mexanizmlərin dil modeli ilə birləşdirilməsi də təklif edilən hibrid memarlıq variantlarından biridir.
Qeyri-müəyyən halda insan qiymətləndirməsinə yüksəltmə
Tapşırıq zahirdə faktoloji olsa belə, daxilində metod seçimi və ya kontekstual şərh ola bilər. Sistem bu fərqi etibarlı şəkildə edə bilmirsə, çərçivənin standart yanaşması avtomatik qərar vermək deyil, işi insan qiymətləndirməsinə ötürməkdir.
Tədqiqatın Metodu və Nəticələri
Tədqiqatın araşdırma yanaşması
Məqalə tələbə eksperimenti və ya işləyən qiymətləndirmə məhsulu haqqında hesabat deyil. Çərçivə üç əsas bilik sahəsinin təkrarlanan təhlilindən hazırlanıb: əks-əlaqə və öyrənmə nəzəriyyələri; təhsil kontekstində SZ-nin imkan və məhdudiyyətlərinə dair empirik ədəbiyyat; mürəkkəb hesabatların yüksək həcmdə qiymətləndirilməsində rast gəlinən praktik problemlər.
Mənbə inkişaf prosesini bir-biri ilə əlaqəli beş mərhələ ilə izah edir:
- Əks-əlaqənin öyrənmədəki müxtəlif pedaqoji funksiyalarını müəyyənləşdirmək məqsədilə əks-əlaqə nəzəriyyəsi ədəbiyyatının sistematik şəkildə araşdırılması.
- Hesabat qiymətləndirmə təcrübələrinin araşdırılması və müəyyən əks-əlaqə tapşırıqlarının koqnitiv tələb və epistemik statusla uyğunlaşdırılması.
- Mövcud SZ imkanları və yaxın dövr texnoloji məhdudiyyətləri ilə bağlı tədqiqatların araşdırılması.
- Akademik mühakiməni qoruyarkən texnologiyadan istifadəyə imkan verə biləcək sərhəd şərtlərinin müəyyənləşdirilməsi.
- Təhlükəsizlik və bərabərliyin sonradan əlavə olunan tədbirlər deyil, başlanğıcdan etibarən dizayn məhdudiyyətləri kimi çərçivəyə daxil edilməsi.
Mənbə bu yanaşmanı universal tətbiq resepti kimi deyil, müəssisələrin öz fənn və risk kontekstlərində qərar verməsinə imkan verən analitik vasitə kimi təqdim edir.
Mövcud texnoloji imkanların üç səviyyəyə görə şərhi
| Əks-əlaqə səviyyəsi | Texnoloji vəziyyət | Əsas məhdudiyyət | Çərçivənin standart yanaşması |
|---|---|---|---|
| Aşağı səviyyə | Qayda əsaslı alətlər nisbətən yetkindir | Səthi xüsusiyyətlərə həddindən artıq diqqət pedaqoji prioritetləri poza bilər | Nəzarətli avtomatlaşdırma mümkündür |
| Orta səviyyə | Şərti olaraq mümkündür | Hallüsinasiya, doğrulama səhvi, sərhəd qeyri-müəyyənliyi və prompt injection | Beş prinsip + yüksək insan nəzarəti + konservativ escalation |
| Yüksək səviyyə | Mövcud LLM-lər kifayət qədər peşəkar mühakimə təmin etmir | Kontekstual fənn qiymətləndirilməsi və peşəkar hesabatlılıq | İnsan akademikin məsuliyyəti |
Dörd mərhələli tətbiq yolu
| Mərhələ | Tətbiq | İnsan rolu |
|---|---|---|
| Mərhələ 1 | Aşağı səviyyəli struktur və təqdimat tapşırıqlarında yetkin alətlərdən istifadə | İnstitusional inteqrasiyanın və pedaqoji sərhədlərin müəyyənləşdirilməsi |
| Mərhələ 2 | Orta səviyyəli faktoloji yoxlamalar üçün SZ dəstəkli ilkin baxış | Bütün çıxışları nəzərdən keçirmək, dəyişdirmək və ya rədd etmək; yekun səlahiyyət |
| Mərhələ 3 | Tənqidi təhlil, sintez və pedaqoji əks-əlaqənin insan tərəfindən yaradılması | Yüksək səviyyəli əks-əlaqənin birbaşa istehsalçısı |
| Mərhələ 4 | Üç əks-əlaqə mənbəyinin açıq mənbə məlumatı ilə inteqrasiyası | Tələbəyə göndəriləcək yekun hesabatı nəzərdən keçirmək və təsdiqləmək |
RAF Prosesi İnsan və SZ Əks-Əlaqəsini Necə Birləşdirir?
Report Assessment & Feedback (RAF) prosesi tələbə hesabatından aşağı və orta səviyyəli əks-əlaqə layihələrini sistem vasitəsilə yaradır və onları insan qiymətləndiricinin nəzərdən keçirməsinə təqdim edir; yüksək səviyyəli əks-əlaqə birbaşa insan tərəfindən yaradılır və üç mənbə birləşdirildikdən sonra ortaya çıxan Final Feedback Report tələbəyə göndərilməzdən əvvəl yenidən insan tərəfindən təsdiqlənir.
RAF-ın girişləri
RAF prosesi üç əsas girişi tələb edir: tələbənin mürəkkəb hesabatı; sistemin hansı faktoloji nöqtələri və hansı nisbi əhəmiyyətlə yoxlayacağını göstərən siyahı; yüksək səviyyəli qiymətləndirmədə insan akademikin istifadə edəcəyi rubrik.
LLF və ILF istehsalı
Sistem hesabatı təhlil edir və iki ətraflı hesabat yaradır:
- Low-Level Feedback (LLF): struktur və təqdimat əks-əlaqəsi.
- Intermediate-Level Feedback (ILF): əvvəlcədən məhdudlaşdırılmış faktoloji doğrulama əks-əlaqəsi.
Hər iki çıxış tələbəyə avtomatik göndərilmir. İnsan qiymətləndirici onları nəzərdən keçirir və zəruri hesab etdiyi hissələri dəyişdirir və ya rədd edir.
HLF-nin insan tərəfindən yaradılması
High-Level Feedback (HLF), tələbənin tənqidi mühakiməsi, metod seçimi, sintezi və fənn üzrə düşüncə keyfiyyətinə dair əks-əlaqədir və mənbə modelində akademik heyət tərəfindən yaradılır.
Yekun əks-əlaqə hesabatı
LLF, ILF və HLF bir araya gətirildikdən sonra əks-əlaqə şərhləri əhəmiyyət səviyyəsinə görə sıralanaraq Final Feedback Report (FFR) yaradılır. İnsan qiymətləndirici FFR-ni yenidən nəzərdən keçirib dəyişdirə bilər və yalnız uyğun hesab etdiyi versiyanı tələbəyə göndərir.
Buna görə RAF axını “SZ qiymət verir, insan yoxlayır” tipli sadə avtomatlaşdırma xətti deyil. SZ yalnız müəyyən alt tapşırıqlarda dəstək yaradır, yüksək səviyyəli akademik mühakimə və tələbəyə təqdim olunacaq son əks-əlaqənin məsuliyyəti isə insanda qalır.
Human-in-the-Loop tezliyi
| Nəzarət modeli | Üstünlük | Risk / xərc |
|---|---|---|
| Yüksək tezlikli HITL | Hər SZ çıxışı nəzərdən keçirilir; səhv erkən aşkarlanır; hesabatlılıq və kalibrləşdirmə güclənir | İş yükü arta və gözlənilən səmərəlilik qazancı azala bilər |
| Aşağı tezlikli HITL | Nümunə və ya işarələnmiş hallar nəzərdən keçirildiyi üçün miqyaslana bilmə və sürət arta bilər | Səhvlərin nəzərə çarpmadan yayılması, hesabatlılığın zəifləməsi və tələbələr arasında qeyri-bərabər yoxlama riski |
Mənbənin başlanğıc fərziyyəsi yüksək tezlikli nəzarətdir. Nəzarətin azaldılması yalnız sistematik qiymətləndirmələr etibarlılıq, təhlükəsizlik və ədalətin qəbuledilən olduğunu göstərdikdən sonra nəzərdən keçirilməlidir.
Tələbə öyrənməsi səmərəlilikdən əvvəl gəlir
Məqalə iş yükünün azalmasını çərçivənin yeganə uğur meyarı etmir. Əsas qiymətləndirmə sualı tələbənin öyrənməsinin mövcud təcrübəyə nisbətən qorunub-qorunmadığı və ya inkişaf edib-etmədiyidir.
Sistem qrammatika səhvini dərhal düzəldə bilər; lakin tələbə niyə səhv etdiyini öyrənmirsə, sürətli düzəliş pedaqoji baxımdan məhdud ola bilər. Eynilə, hesablamadakı səhvin SZ tərəfindən işarələnməsi tələbənin öz yoxlama vərdişini inkişaf etdirə və ya əksinə, xarici doğrulamadan asılılıq yarada bilər. Hansı təsirin baş verdiyi empirik olaraq ölçülməlidir.
Akademik ekspertizanın transformasiyası
Mənbə rutin yoxlamalar avtomatlaşdırıldıqda akademiklərin tələbə işlərindəki təfərrüatlarla daha az təmasda olmaq riskini də gündəmə gətirir. Bu ətraflı təmas yüksək səviyyəli pedaqoji anlayışın mənbələrindən biri ola bilər.
Beləliklə, aşağı və orta səviyyəli tapşırıqların texnologiyaya ötürülməsi avtomatik olaraq yüksək səviyyəli qiymətləndirməni yaxşılaşdırmır. Qazanılan vaxtın necə istifadə edildiyi və akademik ekspertizanın necə təsirləndiyi də doğrulama dizaynında izlənməlidir.
Tələbə muxtariyyəti və əks-əlaqə savadlılığı
Çoxmənbəli əks-əlaqə bəzi üstünlüklər verə bilər: daha sürətli düzəliş, eyni işə dair fərqli baxışlar və müxtəlif əks-əlaqə mənbələrinin nə etdiyinə dair aydın məlumatlılıq.
Bununla belə, tələbə SZ çıxışını həddindən artıq avtoritet kimi qəbul edə, özünüqiymətləndirmə bacarığından daha az istifadə edə, alqoritmik şərhlərə insan şərhlərindən daha az dəyər verə və ya bir-biri ilə ziddiyyətli mənbələr qarşısında çaşqınlıq yaşaya bilər. Bu nəticələrin heç biri məqalədə empirik olaraq ölçülməyib.
Təhlükəsizlik və manipulyasiya
SZ dəstəkli qiymətləndirmə sistemi tələbələrin göndərdiyi sənədləri birbaşa emal etdiyi üçün sənəddəki mətn, şəkil və ya metadata model üçün əmr kanalına çevrilə bilər. Mənbə bu riski yalnız texniki təhlükəsizlik problemi deyil, qiymətləndirmənin etibarlılığına təsir edən akademik bütövlük problemi kimi nəzərdən keçirir.
Təhlükəsizlik xərci həddindən artıq artarsa, SZ-nin verdiyi sürət və ya miqyas üstünlüyü aradan qalxa bilər. Buna görə sistemin texniki cəhətdən işləyə bilməsi onun institusional baxımdan mənalı və ya iqtisadi cəhətdən tətbiq edilə bilən olması demək deyil.
Bərabərlik və ədalət
Alqoritmik ardıcıllıq avtomatik olaraq ədalət demək deyil. Təlim məlumatlarındakı qərəz, standartdan kənar ifadə formaları, dil müxtəlifliyi, mədəni arqumentasiya, əlillik və müxtəlif müəssisələrin texnologiyaya çıxışı tələbələrə fərqli şəkildə təsir edə bilər.
Çərçivə müntəzəm fairness audit, sistem əməliyyatlarının şəffaf sənədləşdirilməsi, tələbələrin səhv və ya ədalətsiz hesab etdikləri əks-əlaqəyə etiraz edə bilməsi və nəticələrin demoqrafik alt qruplar səviyyəsində davamlı izlənməsini təklif edir.
Bu Çərçivə Empirik Olararaq Təsdiqlənibmi?
Xeyr. Məqalə Üçlü Əks-Əlaqə Çərçivəsini nəzəri təklif kimi təqdim edir, işləyən LLM/RAG sistemi, tələbə eksperimental qrupu, düzgünlük testi və ya vaxta qənaət ölçümü barədə məlumat vermir; əvəzində gələcək empirik doğrulamanın səmərəlilik, ardıcıllıq, əks-əlaqə keyfiyyəti, tələbə öyrənməsi, təhlükəsizlik və bərabərliyi birlikdə ölçməli olduğunu bildirir.
Təklif olunan kəmiyyət doğrulama meyarları
| Sahə | Təklif olunan ölçmə nümunələri |
|---|---|
| Səmərəlilik | Əks-əlaqənin geri dönüş müddəti, təqdimat başına akademik heyətin vaxtı, ümumi qiymətləndirmə iş yükü |
| Ardıcıllıq | Yüksək səviyyəli əks-əlaqədə qiymətləndiricilərarası etibarlılıq, aşağı/orta səviyyəli əks-əlaqə ardıcıllığı, SZ səhvlərinin tezliyi |
| Keyfiyyət | Tələbə məmnuniyyəti, müstəqil qiymətləndirilən əks-əlaqənin konkretliyi və tətbiq edilə bilməsi |
| Öyrənmə | Sonrakı qiymətləndirmə performansı, özünüqiymətləndirmə, əks-əlaqə savadlılığı və çərçivə/nəzarət şərtləri arasındakı öyrənmə fərqi |
| Təhlükəsizlik və bərabərlik | SZ səhvləri, təhlükəsizlik hadisələri, düzəliş prosesləri və demoqrafik olaraq ayrılmış nəticələr |
Təklif olunan keyfiyyət doğrulaması
Tələbə fokus qrupları əks-əlaqənin aydınlığını, faydalılığını, etibarlılığını və müxtəlif mənbələrlə işləmə təcrübəsini araşdırmalıdır. Akademik heyətlə müsahibələr iş yükündəki dəyişikliyi, peşəkar mühakimə prosesini, SZ çıxışına etimadı və avtomatlaşdırmadan qazanılan vaxtın həqiqətən necə istifadə edildiyini öyrənməlidir.
Proses qiymətləndirilməsi həmçinin tətbiq zamanı ortaya çıxan uyğunlaşdırmaları, səhv növlərini, təhlükəsizlik hadisələrini, düzəliş mexanizmlərini və bərabərlik təsirlərini qeydə almalıdır.
Nəzarətli müqayisə
Mənbə çərçivədən istifadə edən modulların fənn, akademik səviyyə, kohort ölçüsü və qiymətləndirmə komandasının təcrübəsi baxımından oxşar nəzarət modulları ilə müqayisə edilməsini təklif edir.
Randomizə edilmiş nəzarətli dizayn mümkün olarsa ən güclü səbəb-nəticə sübutunu verə bilər. Bunun praktik və ya etik baxımdan mümkün olmadığı hallarda akademik illər arasında əvvəl-sonra müqayisəsi və ya eyni kohortda bəzi tapşırıqlarda çərçivənin, digərlərində ənənəvi əks-əlaqənin istifadə edilməsi kimi daha praqmatik dizaynlar nəzərdən keçirilə bilər.
Kiçik pilotların rolu
Tam qarışıq metodlu qiymətləndirmə yüksək infrastruktur, heyət vaxtı və etik proses tələb edə bilər. Daha kiçik pilotlar əks-əlaqə müddəti, işarələnmiş səhv nisbəti və ya insan–SZ uyğunluğu kimi aşağı xərcli göstəricilərlə başlaya bilər.
Lakin mənbə kiçik pilotların “çərçivə təsdiqləndi” nəticəsinə çevrilməməsini; yalnız əhatə etdikləri qədər sübut kimi bildirilməsini tövsiyə edir.
Məhdudiyyətlər
Birinci məhdudiyyət: Orta səviyyəli doğrulama ilə yüksək səviyyəli qiymətləndirmə arasındakı sərhəd real tətbiqdə nəzəri tərifdən daha bulanıq ola bilər. Xüsusilə açıq uclu eksperiment dizaynı, mübahisəli metod seçimi və ya bir neçə etibarlı məlumat şərhi olan hesabatlarda zahirdə faktoloji görünən tapşırıqlar gizli şərhedici elementlər daşıya bilər.
İkinci məhdudiyyət: Beş sərhəd prinsipinin eyni müəssisədə eyni vaxtda tətbiq edilə bilib-bilmədiyi yoxlanılmayıb. İnsan tərəfindən kurasiya edilən bilik bazasının, yüksək tezlikli nəzarətin və təhlükəsizlik auditinin real xərci SZ-dən gözlənilən səmərəlilik üstünlüyünü azalda və ya aradan qaldıra bilər.
Üçüncü məhdudiyyət: Çərçivə əsasən STEM və sosial elmlərdəki laboratoriya, tədqiqat, dizayn və hal hesabatları üçün hazırlanıb. Esse, portfolio, tezis və reflektiv yazı kimi başqa növlərə birbaşa ümumiləşdirilməməlidir.
Dördüncü məhdudiyyət: Çoxmənbəli əks-əlaqənin tələbənin əks-əlaqə savadlılığını gücləndirəcəyi nəzəri fərziyyədir. Eyni quruluş tələbəni daha çox məlumatla üz-üzə qoyaraq çaşqınlığı artıra və ya əks-əlaqəni birtərəfli “düzəliş ötürülməsi”nə çevirə bilər.
Beşinci məhdudiyyət: Təhlükəsizlik fərziyyələri empirik olaraq sınaqdan keçirilməyib. Hücum üsulları institusional müdafiələrdən daha sürətlə inkişaf edərsə, orta səviyyəli SZ dəstəyi texniki cəhətdən mümkün olsa da praktik olaraq dayanıqsız ola bilər.
Altıncı məhdudiyyət: Tədqiqatda işləyən pilot yoxdur. Hansı LLM-dən istifadə ediləcəyi, prompt dizaynı, RAG konfiqurasiyası və bunların real tələbə hesabatlarında səhv nisbətini necə dəyişdirəcəyi məlum deyil.
Yeddinci məhdudiyyət: Bərabərlik həll olunmuş problem deyil. Müxtəlif tələbə qruplarında sistematik dezavantaj yalnız real tətbiqdə ayrılmış nəticələrin davamlı izlənməsi ilə başa düşülə bilər.
Tədqiqatın dəstəklədiyi və dəstəkləmədiyi nəticələr
| Tədqiqatın dəstəklədiyi | Tədqiqatın təkbaşına dəstəkləmədiyi |
|---|---|
| Mürəkkəb hesabat əks-əlaqəsi epistemik baxımdan üç ayrı tapşırıq sinfinə bölünə bilər. | Bu üç sinfin bütün fənlərdə empirik olaraq eyni şəkildə işlədiyi. |
| Aşağı səviyyəli struktur yoxlamaları texnologiya dəstəyinə nisbətən uyğundur. | Aşağı səviyyəli avtomatlaşdırmanın tələbə öyrənməsini mütləq artırdığı. |
| Orta səviyyəli SZ dəstəyi yalnız sərt sərhəd şərtləri altında nəzərdən keçirilməlidir. | Müəyyən LLM/RAG sisteminin bu şərtləri uğurla qarşıladığı. |
| RAG hallüsinasiya riskini məhdudlaşdırmağa kömək edə bilər. | RAG-ın faktoloji düzgünlük zəmanəti verdiyi. |
| Yüksək səviyyəli tənqidi qiymətləndirmə çərçivənin normativ və texniki yanaşmasında insan məsuliyyətində qalır. | İnsan qiymətləndiricilərin səhvsiz və ya qərəzsiz olduğu. |
| RAF prosesi insan nəzarətini SZ dəstəkli alt tapşırıqlarla birlikdə strukturlaşdırır. | RAF-ın real müəssisədə iş yükünü və ya əks-əlaqə müddətini azaltdığının göstərildiyi. |
| Mənbə geniş empirik doğrulama proqramı təklif edir. | Çərçivənin tələbə uğuru, ədalət və ya əks-əlaqə keyfiyyəti üzərində sübut olunmuş təsirə malik olduğu. |
Mənbə və Metod Qeydi
| Orijinal başlıq | A Tripartite Feedback Framework for AI-Assisted Assessment of Complex Reports in Higher Education |
|---|---|
| Müəllif | Demetrios T. Venetsanos |
| Müəssisə | Department of Aeronautics, Imperial College London, London SW7 2AZ, UK |
| DOI | 10.3390/aieduc2030026 |
| Jurnal | AI in Education |
| Nəşriyyat | MDPI, Basel, Switzerland |
| Cild / nömrə | 2 / 3 |
| Məqalə nömrəsi | 26 |
| Mənbə növü | Article; nəzəri/konseptual əks-əlaqə və insan–SZ vəzifə bölgüsü çərçivəsi |
| Qəbul tarixi | 26 may 2026 |
| Reviziya | 4 iyul 2026 |
| Qəbul | 13 iyul 2026 |
| Nəşr | 1 avqust 2026 |
| Rəy prosesi | Resenziyalı jurnal məqaləsi |
| Lisenziya | Creative Commons Attribution 4.0 International (CC BY 4.0) |
| Maliyyələşdirmə | Imperial College London Digital Innovation Fund, G74038 |
| Məlumatlandırılmış razılıq | Tətbiq edilmir |
| Məlumatların əlçatanlığı | Tədqiqatın orijinal töhfələrinin məqalədə olduğu; əlavə sualların müəllifə yönəldilə biləcəyi bildirilmişdir. |
| Maraqlar toqquşması | Müəllif maraqlar toqquşması bildirməyib. |
| Müəllif töhfələri | Məqalə tək müəlliflidir; mənbədə ayrıca CRediT / Author Contributions bölməsi bildirilməyib. |
| Məqalənin hazırlanmasında bildirilən SZ istifadəsi | Claude Opus 4.6 və Grammarly qrammatika və sintaksisin yaxşılaşdırılması məqsədilə istifadə olunub. |
Tədqiqat növü sərhədi: Mənbə yeni tələbə nümunəsi, işləyən SZ qiymətləndirmə sistemi, LLM benchmark-ı, randomizə edilmiş təcrübə, səhv nisbəti və ya öyrənmə təsiri bildirmir. Məqalənin töhfəsi nəzəri təsnifat, əməliyyat sərhəd prinsipləri və gələcək doğrulama dizaynıdır.
Ədəbiyyatın inkişaf etdirilməsi metodu: Müəllif çərçivənin hazırlanmasında əks-əlaqə nəzəriyyəsi ədəbiyyatının sistematik araşdırılmasını beş inkişaf mərhələsindən biri kimi təsvir edir. Bununla belə, məqalənin əsas nəşr növü müstəqil sistematik icmal və ya meta-analiz deyil, nəzəri/konseptual çərçivə məqaləsidir.
RAG sərhədi: Retrieval-Augmented Generation mənbə mətninə görə hallüsinasiyanı azalda bilən memarlıq məhdudiyyəti kimi nəzərdən keçirilir; düzgünlük zəmanəti kimi təqdim edilmir.
Human-in-the-Loop sərhədi: İnsan nəzarətinin tezliyi kontekstdən asılı olaraq dəyişə bilər; lakin ilkin tətbiqdə yüksək tezlikli nəzarət tövsiyə edilir və nəzarətin azaldılmasının etibarlılıq, təhlükəsizlik və ədalətlə bağlı kifayət qədər sübutla əsaslandırılması tələb olunur.
Şəkil 1 qeydi: Səhifə 16-dakı orijinal RAF axın sxemi; tələbə hesabatı, yüksək səviyyəli rubrik və faktoloji yoxlama siyahısından başlayaraq LLF/ILF istehsalı, insan reviziyası, insan tərəfindən yaradılan HLF, üç əks-əlaqə növünün birləşdirilməsi və insan tərəfindən təsdiqlənən Final Feedback Report-a çatan insan-dövrədə prosesi göstərir. Verianla üçün yenidən çəkilərsə, mənbə şəklinin piksel surəti əvəzinə eyni elmi iş bölgüsünü qoruyan orijinal proses diaqramı istifadə edilməlidir.
Əsas doğrulama sərhədi: Beş sərhəd prinsipinin eyni vaxtda real müəssisədə tətbiq oluna bilməsi, orta–yüksək səviyyə fərqinin fənlər arasında nə dərəcədə qoruna bilməsi, RAG/LLM sistemlərinin real hesabatlardakı performansı, tələbənin əks-əlaqə savadlılığına təsiri və bərabərlik nəticələri hələ eksperimental olaraq təsdiqlənməyib.
Şərh yazın
E-poçt ünvanınız yayımlanmayacaq. Məcburi sahələr * ilə işarələnib