Mfumo wa kubadilisha utawala kuwa udhibiti (governance-to-controls framework) ni mfumo wa dhana wa usanifu wa ukaguzi unaounganisha malengo ya utawala katika Sheria ya AI ya EU, kama vile usimamizi wa hatari, utawala wa data, nyaraka za kiufundi, utunzaji wa kumbukumbu, uwazi, usimamizi wa binadamu, uimara, usalama wa mtandao na ufuatiliaji wa mzunguko wa maisha, na usimamizi wa ubora wa kampuni za ukaguzi, karatasi za kazi za ukaguzi, taratibu za mapitio na maamuzi ya kutegemea matokeo ya akili bandia. Utafiti wa János Kálmán, badala ya kupima kwa majaribio jinsi AI ilivyo “fanisi” katika ukaguzi, unachunguza kwa utaratibu ni chini ya hali gani matokeo ya AI yanapaswa kubaki tu chombo cha uchujaji na uelekezaji, ni lini yanaweza kuwa ushahidi unaosaidia, na ni katika hali gani finyu zaidi yanaweza kuchangia ushahidi wa msingi wa ukaguzi.

Tatizo kuu la utafiti ni kwamba katika ukaguzi unaosaidiwa na AI haitoshi kuangalia usahihi wa modeli pekee. Hata kama matokeo yanaonekana kuwa thabiti kitaalamu, iwapo chanzo na ukamilifu wa data haijulikani, toleo na usanidi wa modeli haujahifadhiwa, mchakato hauwezi kurudiwa, tabia ya matokeo chanya ya uongo na hasi ya uongo haijatathminiwa, hakuna uthibitishaji kwa nyaraka chanzo, au mapitio ya binadamu yanabaki ya kirasmi tu, uaminifu wa matokeo hayo kama ushahidi wa ukaguzi unaweza kuwa mdogo.

Utafiti unasisitiza hasa kwamba Sheria ya AI ya EU si kiwango cha ukaguzi na haiweki moja kwa moja wajibu wa kisheria kwa kila chombo cha ukaguzi. Badala yake, unafafanua viwango vitatu tofauti vya uhusiano: umuhimu wa moja kwa moja wa kisheria, umuhimu usio wa moja kwa moja kwa ukaguzi na umuhimu kama kigezo cha utawala. Kwa mgawanyo huu, daraja la kiutendaji linajengwa kati ya mahitaji ya AI Act na viwango vya ukaguzi bila kuvifanya kuwa kitu kimoja.

Miundo mikuu iliyotolewa na utafiti ni: matriki ya udhibiti inayofuatilika inayounganisha AI Act na viwango vya ukaguzi/ubora vya IAASB; tipolojia ya hatari kwa ushahidi wa ukaguzi unaosaidiwa na AI; modeli ya ujumuishaji wa usimamizi wa ubora; orodha hakiki ya nyaraka na mapitio; na modeli ya ukomavu unaolingana ya viwango vitatu. Mpaka mkuu wa mwandishi uko wazi: mfumo huu bado si modeli ya utendaji iliyothibitishwa kwa njia ya majaribio katika kampuni halisi za ukaguzi.

Kwa nini akili bandia katika ukaguzi si suala la “matumizi ya teknolojia” pekee?

Uchanganuzi wa data za ukaguzi, uendeshaji otomatiki wa michakato kwa roboti, uchimbaji wa michakato, ujifunzaji wa mashine na AI zalishi huwezesha kuchanganua idadi kubwa sana ya miamala, kubaini kumbukumbu zisizo za kawaida, kuainisha nyaraka na kuendesha kiotomatiki baadhi ya kazi za ukaguzi. Hata hivyo, teknolojia inapoingia katika mnyororo wa ukaguzi, utegemezi mpya pia hutokea. Ubora wa matokeo hautegemei algoriti pekee, bali pia ukamilifu wa data, hatua za mabadiliko, toleo la modeli, viwango vya kizingiti, miundombinu ya mtoa huduma, udhibiti wa usalama na jinsi mkaguzi anavyotafsiri matokeo.

Kwa hiyo swali kuu la utafiti ni pana kuliko “Je, AI inatabiri kwa usahihi?” Mkaguzi anapaswa pia kuweza kujibu: Data iliyotumika ilitoka wapi? Idadi ya vitu vilivyokaguliwa ni kamili? Data imepatanishwa na mfumo chanzo? Modeli ilikuwa toleo gani? Vigezo vilibadilishwa? Utaratibu huo huo unaweza kurudiwa? Vizuizi vinavyojulikana vya modeli ni vipi? Tabia ya chanya za uongo na hasi za uongo ikoje? Maelezo mbadala dhidi ya matokeo yalitafutwa? Matokeo yalithibitishwa kwa nyaraka chanzo? Mhakiki alilipinga matokeo kwa maana halisi?

Mapengo matatu ambayo utafiti unajaribu kushughulikia

Utafiti unaunganisha mapengo matatu katika fasihi. Kwanza, fasihi ya ukaguzi unaosaidiwa na AI inajadili fursa za kiteknolojia na changamoto za matumizi, lakini miundo ya kubadilisha masuala hayo kuwa udhibiti wa usimamizi wa ubora unaofuatilika katika kiwango cha kampuni na kazi ya ukaguzi ni michache. Pili, fasihi ya ushahidi wa ukaguzi inaeleza utoshelevu na ufaafu wa ushahidi, lakini haina mfumo wa kiutendaji unaounganisha vipengele mahsusi vya AI—kama asili ya data, uthibitishaji wa modeli, uelezekaji, logi, usimamizi wa binadamu na uthibitishaji wa nyaraka chanzo—na kiwango cha kutegemea ushahidi. Tatu, fasihi ya utawala wa AI na sheria huchanganua majukumu ya udhibiti lakini haiyabadilishi moja kwa moja kuwa muundo wa karatasi za kazi, wajibu wa mhakiki na maamuzi ya ushahidi wa ukaguzi.

Maswali matatu ya utafiti

• RQ1: Mahitaji ya utawala ya Sheria ya AI ya EU yanawezaje kuoanisha na mfumo wa usimamizi wa ubora wa kampuni ya ukaguzi na usimamizi wa ubora katika kiwango cha kazi?
• RQ2: Ni mahitaji gani ya utawala wa AI yaliyo muhimu zaidi kwa uaminifu na uwekaji nyaraka wa ushahidi wa ukaguzi unaosaidiwa na AI, na yanawezaje kugeuzwa kuwa taratibu za ukaguzi?
• RQ3: Ni mifumo gani ya udhibiti na kumbukumbu inaweza kupunguza hatari mahsusi za AI—hasa hatari ya data, hatari ya modeli, hatari ya usimamizi wa binadamu na hatari ya usalama—huku ikilinda ubora wa ukaguzi na shaka ya kitaalamu?

Je, Sheria ya AI ya EU ni kiwango cha moja kwa moja cha ukaguzi kwa kampuni za ukaguzi?

Hapana. Katika mfumo wa utafiti, Sheria ya AI ya EU si kiwango cha ukaguzi wala wajibu wa ukaguzi unaotumika kiotomatiki kwa kila chombo cha ukaguzi kinachosaidiwa na AI. Utekelezaji wake wa kisheria hutegemea aina ya mfumo, mazingira ya matumizi na kama kampuni ya ukaguzi inachukua nafasi ya mtoa huduma, deployer au nafasi nyingine inayodhibitiwa. Kwa hiyo utafiti, badala ya kusawazisha masharti ya AI Act na viwango vya ukaguzi, hutenganisha hali zenye wajibu wa moja kwa moja wa kisheria, hali ambazo nyaraka za AI Act huwa chanzo cha taarifa kwa ukaguzi, na hali ambazo Sheria hutoa tu kigezo cha utawala.

Aina tatu za uhusiano kati ya AI Act na ukaguzi

Kwa nini “AI in audit” na “audit of AI” zinapaswa kutenganishwa?

AI in audit, ni matumizi ya uchanganuzi wa data, uchimbaji wa michakato, ujifunzaji wa mashine, RPA au AI zalishi na kampuni ya ukaguzi katika taratibu zake za ukaguzi. Audit of AI ni kutathmini mifumo ya AI ya mteja, udhibiti wake, kumbukumbu za matukio, nyaraka za ufuasi na athari zinazowezekana kwa taarifa za kifedha kutoka mtazamo wa ukaguzi. Vyanzo vya ushahidi, nafasi za kisheria, hatari za uhuru, mahitaji ya umahiri wa kiufundi na matarajio ya nyaraka si sawa katika mazingira haya mawili.

Maeneo nane ya utawala

Utafiti unaweka maeneo nane ya msingi ya udhibiti kati ya utawala wa AI na usimamizi wa ubora wa ukaguzi:

1. Usimamizi wa hatari
2. Utawala wa data
3. Nyaraka za kiufundi na ufuatilikaji
4. Uwekaji logi na utunzaji wa kumbukumbu
5. Uwazi na mawasiliano
6. Usimamizi wa binadamu na uwajibikaji
7. Usahihi, uimara na usalama wa mtandao
8. Ufuatiliaji na hatua za marekebisho

Sifa muhimu ya mfumo ni kwamba hauyaachi maeneo haya kama kanuni za maadili zisizo mahsusi. Kila eneo la utawala linaunganishwa na hatari, mtu au kitengo kinachowajibika, wakati udhibiti unapotumika, ushahidi unaopaswa kuwepo kwenye karatasi ya kazi, kile mhakiki anachopaswa kupima, na hatari iliyobaki endapo udhibiti utashindwa.

Ni lini matokeo ya akili bandia yanaweza kupata uzito mkubwa zaidi kama ushahidi wa ukaguzi?

Kwa mujibu wa utafiti, uzito wa ushahidi hauongezeki kwa sababu tu modeli ni “AI” au ina usahihi mkubwa. Kiwango cha juu cha kutegemea hutegemea masharti kama vile ukamilifu na upatanisho wa idadi ya vitu vya kuingiza, uwekaji nyaraka wa mabadiliko ya data, uthibitishaji wa modeli kwa idadi inayolengwa na dai la ukaguzi, uhalalishaji wa uchaguzi wa kizingiti, tathmini ya matokeo chanya ya uongo na hasi ya uongo, uwezekano wa kurudia uendeshaji, uwezo wa mhakiki kupinga matokeo kwa maana halisi, na kuthibitisha matokeo kwa nyaraka chanzo.

Ngazi tano za kutegemea matokeo ya AI

Mwelekeo wa ngazi hizi haumaanishi kwamba “AI huwa ya kuaminika zaidi kiotomatiki kadiri muda unavyopita”. Kupanda ngazi kunahitaji udhibiti wenye nguvu zaidi na mnyororo wa ushahidi ulio imara zaidi.

Kwa nini tatizo la base-rate ni muhimu?

Katika ukaguzi, makosa makubwa au matukio ya udanganyifu yanaweza kuwa machache katika seti nyingi za data. Katika hali hii, kuangalia usahihi wa jumla pekee kunaweza kupotosha. Kwa mfano, katika idadi ambayo miamala mingi ni ya kawaida, modeli inayotambua kwa usahihi miamala mingi ya kawaida lakini ikakosa makosa katika kundi dogo muhimu inaweza kuonyesha usahihi mkubwa wa jumla. Kwa hiyo utafiti unapendekeza, inapowezekana, kutathmini confusion matrix, precision, recall/sensitivity, specificity na negative predictive value pamoja na marudio ya tukio katika idadi na gharama ya ufuatiliaji.

Athari za ukaguzi za chanya ya uongo na hasi ya uongo pia si sawa. Modeli ya uchujaji ikitoa chanya nyingi za uongo, inaweza kuvumilika endapo mkaguzi anaweza kuzifuatilia kwa ufanisi. Kinyume chake, hasi za uongo zinaweza kusababisha makosa makubwa kupitwa kabisa iwapo vipengee visivyoashiriwa havitakaguliwa kamwe. Kwa hiyo uchaguzi wa threshold unapaswa kuunganishwa si tu na utendaji wa ujifunzaji wa mashine, bali pia na umuhimu, kosa linaloweza kuvumilika, uwezo wa ufuatiliaji na taratibu za ukaguzi zilizobaki kwa idadi isiyoashiriwa.

Tipolojia ya msingi ya hatari katika ukaguzi unaosaidiwa na AI

Kwa nini ufuatiliaji wa chanzo ni muhimu hasa kwa AI zalishi?

Matokeo ya AI zalishi yanaweza kutofautiana hata kwa ingizo lilelile, na kutoa maandishi yanayosomika vizuri hakuhakikishi kwamba madai yaliyomo yameungwa mkono na nyaraka chanzo. Kwa hiyo utafiti unapendekeza kwamba katika matumizi kama kutafuta vifungu vya mikataba, kufupisha kumbukumbu za bodi au kulinganisha maandishi ya ufichuzi, AI zalishi ichukuliwe kwa kawaida kama chombo cha uchujaji na uelekezaji; na kila dai muhimu linaloingia kwenye jalada la ukaguzi lirudishwe kwenye nyaraka chanzo zilizohifadhiwa.

Karatasi ya kazi inapaswa kuwa na prompt au hoja iliyotumiwa, taarifa za chombo na toleo, usanidi wa retrieval, viungo vya nyaraka chanzo, hatua za uthibitishaji wa binadamu na hatua za faragha. Muhtasari wa mkataba au kumbukumbu za bodi uliotolewa na AI hauwezi kuchukua nafasi ya hati asilia bila kuthibitishwa.

Shaka ya kitaalamu na upendeleo wa otomatiki

Mifumo ya AI inaweza kuelekeza umakini wa mkaguzi kwenye miamala isiyo ya kawaida, lakini pia inaweza kusababisha hatari ya kukubali matokeo ya kiotomatiki yanayoonekana ya kuridhisha bila kuyauliza maswali ya kutosha. Kwa hiyo uthibitishaji wa kiufundi wa modeli pekee si udhibiti wa kutosha. Utafiti unachukulia uwajibikaji wa binadamu, rekodi ya challenge ya mkaguzi, tathmini ya maelezo mbadala, uwekaji nyaraka wa ushahidi unaopingana na ushiriki wa mhakiki mwenye sifa katika matumizi yenye utegemezi wa kati/juu kama sehemu ya mfumo wa ubora.

Kwa nini uelezekaji si tu “kueleza modeli”?

Katika ukaguzi, uelezekaji una kazi pana zaidi ya kuonyesha utendaji wa ndani wa kihisabati wa modeli. Mhakiki anapaswa kuelewa madhumuni ya utaratibu, data iliyotumika, toleo la modeli, usanidi, vikwazo, dai la ukaguzi ambalo matokeo yameunganishwa nalo, na sababu ya mkaguzi kutegemea matokeo hayo kwa kiwango fulani. Hata kama utendaji wa utabiri ni mkubwa, kutoweza kufuatilia au kupitia tena utaratibu kunaweza kupunguza thamani ya ushahidi.

Mbinu na Matokeo ya Utafiti

Muundo wa utafiti

Utafiti unatumia mbinu ya dhana, ya kidoktrini na inayolenga usanifu . Haupimi athari ya kisababishi ya matumizi ya AI katika ukaguzi juu ya ubora wa ukaguzi. Kitengo cha uchambuzi ni hitaji la utawala au lengo la udhibiti; kitendo kikuu cha uchambuzi ni kuoanisha mahitaji hayo kwa utaratibu na udhibiti wa ukaguzi.

Mfumo unaunganisha maeneo manne ya vyanzo:

1. Regulation (EU) 2024/1689 na fasihi ya sheria inayohusu usanifu wa utawala wa AI Act,
2. sheria za EU kuhusu ukaguzi wa kisheria,
3. viwango vya IAASB vya usimamizi wa ubora, ubora wa kazi na ushahidi wa ukaguzi,
4. tafiti zilizopitiwa na wataalamu kuhusu teknolojia za ukaguzi, upokeaji wa teknolojia, shaka ya kitaalamu, uelezekaji na utawala wa AI.

Hatua tano za uoanishaji wa requirements-to-controls

1. Kutambua mahitaji: Mada za utawala zinazohusiana zaidi na uaminifu wa mfumo wa ukaguzi zilichaguliwa: usimamizi wa hatari, utawala wa data, nyaraka za kiufundi, uwekaji logi, uwazi, usimamizi wa binadamu, uimara/usalama wa mtandao na ufuatiliaji wa mzunguko wa maisha.
2. Kuyagawa kuwa malengo ya udhibiti: Mahitaji ya kisheria/utawala yalibadilishwa kuwa udhibiti usioegemea teknolojia. Uthibitishaji wa chanzo cha data, nyaraka zenye matoleo, kuhifadhi run logs na kubainisha uwajibikaji wa binadamu ni mifano.
3. Kuoanisha na usimamizi wa ubora: Udhibiti uliunganishwa na utawala wa kampuni, rasilimali na umahiri, uidhinishaji wa chombo, utendaji wa kazi, mawasiliano, ufuatiliaji na taratibu za marekebisho.
4. Kuoanisha na mzunguko wa maisha wa ushahidi: Malengo yale yale ya udhibiti yaliunganishwa na upataji wa data, uendeshaji wa modeli, tafsiri ya matokeo, uwekaji nyaraka, mapitio, uhifadhi na uamuzi wa mwisho wa utegemezi.
5. Ujumuishaji na udhibiti wa uchambuzi: Matokeo yalibadilishwa kuwa artefact tano kuu na kukaguliwa kama kila udhibiti una chanzo cha utawala kinachotambulika, mhusika anayewajibika, matokeo ya ushahidi na kumbukumbu ya utekelezaji.

Artefact tano kuu za uchambuzi zilizotengenezwa

Itifaki ya ufuatilikaji yenye maeneo saba

Ili uoanishaji uweze kuzalishwa tena, kila kipengee kilipitia maeneo saba ya uwekaji msimbo:

1. msingi wa kisheria au wa utawala,
2. nafasi ya AI Act na hali ya matumizi ya ukaguzi,
3. msingi wa kiwango cha ukaguzi,
4. hatari ya ubora au uaminifu wa ushahidi,
5. mwenye udhibiti na tukio la trigger,
6. ushahidi unaotarajiwa wa karatasi ya kazi na jaribio la reviewer,
7. hatari iliyobaki udhibiti unaposhindwa.

Kwa mfano, katika eneo la uwekaji logi, inadhaniwa kwamba modeli ya kugundua anomalia inaorodhesha kumbukumbu za jarida kwa hatari. Kutohifadhi ingizo, orodha ya matokeo, timestamp, kitambulisho cha modeli/usanidi na miamala ya kipekee inayohusiana na uendeshaji wa modeli hufanya iwe vigumu kurudia utaratibu na kwa mhakiki kupinga hitimisho. Kwa hiyo mfumo unapendekeza kuhifadhi kumbukumbu inayofuatilika ya kila uendeshaji husika, toleo lililotumika kwenye jalada na kuunganisha matokeo na hitimisho la ukaguzi.

Ujumuishaji katika usimamizi wa ubora

Utaratibu wa utekelezaji wa tabaka tatu

Pendekezo la utafiti la utekelezaji katika kiwango cha kampuni lina tabaka tatu zilizounganishwa.

Tabaka la kwanza: utawala na mgawanyo wa uwajibikaji. Uwajibikaji wa mwenye chombo kwa uthibitishaji na uwekaji nyaraka, uwajibikaji wa engagement-level wa mshirika/meneja wa kazi na, inapohitajika, mapitio huru ya ubora vinapaswa kutenganishwa wazi. Katika matumizi yenye utegemezi mkubwa, kutenganisha kazi za maendeleo au usanidi na kazi za mapitio kunaweza kuunga mkono shaka ya kitaalamu.

Tabaka la pili: tathmini ya kufaa kwa chombo na usimamizi wa mabadiliko. Kabla chombo cha AI hakijaingizwa katika kazi, inapendekezwa kuhifadhi tool dossier yenye madhumuni yake, vikwazo, matokeo ya uthibitishaji, mahitaji ya data, udhibiti wa usalama wa mtandao na taarifa za toleo. Mabadiliko ya toleo la modeli, kigezo au data pipeline yanapaswa kuchochea tathmini mpya ya kufaa.

Tabaka la tatu: ufuatiliaji na marekebisho. Viashiria vya drift, viwango vya makosa, mifumo ya matumizi na matukio ya data/usalama vinapaswa kufuatiliwa; matokeo yarudishwe kwenye uchambuzi wa chanzo kikuu, uthibitishaji upya na hatua za marekebisho.

Mahitaji ya uthibitishaji kulingana na aina ya mfumo

• Modeli zinazosimamiwa: holdout test, back-testing kwa matokeo ya kihistoria, sababu za threshold, tathmini ya class imbalance, mapitio ya feature importance na udhibiti wa toleo.
• Vifaa vya kugundua anomalia: ufafanuzi wa idadi, mantiki ya outlier, namna ya kushughulikia miamala adimu lakini halali, idadi zilizotengwa na taratibu za ufuatiliaji kwa vipengee vilivyoashiriwa/visivyoashiriwa.
• Process mining: ukamilifu wa event log, uaminifu wa timestamp, uthabiti wa case ID, utunzaji wa duplicate event na upatanisho na kumbukumbu za kifedha.
• AI zalishi: kuhifadhi prompt, usanidi wa retrieval, ufuatiliaji wa chanzo, jaribio la hallucination, mipaka ya faragha, udhibiti wa ufikiaji na uthibitishaji wa binadamu wa kila dai linaloingia kwenye jalada la ukaguzi.

Hali ya matumizi A: Kugundua anomalia katika kumbukumbu za jarida

Utafiti unatumia hali ambapo modeli ya kugundua anomalia inaorodhesha kumbukumbu za jarida kwa ajili ya vipimo vya ufuatiliaji. Kwanza dai la ukaguzi na idadi hufafanuliwa; uchimbaji wa leja kuu hupatanishwa na mfumo wa mteja; vichujio na feature engineering huwekewa nyaraka; toleo na usanidi wa modeli hurekodiwa. Kisha uchaguzi wa threshold, ikiwezekana back-testing, na wasifu unaotarajiwa wa chanya za uongo/hasi za uongo hutathminiwa.

Katika hali hii matokeo ya modeli kwa kawaida ni ushahidi elekezi. Husaidia kuchagua vipengee vilivyoashiriwa lakini hayawi hitimisho la ukaguzi yenyewe. Kwa mchango mkubwa zaidi wa ushahidi, ukamilifu wa idadi, uthibitishaji, uwezo wa kurudia na usaidizi wa nyaraka chanzo lazima viimarike kwa pamoja.

Vipengele vya kiasi vinaweza kujumuisha muda usio wa kawaida wa kuweka kumbukumbu, mchanganyiko adimu wa akaunti, kiasi kilichozungushwa, manual override, mikusanyiko ya watumiaji, vipimo vya graph centrality au kupotoka kutoka njia za kawaida za kumbukumbu. Hata hivyo, mkaguzi anapaswa kufanya tathmini ya ubora kuhusu sababu ya biashara, uidhinishaji, nyaraka asilia, maelezo ya menejimenti na hatari iliyobaki katika idadi isiyoashiriwa.

Hali ya matumizi B: AI zalishi katika mikataba na maelezo ya simulizi

AI zalishi inaweza kupata vifungu vya mikataba, kufupisha kumbukumbu za bodi, kulinganisha lugha ya covenant au kusaidia kubaini kutolingana katika maandishi ya ufichuzi. Hata hivyo, kwa sababu ya uwezekano wa uzalishaji usiofungamana na maandishi chanzo, matokeo hayapaswi kuchukuliwa kama ushahidi huru bila kuthibitishwa kwa nyaraka chanzo.

Karatasi ya kazi inapaswa kuwa na angalau hoja/prompt, chombo na toleo lililotumika, usanidi wa retrieval, viungo vya nyaraka chanzo, hatua za uthibitishaji wa binadamu na hatua za faragha.

Hali ya matumizi C: Kukagua ishara za ufuasi wa AI za mteja

Ikiwa mteja anatumia mifumo muhimu ya AI kwa shughuli, upangaji bei, utoaji mikopo, kutenga akiba au ufichuzi, tathmini za ufuasi, nyaraka za kiufundi, ripoti za matukio na kumbukumbu za ufuatiliaji zinaweza kuwa muhimu kwa ukaguzi kwa kuzingatia hatari ya taarifa za kifedha. Hata hivyo, kuwepo kwa “hati ya ufuasi” hakuthibitishi kwamba udhibiti unafanya kazi kwa ufanisi katika utendaji halisi. Mkaguzi anapaswa kutathmini kando ukamilifu, chanzo, uhuru na ulinganifu wa hati hiyo na hali halisi ya uendeshaji.

Modeli ya ukomavu unaolingana

Kuongezeka kwa kiwango cha ukomavu hakuzalishi imani ya kiotomatiki katika matokeo ya AI. Ukomavu huongeza uwezo wa kampuni kutathmini, kuweka nyaraka na kutetea uamuzi wa utegemezi.

Vigezo vya kutathmini mfumo

Mtafiti anatathmini mfumo uliobuniwa kwa vigezo vinne vya vitendo:

• Ufuatilikaji: Kila pendekezo linapaswa kuunganishwa na lengo mahususi la utawala na hatari ya ukaguzi.
• Uwiano: Matumizi yenye utegemezi mdogo na matumizi yasiyo wazi, yanayobadilika haraka na yenye utegemezi mkubwa hayapaswi kuwa na mzigo sawa wa udhibiti.
• Utekelezekaji: Mapendekezo yanapaswa kubadilishwa kuwa sera halisi, tool dossier, risk memo, kiolezo cha karatasi ya kazi na hatua ya mapitio.
• Utayari wa ukaguzi/mapitio: Kupitia uwekaji logi, matoleo, ushahidi uliohifadhiwa na maamuzi ya utegemezi yaliyoandikwa, supervision, re-performance na uchambuzi baada ya tukio vinapaswa kuwezekana.

Matokeo yanayoungwa mkono na utafiti

• Dhana za utawala za AI Act zinaweza kubadilishwa kuwa malengo ya udhibiti yaliyo ya kimfumo kwa usimamizi wa ubora wa ukaguzi.
• Jukumu la matokeo ya AI katika ushahidi wa ukaguzi hutegemea zaidi kiwango kinachotegemewa kuliko lebo ya teknolojia inayotumika.
• Ukamilifu wa data, uhalali wa modeli, ufuatilikaji, uelezekaji, uwezo wa kurudia na mchakato wa challenge wa binadamu ni masharti ya msingi ya uaminifu wa ushahidi.
• Kumbukumbu za matumizi ya AI, tool dossier, version/run logs, prompt logs, rekodi za challenge, taratibu za incident na uthibitishaji wa nyaraka chanzo ni zana za udhibiti zinazoweza kuimarisha mapitio na uwajibikaji.
• Uzito wa udhibiti unapaswa kuongezwa kadiri utegemezi, ugumu, kutokuwa wazi, kubadilika na athari zinazowezekana za matumizi ya AI zinavyoongezeka.

Matokeo yasiyoungwa mkono na utafiti

• Haijathibitishwa kwa njia ya majaribio kwamba matumizi ya AI huongeza ubora wa ukaguzi.
• Haijaonyeshwa kwamba udhibiti uliopendekezwa huboresha ugunduzi wa udanganyifu, ufanisi au shaka ya kitaalamu kwa asilimia fulani.
• Haidaiwi kwamba kila chombo cha AI cha ukaguzi ni mfumo wa hatari kubwa chini ya AI Act.
• Nyaraka za ufuasi wa AI Act si ushahidi wa ukaguzi wa kutosha na unaofaa kiotomatiki.
• Nyaraka nzuri hazifanyi data mbaya au pungufu kuwa halali.
• Logi za kina hazifanyi modeli isiyofaa kwa tatizo la ukaguzi kuwa sahihi.
• Reviewer sign-off haibadilishi mchakato wenye maana wa challenge wa binadamu.
• Utawala uliokomaa wa AI haubadilishi hukumu ya kitaalamu.

Vikwazo vikuu

Kizuizi muhimu zaidi cha utafiti ni kwamba uthibitishaji wa kimajaribio bado haujafanyika. Muundo uliopendekezwa si meta-analysis ya takwimu na haupimi kama udhibiti maalum kwa kweli huboresha matokeo ya mapitio ya ukaguzi, ugunduzi wa udanganyifu, ufanisi, shaka au ubora wa maamuzi.

Matokeo ya utekelezaji yanaweza pia kutofautiana kulingana na ukubwa wa kampuni, mfumo wa kitaifa wa usimamizi wa ukaguzi, ugumu wa mteja, usanifu wa AI unaotumika, ukomavu wa AI wa shirika na kiwango cha ufikiaji wa mtoa huduma kwenye taarifa za modeli au uthibitishaji. Hasa mifumo iliyofungwa ya watoa huduma na uwazi mdogo wa kiufundi unaweza kupunguza kiwango kinachoruhusiwa cha kutegemea matokeo ya AI hata katika kampuni yenye usimamizi thabiti wa ubora.

Maeneo ya utafiti wa baadaye

Mwandishi anapendekeza mfumo ujaribiwe katika mazingira halisi ya ukaguzi. Tafiti za nyanjani zinaweza kutathmini mgawanyo wa uwajibikaji na utekelezekaji wa udhibiti katika kampuni za ukubwa tofauti; majaribio yanaweza kutathmini athari za namna za maelezo, viashiria vya kuaminika na hatua za lazima za challenge kwa upendeleo wa otomatiki na shaka ya kitaalamu; na tafiti zinazotegemea mapitio zinaweza kuchunguza uhusiano wa tool dossier, logi na mifumo ya ufuatiliaji na mapungufu ya ukaguzi.

Vilevile, uwekaji nyaraka wa karatasi za kazi za AI zalishi na jinsi nyaraka za ufuasi wa AI Act zinavyofanya kazi kama ushahidi katika ukaguzi wa mifumo ya AI ya mteja inayodhibitiwa ni maeneo tofauti ya case na utafiti linganishi.

Maelezo ya Chanzo na Mbinu

Kichwa asilia:From the EU AI Act to Audit Practice: A Governance-to-Controls Framework for Quality Management and Evidence

Mwandishi: János Kálmán

Taasisi: Faculty of Law and Political Sciences, Széchenyi István University, Győr, Hungary.

Jarida:Accounting and Auditing, 2026, 2(3), Article 12.

Mchapishaji: MDPI, Basel, Switzerland.

DOI:10.3390/accountaudit2030012

Iliwasilishwa: 23 Aprili 2026. Marekebisho: 10 Julai 2026. Kukubaliwa: 11 Julai 2026. Kuchapishwa: 15 Julai 2026.

Aina ya chanzo: Makala ya utafiti iliyopitiwa na wenzao, ya dhana, ya kidoktrini na inayolenga usanifu.

Leseni: Creative Commons Attribution (CC BY). Makala ni ya ufikiaji wazi.

Ufadhili: Utafiti haukupokea ufadhili wa nje.

Upatikanaji wa data: Data na nyenzo zilizojadiliwa katika utafiti zinapatikana ndani ya makala na katika vyanzo vya umma vilivyoainishwa kwenye marejeo; seti tofauti ya data za kimajaribio haikuundwa kwa ajili ya utafiti.

Mgongano wa maslahi: Mwandishi hajaripoti mgongano wa maslahi.

Maadili/IRB: Bodi ya mapitio ya taasisi na ridhaa iliyoarifiwa havitumiki kwa utafiti huu wa dhana.

Mpaka wa kimetodolojia: Mfumo hautegemei jaribio lililodhibitiwa au uthibitishaji wa nyanjani uliofanywa katika kampuni za ukaguzi. Iwapo AI Act inatumika kisheria kwa chombo fulani cha ukaguzi pia si hitimisho la jumla la kisheria linalotolewa na utafiti huu; lazima litathminiwe kando kulingana na nafasi ya mfumo na mazingira ya matumizi.

Dokezo la mbinu la Verianla: Maudhui haya ya Kiswahili hayakuandaliwa kwa lengo la kunakili muundo wa sentensi au uwasilishaji wa uchapishaji wa makala asilia. Tatizo la utafiti, tofauti za dhana, mnyororo wa mbinu, taarifa za kisayansi za majedwali, maana ya vielelezo, matokeo na vikwazo vya chanzo vimepangwa upya katika muundo huru wa kufundishia. Hakuna matokeo ya majaribio au kipimo cha mafanikio kisichokuwepo katika chanzo kilichoongezwa.