Utafiti huu unasema kwamba mifumo ya utabiri wa kialgorithimu haimchukulii mwanadamu kama nukta ya data iliyo tulivu tu; bali pia huingiza katika utendaji wake uwezo wa mwanadamu wa kutafakari tabia yake mwenyewe na kubadili maamuzi. Kwa mujibu wa dai kuu la mwandishi, refleksiviti si kelele ambayo algorithimu huiacha nje; ni ishara muhimu ambayo mifumo ya utabiri hujifunza kutoka kwayo.

Makala yanaunganisha mijadala kuhusu unabii unaojitimiza, utabiri refleksivu, hermeneutiki maradufu, uperformativi wa miundo ya kifedha na utabiri performativi katika ujifunzaji wa mashine. Kisha yanajadili, kupitia nadharia ya refleksiviti ya Margaret Archer, dhana ya habitus ya Pierre Bourdieu na ukosoaji wa kuharakishwa kwa kijamii wa Hartmut Rosa, jinsi mifumo ya kialgorithimu inaweza kuathiri maamuzi ya makusudi pamoja na msingi wa mazoea unaotangulia uamuzi.

Tatizo ni Nini?

Kijadi, mifumo ya utabiri wa kialgorithimu huonekana kama zana za kiufundi zinazotumia data ya zamani kutabiri tabia za siku zijazo. Mfumo wa mapendekezo hujaribu kutabiri video itakayotazamwa, mfumo wa matangazo hujaribu kutabiri bidhaa itakayobofiwa, na uchanganuzi wa elimu hujaribu kutabiri ni mwanafunzi gani aliye katika hatari. Hata hivyo, katika ulimwengu wa kijamii, utabiri si uchunguzi unaofanywa kutoka nje tu; utabiri wenyewe unaweza kubadili tabia.

Mwanafunzi anapoambiwa “una hatari kubwa ya kushindwa”, taarifa hii inaweza kuathiri jinsi mwanafunzi anavyojifikiria, jinsi taasisi inavyomkaribia na maamuzi yake ya baadaye. Kwa njia hiyo, utabiri hauielezi tu siku zijazo; pia hushiriki katika kuziunda. Hili ndilo tatizo kuu la utafiti.

Mwandishi anaeleza kwamba mara nyingi mifumo ya kialgorithimu huonekana kana kwamba haijishughulishi na michakato ya ndani ya uamuzi wa binadamu. Mifumo hii haijali kwa nini mtu amefanya uamuzi, bali ni muundo gani wa tabia unaohusishwa na matokeo gani. Lakini kwa mujibu wa maandishi, hali hii haimaanishi kwamba refleksiviti si muhimu. Kinyume chake, tathmini za watu, kusitasita kwao, uchaguzi wao na majibu yao kwa mfumo hubadilika kuwa data mpya.

Mbinu Inapendekeza Nini?

Utafiti huu si utafiti wa majaribio. Hauwasilishi seti mpya ya data, dodoso, kipimo cha jukwaa au mafunzo ya modeli mpya ya ujifunzaji wa mashine. Mbinu yake ni uchanganuzi wa kinadharia na wa dhana.

Mwandishi huunganisha mijadala iliyotawanyika katika taaluma tofauti kuzunguka tatizo moja. Dhana ya unabii unaojitimiza ya Robert K. Merton, mantiki ya utabiri refleksivu ya Roger C. Buck, mkabala wa hermeneutiki maradufu wa Anthony Giddens, uchanganuzi wa Donald MacKenzie kuhusu uperformativi katika miundo ya kifedha, na mijadala ya Perdomo, Hardt na watafiti wengine kuhusu utabiri performativi katika ujifunzaji wa mashine ni vituo vikuu vya nasaba hii ya mawazo.

Kisha utafiti unarudi kwenye mjadala wa kijamii kuhusu muundo na utendaji. Kwa kutumia nadharia ya refleksiviti ya Margaret Archer, dhana ya habitus ya Pierre Bourdieu na dhana za Hartmut Rosa za habitus refleksivu, kupungua kwa upeo wa sasa na uthabiti wa nguvu, mwandishi anadai kwamba mifumo ya kialgorithimu hufanya kazi katika tabaka mbili. Kujifunza hulishwa na matokeo ya watu yaliyo ya makusudi na ya refleksivu; uelekezaji, kwa upande mwingine, huunda msingi wa mazoea ambamo maamuzi hufanywa.

Fomula Zinaeleza Nini?

Utafiti huu si makala yanayotengeneza moja kwa moja fomula mpya za kihisabati. Ndani ya PDF, maelezo ya dhana na ya kinadharia ndiyo yanayopewa uzito kuliko vizuizi vya milinganyo ya kina. Kwa hiyo, utafiti huu hauna fomula za kihisabati.

Hata hivyo, makala yanategemea kwa dhana mjadala wa utabiri performativi katika fasihi ya ujifunzaji wa mashine. Wazo la msingi la mjadala huu linaweza kuelezwa kwa urahisi hivi: modeli haijifunzi tu usambazaji; modeli inapowekwa katika matumizi, usambazaji wenyewe unaweza kubadilika. Yaani utabiri wa algorithimu unaweza kuathiri uga wa kijamii unaohusu utabiri huo.

Mchango wa kijamii ambao mwandishi anaongeza kwenye mjadala huu ni kusisitiza kwamba usambazaji haujengwi na nukta za data zisizo na utu pekee. Usambazaji katika ulimwengu wa kijamii unategemea wahusika refleksivu. Watu huona utabiri, huutafsiri, hujirekebisha kwa kuuzingatia au huupinga. Michakato hii yote hutokeza alama za data ambazo mfumo unaweza kujifunza tena baadaye.

Ujumbe Mkuu wa Grafu, Jedwali na Mchoro

PDF haina grafu za majaribio au majedwali ya data. Mchoro mkuu unaoweza kuwasilisha utafiti kwa njia ya kuona ni mzunguko wa mrejesho wa hatua tatu. Kwanza mfumo hutengeneza utabiri kutoka katika tabia za zamani. Kisha utabiri huu hurudi katika mazingira ya kijamii na kuathiri maamuzi, matarajio ya watu au uingiliaji wa taasisi. Mwishowe, tabia mpya zinazojitokeza huingia tena kwenye mfumo kama data.

Ujumbe muhimu zaidi wa mzunguko huu ni huu: utabiri wa kialgorithimu hausomi tu siku zijazo; pia unaweza kubadili masharti ambayo siku zijazo hizo hujengwa. Kwa hiyo, mifumo ya kialgorithimu inapaswa kutathminiwa si kwa usahihi wa kiufundi pekee, bali pia kwa jinsi inavyopanga upya ulimwengu wa kijamii.

Ujumbe wa pili wa kimchoro wa makala ni tofauti kati ya kujifunza na kuelekeza. Kujifunza hukusanya data kupitia maamuzi ya makusudi na tathmini refleksivu za watu. Uelekezaji huathiri jinsi chaguo zinavyowasilishwa, tabia zipi zinaonekana kuwa za kawaida na ni msingi gani wa mazoea unaoimarishwa. Kwa hiyo, mfumo hufaidika na matokeo ya uamuzi na pia mazingira ambamo uamuzi huundwa.

Majaribio Yalifanywaje?

Hakuna majaribio yaliyofanywa katika utafiti huu. Makala ni uchanganuzi wa kijamii wa dhana. Badala ya kupima moja kwa moja mifumo ya utabiri wa kialgorithimu, mwandishi huunganisha mapokeo tofauti ya kinadharia yanayotumiwa kueleza mifumo hii.

Katika maandishi, uchanganuzi wa utabiri katika elimu unatumiwa kama mfano. Inajadiliwa kwamba utabiri kuhusu ufaulu wa wanafunzi, hatari ya kuacha masomo au uwezekano wa utendaji hauwezi tu kueleza siku zijazo za mwanafunzi, bali pia kuziathiri kupitia uingiliaji wa taasisi na tathmini refleksivu ya mwanafunzi mwenyewe.

Mfano huu haupaswi kusomwa kama utafiti wa kesi wa kimajaribio; ni uga wa ufafanuzi unaotumika kufanya hoja ya kinadharia iwe halisi zaidi. Lengo kuu la mwandishi ni kuonyesha kwamba refleksiviti haizimwi kabisa katika mifumo ya kialgorithimu; kinyume chake, inaweza kuwa na nafasi kuu katika utendaji wa mifumo hiyo.

Matokeo Yanaonyesha Nini?

Hitimisho kuu la utafiti ni kwamba mifumo ya utabiri wa kialgorithimu haifanyi refleksiviti ya binadamu kuwa jambo lisilo na umuhimu kabisa. Baadhi ya mikabala ya utawala wa kialgorithimu hudai kwamba mifumo huzingatia miundo ya tabia kwa kupita pembeni fikra za makusudi za mtu. Mwandishi anasema kwamba fremu hii haijakamilika.

Kulingana na maandishi, mhusika refleksivu bado yuko katikati, lakini kwa namna tofauti. Kila wakati watu wanapofikiri, kufanya maamuzi, kujirekebisha kulingana na utabiri wa mfumo au kuitikia utabiri huo, wanazalisha data mpya kwa mfumo. Kwa njia hiyo, refleksiviti inaweza kuacha kuwa eneo huru nje ya mfumo na kuingizwa katika uwezo wa mfumo wa kujifunza.

Utafiti pia unadai kwamba mifumo ya kialgorithimu hufanya kazi katika viwango viwili. Katika kiwango cha kwanza, mfumo hujifunza kutoka katika matokeo ya maamuzi refleksivu ya watu. Katika kiwango cha pili, huuelekeza msingi wa mazoea, matarajio na hisia za kiutendaji ambamo watu hufanya maamuzi. Kiwango hiki cha pili kinahusishwa na dhana ya habitus ya Bourdieu.

Hitimisho mojawapo linalovutia zaidi la mwandishi ni kwamba katika jamii za kisasa za marehemu, wajibu wa mtu kujitathmini na kujiongoza mara kwa mara unaweza kubadilishwa kuwa rasilimali yenye tija na mifumo ya kialgorithimu. Kadiri mtu anavyofanya maamuzi mengi, kujieleza zaidi na kuingiliana zaidi na mfumo, ndivyo mfumo unavyopata nyenzo zaidi za kujifunzia.

Kwa Nini Hili ni Muhimu?

Mjadala huu ni muhimu kwa sababu akili bandia na mifumo ya utabiri wa kialgorithimu imeenea katika elimu, matangazo, uchumi wa majukwaa, mitandao ya kijamii, usimamizi wa umma na ushauri. Mifumo hii haijaribu tu kutabiri kitakachotokea; mara nyingi pia huathiri kile ambacho watu hukiona kuwa kinawezekana, kina mantiki au ni cha kawaida.

Kwa mfano, mfumo wa mapendekezo hautabiri tu kile ambacho mtumiaji atatazama; kwa kupanga chaguo kwa mpangilio fulani, pia huelekeza tabia ya kutazama. Uchanganuzi wa elimu hauhesabu tu hatari ya mwanafunzi; pia humpa mwanafunzi, mwalimu na taasisi matarajio fulani kuhusu mustakabali wa mwanafunzi huyo. Matarajio haya yanaweza kuchangia katika kuunda upya tabia.

Kwa hiyo, utafiti unaonyesha kwamba haitoshi kuuliza kuhusu mifumo ya kialgorithimu kwa swali “utabiri ni sahihi?” Swali muhimu zaidi ni hili: utabiri huu unaporudi katika ulimwengu wa kijamii, ni tabia zipi, mazoea yapi na mustakabali upi unaoufanya uwezekane zaidi?

Mambo ya Kuzingatia

Utafiti huu ni preprint ambao haujapitia tathmini ya wenzao. Kwa hiyo, madai ya kinadharia hayapaswi kuchukuliwa kama matokeo ya kitaaluma yaliyokubaliwa kwa uhakika; yanapaswa kuchukuliwa kama pendekezo la kijamii linaloweza kujadiliwa.

Kwa kuwa makala hayawasilishi data ya kimajaribio, haipaswi kuhitimishwa kwamba mifumo ya kialgorithimu hufanya kazi kwa namna ileile katika kila muktadha. Uchanganuzi wa elimu, algorithimu za matangazo, mapendekezo ya mitandao ya kijamii na mifumo ya mazungumzo ya akili bandia zina miundo tofauti ya kiufundi na kitaasisi. Thamani ya maandishi iko katika kutualika kufikiria mifumo hii ndani ya fremu ya pamoja ya kijamii.

Kugeuka kwa refleksiviti kuwa “rasilimali” hakumaanishi kwamba mwanadamu anadhibitiwa kikamilifu. Hoja ya mwandishi ina utata zaidi: mwanadamu bado hufikiri, hutathmini na kuitikia; lakini michakato hii ya kufikiri na kuitikia inaweza kufuatiliwa, kuwekewa modeli na kutumiwa tena na mifumo.

Matumizi ya akili bandia pia yameelezwa katika utafiti. Mwandishi anasema kwamba Claude ilitumika kwa usaidizi wa uandishi na uhariri; huku modeli kubwa za lugha za ndani kama Qwen na Llama zikitumiwa katika kuchakata madokezo ya fasihi, na kwamba yeye mwenyewe anabeba wajibu wa mwisho. Taarifa hii inapaswa kuzingatiwa kwa upande wa mchakato wa uzalishaji wa maandishi.

Hitimisho

“Reflexive Predictions – Reflexivity as Resource in Algorithmic Systems” linawasilisha mjadala muhimu wa kinadharia unaotazama mifumo ya utabiri wa kialgorithimu si kama zana za kiufundi pekee, bali kama mifumo ya mrejesho inayoathiri ulimwengu wa kijamii. Wazo kuu la utafiti ni kwamba utabiri haukai bila athari katika ulimwengu wa kijamii. Watu huona utabiri, huutafsiri, hutenda kwa kuuzingatia na vitendo hivyo huzalisha data mpya kwa mfumo.

Mwandishi anasema kwamba mhusika refleksivu hajapotea katika enzi ya algorithimu. Kinyume chake, mhusika refleksivu anaweza kuwa muhimu sana kwa utendaji wa mifumo. Watu kufikiri kuhusu wao wenyewe, kurekebisha maamuzi yao na kuingiliana na mifumo ya kidijitali huimarisha mtiririko wa data ambao ujifunzaji wa kialgorithimu hulishwa nao.

Mkabala huu unaibua swali la kimaadili la kina kuhusu akili bandia na mifumo ya utabiri: ikiwa mfumo hautabiri tu tabia zetu bali pia huunda mazoea ambamo tunafikiri kuhusu mustakabali na kufanya maamuzi, tunapaswa kutathmini athari za mfumo huo kwa njia gani?

Dokezo la Chanzo na Mbinu

Maudhui haya yameandaliwa kwa kusoma preprint ya Oskar Kirsch yenye kichwa “Reflexive Predictions – Reflexivity as Resource in Algorithmic Systems”. Maandishi haya si tafsiri ya moja kwa moja; mawazo makuu katika maandishi ya kitaaluma yamebadilishwa kuwa maudhui ya uhariri ya Kituruki yaliyo rahisi, asilia, salama kwa hakimiliki na yanayolingana na muundo wa Verianla.

Kwa kuwa PDF inaeleza wazi kwamba maandishi hayajapitia tathmini ya wenzao, lugha ya matokeo ya kitaaluma yenye uhakika haikutumiwa; badala yake maneno ya tahadhari kama “mwandishi anasema”, “utafiti unajadili” na “maandishi yanapendekeza” yametumika. Katika maeneo yenye hatari kama akili bandia, uchanganuzi wa elimu na utawala wa kialgorithimu, maoni yamewasilishwa pamoja na mipaka yake.