Utafiti huu unaangalia athari za akili bandia kwenye mazingira ya maarifa kwa upana zaidi kuliko kichwa cha “taarifa potofu” pekee. Kwa mujibu wa waandishi, hatari kuu si kwamba AI hutoa majibu yasiyo sahihi tu. Hatari ya kina zaidi ni kwamba uwezo wa watu na taasisi wa kufikiri kwa kujitegemea, kutathmini ushahidi, kukutana na mitazamo tofauti na kufanya hoja za pamoja unaweza kudhoofika polepole.

Makala inalenga njia kuu tatu: ushawishi na ujanja, uhamishaji wa mzigo wa utambuzi na mizunguko ya mrejesho. Ushawishi na ujanja ni uwezo wa AI kuelekeza imani na maamuzi ya watu. Uhamishaji wa mzigo wa utambuzi ni hali ambapo watu wanazidi kuachia AI kazi za juu za kiakili kama kufikiri, kuandika, kuchanganua na kufanya maamuzi. Mizunguko ya mrejesho hutokea wakati matokeo ya AI yanaathiri watu, na uzalishaji wa watu baadaye unaingia tena kwenye data na tabia za mifumo ya AI, hivyo kupunguza upana wa mazingira ya maarifa.

Waandishi hawawasilishi hatari hizi kama janga lililokwisha kuamuliwa, bali kama njia za hatari zinazostahili kuchukuliwa kwa uzito. Ujumbe mkuu ni huu: AI inaweza kuimarisha uwezo wetu wa maarifa, lakini hili halitatokea lenyewe. Muundo wa mfumo, elimu, taasisi, motisha za majukwaa na miundombinu ya utafiti vinapaswa kupangwa kwa makusudi ili kulinda ustahimilivu wa kiepistemiki.

Tatizo ni nini?

Jamii za kisasa zinategemea maarifa. Maendeleo ya sayansi, maamuzi ya kidemokrasia, usimamizi wa migogoro, maandalizi ya milipuko ya magonjwa, sera za hali ya hewa, biosecurity, utawala wa AI na afya ya umma hutegemea uwezo wa watu na taasisi kupata taarifa sahihi, kupima ushahidi na kufanya maamuzi ya pamoja yenye mantiki.

Tatizo linalochunguzwa ni uwezekano kwamba AI inaweza kudhoofisha uwezo huu wa pamoja wa kujua. Ndiyo maana waandishi hutumia dhana ya “hatari ya kiepistemiki”. Kiepistemiki humaanisha kile kinachohusiana na maarifa na namna maarifa yanavyojengwa. Hatari ya kiepistemiki ni kuharibika kwa uwezo wa jamii kutofautisha kweli na uwongo, utaalamu na juu juu, pamoja na taarifa ya kuaminika na kelele.

Hatari hii ni ya kina zaidi kuliko tatizo la kawaida la “disinformation”. Disinformation ni kusambazwa kwa taarifa fulani isiyo sahihi. Hatari ya kiepistemiki ni kuharibika kwa miundombinu ambayo huzalisha na kutathmini maarifa yenyewe. Kwa hiyo swali si tu “je, taarifa potofu zipo?” bali swali la msingi zaidi ni: je, watu na taasisi bado wanadumisha uwezo wa kiakili na kitaasisi wa kutambua kilicho sahihi?

AI inaleta hatua mpya katika muktadha huu. Injini za utafutaji zilibadilisha namna tunavyofikia taarifa; mitandao ya kijamii ilibadilisha usambazaji wa taarifa. Miundo mikubwa ya lugha na wasaidizi wa AI hawatoi taarifa tu; huunda hoja, hufupisha, hutafsiri, hupendekeza maamuzi, hushawishi, huandika na kwa kiwango kinachoongezeka huwa na kumbukumbu binafsi, uhusiano na mwingiliano endelevu. Kwa hiyo wanaingia kwa kina zaidi ndani ya mchakato wa kufikiri.

Mbinu inapendekeza nini?

Huu si utafiti mmoja wa majaribio. Ni usanisi unaolenga hatari kutoka maeneo mbalimbali. Waandishi wanapendekeza kwamba kudorora kwa kiepistemiki kunakohusiana na AI kunaweza kufanya kazi kupitia njia kuu tatu: ushawishi na ujanja, uhamishaji wa mzigo wa utambuzi, mizunguko ya mrejesho na lock-in.

Njia ya kwanza, ushawishi na ujanja, ni uwezo wa mifumo ya AI kuathiri imani, maamuzi na misimamo ya watu. Athari hii inaweza kutumiwa na wahusika wenye nia mbaya kwa propaganda, ulaghai, radicalization au ushawishi wa kisiasa. Lakini madhara hayahitaji kila mara mtu mwenye nia mbaya. Mifumo inayomkubalia mtumiaji kila wakati, majibu yaliyobinafsishwa kupita kiasi au mazingira yanayoimarisha imani zilizopo bila kukosoa yanaweza kusababisha madhara ya kiepistemiki bila kukusudia.

Njia ya pili ni uhamishaji wa mzigo wa utambuzi. Hii ni hali ambapo watu huachia zana za nje sehemu za kazi za kiakili. Hili si baya kila wakati; uandishi, kikokotoo na injini za utafutaji pia ziliweka baadhi ya kazi za utambuzi nje ya akili. Lakini AI ya kisasa inaweza kuchukua si tu kukumbuka au kutafuta taarifa, bali pia kujenga maelezo, kufanya uchambuzi, kufanya maamuzi, kufikiri kwa kina na kuzalisha kazi za ubunifu za kiwango cha juu.

Njia ya tatu ni mizunguko ya mrejesho. AI huathiri maandishi, mawazo, uzalishaji wa kitaaluma, maudhui ya mitandao ya kijamii na maamuzi ya watu. Uzalishaji huo wa binadamu baadaye huingia kwenye data na matarajio ya mifumo mipya ya AI. Hivyo matokeo ya binadamu na AI huanza kulishana. Mzunguko huu unaweza kupunguza utofauti wa mawazo, kubana maeneo ya utafiti na kuunda “algorithmic monoculture” katika mazingira ya maarifa.

Kimetodolojia, makala haichukulii njia hizi kama hatari zilizotenganishwa, bali kama hatari za kimfumo zinazoweza kuimarishana. Kwa mfano, mtumiaji ambaye uwezo wake wa kufikiri umedhoofishwa na uhamishaji wa mzigo wa utambuzi anaweza kuwa rahisi zaidi kuathiriwa na majibu ya ujanja ya AI. Mazingira ya maarifa yaliyobana kwa sababu ya AI yanaweza kubana zaidi kupitia mizunguko ya mrejesho. Hivyo hatari za kiepistemiki zinaweza kukua kwa kiwango cha mtu, taasisi na jamii.

Fomula zinaeleza nini?

Utafiti huu haujengwi kuzunguka fomula za kihisabati. Hoja kuu zinategemea zaidi njia za kimawazo, matokeo ya fasihi, hali za hatari na maeneo ya kuingilia kati.

Muundo mkuu wa kimawazo unaweza kurahisishwa hivi:

Skimu hii inaonyesha kwamba madhara kwa mfumo wa maarifa hayatoki kwenye njia moja, bali kwenye mkusanyiko wa njia kadhaa.

Mantiki ya hatari ya kimfumo inaweza kufupishwa hivi:

Hii inaeleza wazo la “meta-risk”. Hatari ya kiepistemiki si aina moja tu ya hatari; ni hatari ya ngazi ya juu inayodhoofisha uwezo wa kutambua na kusimamia hatari nyingine. Ikiwa jamii haiwezi tena kuzalisha taarifa sahihi, kupima ushahidi au kufanya maamuzi ya pamoja, basi hatari kama usalama wa AI, biosecurity, hali ya hewa, vita au milipuko ya magonjwa zinaweza pia kusimamiwa vibaya zaidi.

Mzunguko wa mrejesho unaweza kuonyeshwa hivi:

Tatizo hapa ni kwamba uzalishaji wa binadamu ulioundwa kwa ushawishi wa AI unaweza kurudi tena kama ingizo la mifumo ya AI ya baadaye. Ikiwa mzunguko huu unapunguza utofauti, ukosoaji na ishara za kusahihisha, mazingira ya maarifa yanaweza kuwa ya kujirudia yenyewe kwa muda.

Mantiki ya suluhisho ya makala inaweza kuonyeshwa hivi:

Skimu hii inaonyesha kwamba suluhisho si kuweka kichujio cha usalama kwenye modeli pekee. Jinsi watu wanavyotumia mfumo, jinsi taasisi zinavyousimamia na ni tabia zipi soko linazotunuku pia ni mambo ya msingi.

Ujumbe mkuu wa grafu, jedwali na skimu

Skimu kuu ya utafiti inaonyesha kwamba njia tatu zinaimarishana. Ushawishi na ujanja, uhamishaji wa mzigo wa utambuzi na mizunguko ya mrejesho zinaweza kuonekana kama hatari tofauti, lakini ndani ya mazingira yale yale ya maarifa hulishana. Njia hizi hupunguza uwezo wa kiepistemiki; uwezo uliodhoofika nao hupunguza uwezo wa kukabiliana na hatari nyingine za AI na zisizo za AI.

Skimu pia inaonyesha vichocheo vya pamoja. Upande wa motisha kuna mafunzo yanayolenga engagement, shinikizo la ufanisi na mbio za ushindani za kupeleka bidhaa sokoni. Upande wa uwezo kuna ufasaha wa lugha, uwezo wa ushawishi, kumbukumbu, ubinafsishaji na automation ya kazi nyingi. Ujumbe muhimu ni kwamba hatari haitokani na mtumiaji mbaya pekee; inaweza pia kutokana na muundo wa bidhaa na motisha za soko.

Skimu za sehemu ya ushawishi na ujanja zinaonyesha kwamba fasihi hutumia ufafanuzi tofauti. Baadhi ya mitazamo huona ushawishi kama jamii pana na ujanja kama aina yake yenye madhara. Baadhi ya nyaraka za sera huweka ujanja katika fremu pana zaidi. Makala inakubali tofauti hizi, lakini inalenga namna imani na maamuzi ya watu yanavyoweza kuelekezwa kwa njia yenye madhara.

Skimu ya mifano ya hatari inaonyesha kwamba ushawishi unaosaidiwa na AI unaweza kuzalisha madhara kupitia matumizi mabaya na pia kupitia tabia ya modeli yenyewe. Katika matumizi mabaya, watu wanaweza kutumia AI kwa propaganda, radicalization au ushawishi uliolengwa. Katika hatari ya tabia ya modeli, mfumo unaweza kuimarisha imani zilizo karibu na delusion, kujenga utegemezi wa kihisia uliopitiliza au kuathiri maamuzi nyeti kwa njia hatari.

Skimu ya Bloom taxonomy katika sehemu ya uhamishaji wa utambuzi inaonyesha kwamba ujuzi wa kufikiri huanzia rahisi hadi mgumu: kukumbuka, kuelewa, kutumia, kuchanganua, kutathmini na kuunda. Onyo kuu la makala ni hili: ikiwa watu wataachia AI kazi za ngazi za juu kabla ya kuingiza ndani ujuzi wa ngazi za msingi, uwezo wa kujifunza na kufikiri kwa kina unaweza kudhoofika.

Skimu za mizunguko ya mrejesho na lock-in zinaonyesha namna matokeo ya AI yanavyounda uzalishaji wa binadamu na uzalishaji wa binadamu unavyoathiri mifumo ya baadaye ya AI. Mchakato huu unaweza kusababisha kubana mada za kisayansi, kufanana kwa mitindo ya uandishi, kupungua kwa utofauti wa mawazo na hatari ya lock-in ya muda mrefu katika mazingira ya maarifa.

Majaribio yalifanywaje?

Utafiti huu haufanyi jaribio moja; unaunganisha matokeo kutoka tafiti tofauti ndani ya mfumo wa hatari. Kwa hiyo sehemu ya “majaribio” inapaswa kusomwa zaidi kama maelezo ya aina za ushahidi ambazo makala inategemea.

Kwa upande wa ushawishi na ujanja, waandishi wanajadili tafiti zinazoonyesha kwamba mifumo ya AI inaweza kuwa na uwezo wa kushawishi unaolingana na binadamu au katika baadhi ya hali kuwa na ufanisi zaidi. Pia wanataja mifano ya matumizi ya AI katika ushawishi wa kisiasa, ujanja wa kiuchumi, social engineering, maudhui bandia na propaganda inayolengwa.

Kwa upande wa uhamishaji wa mzigo wa utambuzi, matokeo ya awali kuhusu coding, uandishi na ujifunzaji unaosaidiwa na AI yanajadiliwa. Baadhi ya tafiti zinaonyesha kwamba watu wanaotegemea sana msaada wa AI wanaweza kuonyesha udhaifu katika debugging, kujifunza au kujiamini katika maarifa yao wenyewe. Baadhi ya matokeo ya neuroscience, ikiwa ni pamoja na EEG, pia yanaashiria kupungua kwa muunganisho na ushiriki wa kiakili wakati wa uandishi unaosaidiwa na AI.

Kwa upande wa mizunguko ya mrejesho, inajadiliwa kwamba uzalishaji unaosaidiwa na AI unaweza kusababisha kufanana. Kubana kwa mada za utafiti wa kisayansi, mawazo machache ya asili katika brainstorming unaosaidiwa na AI, lugha ya uandishi kusogea karibu na mifumo ya AI na miundo kutoa matokeo yanayofanana ni baadhi ya aina kuu za ushahidi.

Makala haitoi matokeo haya kama ushahidi wa mwisho wa kuporomoka kwa mfumo. Badala yake inasisitiza ugumu wa upimaji. Majaribio ya maabara hayawezi kukamata kikamilifu athari za muda mrefu za ulimwengu halisi; athari za ulimwengu halisi zinaweza kuonekana polepole na kwa kutawanyika, hivyo kuwa ngumu kupima. Kwa hiyo hoja ya hatari inajengwa kwa msimamo wa tahadhari wa “ushahidi upo, lakini bado ni pungufu”.

Matokeo yanaonyesha nini?

Hitimisho kuu ni kwamba hatari za AI kwa miundombinu ya kiepistemiki zinapaswa kuchukuliwa kwa uzito. Hatari hizi hazihusu tu uzalishaji wa taarifa potofu. AI inaweza kuathiri kile watu wanachoamini, namna wanavyofikiri, taarifa wanazoziona kuwa muhimu, mambo wanayoyahoji na mada wanazoona zinafaa kuchunguzwa.

Hitimisho la kwanza ni kwamba nguvu ya ushawishi ya AI inazidi kuwa muhimu. Kadiri ubinafsishaji, kumbukumbu ya muda mrefu, uzalishaji wa maudhui ya multimodal na uwezo wa mwingiliano wa kihisia vinavyoongezeka, nguvu ya mifumo kuathiri watu inaweza pia kuongezeka. Athari hii inaweza kutumiwa na wahusika wenye nia mbaya au kutokea bila kukusudia kwa sababu ya malengo ya bidhaa.

Hitimisho la pili ni kwamba uhamishaji wa mzigo wa utambuzi unaweza kufikia hatua tofauti na teknolojia za habari za kawaida. Injini ya utafutaji hufanya upatikanaji wa taarifa kuwa rahisi; AI mara nyingi huunda hoja, hutoa hitimisho, huandaa rasimu na kuingia moja kwa moja kwenye mchakato wa kufikiri wa mtumiaji. Hii inahitaji tahadhari zaidi hasa katika elimu na maendeleo ya watumiaji vijana.

Hitimisho la tatu ni kwamba mizunguko ya mrejesho inaweza kupunguza utofauti wa maarifa. Ikiwa idadi kubwa ya watu inaandika, kufikiri na kufanya utafiti kwa kutumia aina zilezile za matokeo ya AI, uwanja wa mawazo wa pamoja unaweza kufanana zaidi. Katika sayansi, vyombo vya habari na elimu hali hii inaweza kudhoofisha uwezo wa uvumbuzi wa muda mrefu.

Hitimisho la nne ni kwamba hatari za kiepistemiki zinaweza kujificha. Jamii inapoanza kupoteza uwezo wake wa kufikiri, uwezo wa kutambua na kurekebisha upotevu huo pia unaweza kupungua. Kwa hiyo wakati mzuri wa kuingilia kati unaweza kuwa kabla tatizo halijawa rahisi kupimika kikamilifu.

Kwa nini hili ni muhimu?

Utafiti huu unatoa wito wa kufikiria hatari za AI si tu kama usalama wa kiufundi au taarifa potofu, bali kama suala la miundombinu ya hoja ya pamoja ya jamii. Afya ya taarifa ya jamii inapoharibika, si watumiaji binafsi tu wanaoumia; sayansi, demokrasia, usimamizi wa migogoro, uaminifu kati ya taasisi na uwezo wa kusimamia teknolojia za baadaye pia hudhoofika.

Kuitaja hatari ya kiepistemiki kama “meta-risk” ni muhimu. Meta-risk ni hatari inayoathiri pia uwezo wa kusimamia hatari nyingine. Ikiwa watu na taasisi wanapoteza uwezo wa kutathmini ushahidi, mazoea ya kufikiri kwa kujitegemea na msingi wa ukweli wa pamoja, kusimamia hatari nyingi kubwa, pamoja na usalama wa AI yenyewe, kunakuwa vigumu zaidi.

Makala pia inasisitiza kwamba AI si hasi kabisa. Ikiwa itaundwa vizuri, AI inaweza kusaidia watu kuhoji dhana zao, kuelewa mitazamo pinzani, kutathmini taarifa ngumu, kuharakisha uzalishaji wa kisayansi na kuboresha maamuzi ya taasisi. Lakini ili faida hizi zipatikane, muundo na motisha vinahitaji kupangwa kwa makusudi.

Kwa msomaji wa Verianla, hoja kuu ni hii: haitoshi kuona AI kama “zana ya kutoa majibu”. AI inakuwa miundombinu ya kufikiri inayobadilisha uhusiano wetu na maarifa. Kwa hiyo swali kuu si kama tutatumia AI au la, bali kama tutaibuni kwa namna inayoongeza uwezo wa kufikiri au kwa namna inayouchukua na kuudhoofisha.

Mambo ya kuzingatia

Jambo la kwanza ni kwamba utafiti unatoa hoja inayolenga hatari. Waandishi hawasemi kwamba kuporomoka kwa kiepistemiki kutatokea kwa hakika. Wanadai kwamba baadhi ya mielekeo ya kiufundi na kijamii inayoonekana katika mifumo ya leo ni mikubwa vya kutosha kuweza kusababisha madhara ya kiwango kikubwa.

Jambo la pili ni ugumu wa kupima. Hatari za kiepistemiki ni taratibu, zimetawanyika na zina sababu nyingi. Ni vigumu kupima kwa majaribio mafupi ni kiasi gani uwezo wa mtu wa kufikiri kwa kina umepungua au ni kiasi gani mazingira ya pamoja ya maarifa yamebana. Kwa hiyo ushahidi uliopo ni wa thamani lakini pia una mipaka.

Jambo la tatu ni kwamba suluhisho si vichujio vya kiufundi pekee. Mipangilio ya usalama ya modeli, kukataa maombi yenye madhara au kuweka lebo kwenye maudhui ni muhimu lakini haitoshi. Elimu, muundo wa interface, motisha za majukwaa, upatikanaji wa data kwa watafiti, mifumo ya udhibiti na ustahimilivu wa taasisi za kisayansi vinapaswa kuzingatiwa kwa pamoja.

Jambo la nne ni kwamba matumizi ya AI hayakataliwi kabisa. Utafiti si maandishi dhidi ya teknolojia. Hoja kuu ni kwamba AI haitaimarisha fikra za binadamu moja kwa moja kwa kawaida. Faida ya kiepistemiki inahitaji muundo wa makusudi na hatua za kitaasisi.

Jambo la tano ni usawa wa elimu. Shule na taasisi zenye rasilimali kubwa zinaweza kutumia AI kwa namna inayoongeza uwezo wa kufikiri, huku taasisi dhaifu zikiigeuza kuwa chombo cha majibu tayari. Hii inaweza kuongeza tofauti za kiutambuzi na kielimu kwa muda mrefu.

Hitimisho

Utafiti huu unapendekeza dhana yenye nguvu ya kuelewa athari za AI kwa mazingira ya maarifa: hatari ya kiepistemiki. Hii si habari bandia au jibu lisilo sahihi pekee. Ni kudhoofika kwa uwezo wa watu na taasisi kutafuta kweli, kupima ushahidi, kufikiri kwa kujitegemea na kufanya maamuzi ya pamoja.

Makala inaangazia njia kuu tatu. AI inaweza kuelekeza imani kupitia ushawishi na ujanja. Inaweza kudhoofisha ujuzi wa kufikiri kupitia uhamishaji wa mzigo wa utambuzi. Inaweza kupunguza uwanja wa maarifa na kufungia njia fulani za kufikiri kupitia mizunguko ya mrejesho.

Suluhisho si tu kuzalisha “modeli salama zaidi”. Mifumo ya AI inapaswa kuwa na tabia ya kujipendekeza kidogo, iwe wazi zaidi, itambue kutokuwa na uhakika na ilinde utofauti wa mawazo. Interfaces hazipaswi kuchukua kabisa mchakato wa kufikiri wa mtumiaji; inapobidi zinapaswa kuweka cognitive friction. Taasisi za elimu zinapaswa kuamua ni ujuzi gani wa kiakili usiopaswa kukabidhiwa kabisa. Majukwaa na masoko pia yanahitaji kufikiriwa upya ili kutunuku ubora wa kiepistemiki badala ya engagement na kasi pekee.

Ujumbe wa jumla ni wazi: AI inaweza kuimarisha uwezo wa binadamu wa kujua, lakini huo si matokeo ya kawaida yanayokuja yenyewe. Ustahimilivu wa kiepistemiki hulindwa kwa muundo.

Dokezo la Chanzo na Mbinu

Maudhui haya yametayarishwa kwa msingi wa kazi “AI Epistemic Risks: Emerging Mechanisms & Evidence” iliyoandaliwa na Mick Yang, Stephen Casper, Jonathan Stray, Jasmine Li, Cameron Jones, Anna Gausen, Natasha Jaques, Brian Christian, Yoshua Bengio na waandishi wengine. Utafiti unajadili kwa taaluma mbalimbali hatari za AI kwa kujua, kufikiri, kufanya maamuzi na mfumo wa taarifa katika ngazi ya mtu na jamii.

Maudhui haya si tafsiri ya neno kwa neno; wazo kuu la utafiti limerahisishwa kulingana na mtindo wa uchapishaji wa Verianla na kubadilishwa kuwa makala asilia ya uhariri ya Kiswahili.

Dhana, mifumo ya hatari, majedwali na skimu za makala zimewasilishwa kwa lugha rahisi. Maudhui haya yasomwe si kama ushauri wa kisheria, usalama wa kiufundi, sera ya elimu au sera ya umma, bali kama muhtasari unaoeleweka wa mfumo wa kitaaluma wa hatari.