Mawakala wa akili bandia sasa si zana zinazojibu maswali pekee. Katika programu za afya wanatarajiwa kutenda kama washauri, katika majukwaa ya elimu kama walimu, katika mifumo ya kifedha kama waelekezi, katika programu za maendeleo binafsi kama makocha, na katika baadhi ya maeneo hata kama wenzi wa kidijitali. Mabadiliko haya yanafanya iwe lazima kuitathmini AI si kwa usahihi wa kiufundi pekee, bali pia kwa mafanikio yake katika jukumu la kijamii.

Dai kuu la utafiti huu ni hili: kadiri mawakala wa AI wanavyochukua majukumu maalumu katika maisha ya binadamu, mafanikio yao hayategemei tu kutoa taarifa sahihi. Ajenti anaweza kutoa jibu sahihi lakini akazungumza kwa toni isiyofaa. Anaweza kuonekana kama ameelewa hitaji halisi la mtumiaji lakini akavuka mipaka ya mamlaka yake. Anaweza kutoa jibu salama kiufundi, lakini mtumiaji akajihisi amehukumiwa, amedharauliwa au hajaeleweka.

Kwa sababu hii, utafiti unapendekeza eneo jipya la uchunguzi linaloitwa “Interactional AI”, yaani “AI ya Kimaingiliano”. Eneo hili hujaribu kuelewa nyanja za kijamii sintetiki ambamo watu na mifumo ya AI inayobeba majukumu huingia katika mwingiliano wa mara kwa mara. Hapa swali kuu si kama AI ni yenye akili au la; bali kama inaweza kujiendesha kwa namna inayofaa ndani ya kukutana kwa kijamii.

Tatizo Ni Nini?

Hadi leo, mifumo ya AI imetathminiwa zaidi kwa vigezo kama usahihi, usalama, utumikaji, halusinesheni, matokeo hatarishi au ukamilishaji wa kazi. Vigezo hivi ni muhimu; lakini havikamatwi kikamilifu tatizo jipya linalotokana na mawakala wa AI wanaochukua majukumu.

Tufikirie programu ya kocha wa afya. Mtumiaji anaposema kwamba hakulala vizuri, ana msongo au amepoteza motisha, mfumo unaweza kuangalia tu data ya kibayometriki na kusema “hali inaonekana mbaya”. Sentensi hii inaweza kuendana na data kiufundi. Lakini katika wakati huo mtumiaji anaweza kuwa hatarajii tu tafsiri ya data, bali pia kueleweka, kutulizwa au kuongozwa kwa upole. Mfumo unaposhindwa kusoma matarajio haya ya kijamii, mwingiliano huvurugika.

Hili ndilo tatizo kuu ambalo utafiti unaangazia: mawakala wa AI wanachukua majukumu ya kibinadamu kwa kiwango kinachoongezeka, lakini mifumo tunayotumia kuwatathmini bado imejengwa zaidi juu ya mantiki ya “zana”. Tunaweza kupima mafanikio ya zana kwa kuangalia kama mtumiaji amefikia lengo lake. Lakini hatuwezi kupima mafanikio ya mshauri, mwalimu au kocha kwa usahihi wa taarifa pekee.

Kwa hiyo swali la msingi ni hili: inamaanisha nini kwa mashine kucheza majukumu ya kijamii ya binadamu, na mafanikio ya jukumu hilo yanawezaje kutathminiwa?

Mbinu Inapendekeza Nini?

Badala ya kutoa jaribio la kiufundi au modeli ya kitakwimu, utafiti unapendekeza fremu ya dhana ya kisosholojia. Fremu hii hujengwa kuzunguka dhana ya “Synthetic Social Spaces”. Dhana hii, inayoweza kutafsiriwa kama “nyanja za kijamii sintetiki”, inaeleza mazingira ya kidijitali ambamo watu huingia katika mwingiliano unaojirudia na mifumo ya AI inayochukua majukumu.

Katika nyanja hizi, ajenti wa AI si mtoa taarifa tu. Huanzisha uhusiano na mtumiaji, hutengeneza matarajio, huamua toni, hujaribu kujenga uaminifu, wakati mwingine hutumia mamlaka na wakati mwingine hulazimika kurekebisha kosa lake. Kwa hiyo utafiti unaeleza utendaji wa kijamii wa mawakala wa AI kupitia operesheni nne za msingi.

Operesheni ya kwanza ni kuelewa lengo lililojificha chini ya ombi la mtumiaji. Mtumiaji anapouliza “kwa nini nimelala vibaya?”, huenda hataki maelezo ya data pekee; labda anataka msongo wake uonekane na apate jibu linalomtuliza. Ikiwa ajenti wa AI hawezi kusoma tofauti kati ya ombi la wazi la mtumiaji na hitaji lake fiche, anaweza kutoa jibu linalohusiana kiufundi lakini lisilofaa kijamii.

Operesheni ya pili ni kurekebisha mamlaka. Ajenti wa AI wakati mwingine hutenda kama mwalimu, wakati mwingine mshauri, wakati mwingine kocha, na wakati mwingine msaidizi. Lakini kila moja ya majukumu haya yana mipaka tofauti ya mamlaka. Mfumo ukizungumza kwa uhakika kupita kiasi, mtumiaji anaweza kujihisi amebanwa. Ukizungumza kwa kusita na kutokuwa na uhakika kila mara, unaweza kuwa usiofaa.

Operesheni ya tatu ni kusimamia toni na mtindo wa mwingiliano. Mtumiaji akiwa na hasira, lugha ya motisha iliyojaa uchangamfu inaweza kuvuruga ulinganifu wa kijamii; mtumiaji akiwa na wasiwasi, toni ya kitabibu kupita kiasi inaweza kufanya vivyo hivyo; mtumiaji akiwa ameumizwa, kauli ya kiotomatiki kama “naweza kusaidia” inaweza kuonekana isiyo na hisia. Toni si uchaguzi wa maneno pekee; ni ishara ya kijamii inayoonyesha mwingiliano unatokea ndani ya uhusiano gani.

Operesheni ya nne ni kurekebisha mipasuko. Binadamu nao huelewana vibaya; lakini mahusiano ya kijamii huweza kuendelea kupitia vitendo vya kurekebisha kama kuomba radhi, kueleza, kujipanga upya na kukarabati uaminifu. Ajenti wa AI anapokosea au mtumiaji anapojihisi hajaeleweka, mfumo unapaswa kulitambua hilo na kulirekebisha kwa namna sahihi. Samahani ya jumla au maelezo yanayoonekana kumlaumu mtumiaji yanaweza kuukuza mpasuko zaidi.

Formuli Zinasema Nini?

Katika utafiti huu hakuna formuli ya kihisabati, modeli ya kitakwimu au mlinganyo wa majaribio. Matini inapendekeza fremu ya dhana na ya kisosholojia. Kwa hiyo hakuna formuli asilia ya MathJax ya kuhamishwa.

Hata hivyo, mantiki kuu ya utafiti inaweza kufupishwa kwa uhusiano rahisi wa mchakato kama ifuatavyo:

Usemi huu haupo katika utafiti kama formuli ya moja kwa moja; ni muhtasari wa kiuhariri uliotayarishwa ili kumsaidia msomaji kuelewa fremu ya dhana kwa urahisi zaidi.

Hali ya kushindwa ambayo utafiti unaonya kuihusu inaweza kuonyeshwa hivi:

Usemi huu rahisi unaeleza dai kuu la matini: hata kama ajenti wa AI huzalisha jibu sahihi kimaudhui, mwingiliano unaweza kushindwa ikiwa anacheza vibaya jukumu la kijamii.

Ujumbe Mkuu wa Grafu, Jedwali na Skimu

Mhimili wa dhana wa utafiti ni kuwafikiria mawakala wa AI si kama “zana zinazozalisha matokeo”, bali kama wabebaji wa majukumu wanaoingia katika makutano ya kijamii. Kwa mtazamo huu, ajenti hajibu swali la mtumiaji pekee; pia huingia ndani ya hali ya kijamii. Mtumiaji anaweza kumweka katika nafasi ya mshauri, kocha, mwalimu, rafiki, mtaalamu au msaidizi.

Dhana ya “Social Fit” inaeleza kiwango ambacho ajenti anaweza kubeba kwa namna inayofaa mazingira ya kijamii anayoingia. Kocha wa afya anapaswa kutambua udhaifu au hali tete ya mtumiaji; ajenti wa elimu anapaswa kutofautisha wakati ambapo mwanafunzi anahitaji maelezo na wakati ambapo anahitaji kutiwa moyo. Ajenti wa ushauri wa kifedha naye anapaswa kuepuka uhakika wa kupindukia katika mazungumzo yenye kutokuwa na uhakika, hatari na hofu.

Dhana ya “Interaction Failure” inafafanua aina ya kuvurugika iliyo tofauti na kosa la kiufundi. Mfumo unaweza kuwa haujazalisha halusinesheni, haujatumia lugha yenye sumu, na hata kazi inaweza kuwa imekamilika. Hata hivyo, mtumiaji anaweza kuhisi kwamba mfumo haukutenda kwa namna inayofaa hali ya kijamii. Katika hali hii, tatizo halipo katika usahihi wa matokeo, bali katika jinsi mwingiliano ulivyojengwa vibaya katika kiwango cha uhusiano.

Operesheni nne za fremu hii hutoa aina ya lenzi ya kuelewa mafanikio ya jukumu la kijamii la ajenti wa AI. Mtumiaji anatafuta nini? Ajenti anazungumza kwa mamlaka gani? Toni inaendana na hali? Kosa linapotokea, mfumo unaweza kurekebisha uhusiano? Maswali haya yanafanya darasa la kushindwa ambalo mara nyingi halionekani katika tathmini za kawaida za AI lionekane.

Mfano wa Oura Advisor ni wa kueleza vizuri katika muktadha huu. Watumiaji hawalalamiki tu juu ya kutokuwa sahihi kwa data; huguswa pia na jinsi mfumo unavyowaweka katika nafasi fulani, jinsi unavyozungumza nao, na jinsi unavyoshindwa kurekebisha mpasuko unaotokea baadaye. Mwitikio unaoelezwa kwa lugha ya kijamii kama “AI gaslighting” unaonyesha kwamba watu huiishi mifumo hii si kama zana pekee, bali kama upande wa makutano ya kijamii.

Majaribio Yalifanywaje?

Utafiti huu si utafiti wa majaribio kwa maana ya kawaida. Hautoi seti maalumu ya data, jaribio la kitakwimu au kipimo cha utendaji wa modeli. Badala yake, kwa kutumia mifano kama Oura Advisor, Noom AI Coach na Khanmigo, unaeleza kwa dhana za kisosholojia jinsi mawakala wa AI wanaochukua majukumu wanaweza kushindwa katika mwingiliano.

Matini inanufaika na wanafikra kama Erving Goffman, Harold Garfinkel, Berger na Luckmann, Harvey Sacks, Emanuel Schegloff, Sherry Turkle na Lucy Suchman, ambao wamefanya kazi juu ya mwingiliano wa kijamii, maisha ya kila siku, uchambuzi wa mazungumzo na mahusiano ya binadamu na mashine. Msingi huu wa kinadharia hutumiwa kuelewa nafasi ya mawakala wa AI ndani ya makutano ya kijamii.

Mbinu ya utafiti inategemea zaidi utenganishaji wa dhana kuliko uchunguzi wa mfumo wa kiufundi. Kwanza inaonyesha mipaka ya mikabala iliyopo ya mwingiliano wa binadamu na mashine. Kisha inadai kwamba mawakala wa AI huzalisha hali mpya ya kijamii. Mwishowe inapendekeza dhana za Social Fit, Interaction Failure na operesheni nne za kimaingiliano ili kutathmini hali hii ya kijamii.

Kwa sababu hii, utafiti haujibu swali la “ajenti wa AI ana mafanikio kwa asilimia ngapi?”. Badala yake unauliza swali la msingi zaidi: ajenti wa AI anapochukua jukumu la kijamii la binadamu, anahitaji uwezo gani wa kijamii?

Matokeo Yanaonyesha Nini?

Matokeo ya kwanza ya utafiti ni kwamba kuwachukulia mawakala wa AI kama zana pekee hakutoshi. Mifumo inayochukua majukumu kama kocha, mshauri, mwalimu au mwenzi huonwa na mtumiaji kama upande wa kijamii. Hali hii inahitaji pia vigezo vya tathmini vibadilike.

Matokeo ya pili ni kwamba usahihi wa kiufundi hautoshi kwa mafanikio ya kijamii. Jibu linaweza kuwa sahihi, salama na linalohusiana; lakini bado linaweza kuangukia vibaya katika hali ya kijamii ya mtumiaji. Aina hii ya kuvurugika haiwezi kuelezwa kwa makosa ya kawaida ya AI kama halusinesheni au lugha yenye sumu.

Matokeo ya tatu ni kwamba dhana ya “Social Fit” inakuwa muhimu sana. Ikiwa ajenti wa AI anaweza kusoma kwa usahihi jukumu lake na eneo la kijamii alilomo, mwingiliano huwa endelevu zaidi. Ikiwa haelewi lengo la mtumiaji, anatumia vibaya mamlaka yake, hawezi kurekebisha toni au hawezi kurekebisha mipasuko, mwingiliano hushindwa.

Matokeo ya nne ni kwamba uwezo wa kurekebisha ni wa msingi kwa uaminifu. Watu wanaweza kukubali kwamba mashine zinaweza kukosea; lakini baada ya kosa, mfumo ukidharau uzoefu wa mtumiaji, ukiuelewa vibaya au kuupitisha kwa samahani ya jumla, uaminifu unaweza kuharibiwa zaidi. Kama ilivyo katika mahusiano ya kijamii, katika nyanja za kijamii sintetiki uaminifu hujengwa si kwa kutokosea pekee, bali kwa kurekebisha vizuri baada ya kosa.

Matokeo ya tano ni kwamba eneo hili linahitaji sosiolojia mpya. Kadiri mawakala wa AI wanavyoenea, watu hawatabadilishana nao taarifa pekee; wataunda mahusiano ya ushauri, mwongozo, motisha, ukaribu, nidhamu, kujifunza na msaada. Ili kuelewa mahusiano haya, pamoja na vipimo vya utendaji wa kiufundi kunahitajika pia vigezo vya mwingiliano wa kijamii.

Kwa Nini Hili Ni Muhimu?

Mawakala wa AI wanapoingia katika afya, elimu, fedha, huduma kwa wateja, ukocha wa kazi na maendeleo binafsi, uhusiano wao na watu unakuwa nyeti zaidi. Mifumo hii wakati mwingine huonekana kana kwamba inakabiliana na wasiwasi wa mtumiaji, wakati mwingine hisia ya kushindwa, wakati mwingine hofu ya kiuchumi, na wakati mwingine upweke au hitaji la motisha. Katika hali kama hizi, toni isiyofaa, mamlaka isiyofaa au urekebishaji usiotosha unaweza kusababisha miitikio mikali ya watumiaji.

Utafiti huu unalifanya lionekane eneo lililokuwa limekosekana katika tathmini ya akili bandia. Leo mifumo mingi hupimwa kwa maswali kama “ilitoa jibu sahihi?”, “ilizalisha maudhui hatari?”, “ilikamilisha kazi?”. Lakini kwa mawakala wanaochukua majukumu, maswali ya ziada yanahitajika: Je, alimwelewa mtumiaji vizuri? Je, alijua mipaka yake? Je, alizungumza kwa toni inayofaa wakati huo? Je, aliweza kurekebisha uaminifu baada ya kosa?

Mtazamo huu ni muhimu pia kwa usanifu wa bidhaa. Unapotengeneza kocha wa afya wa AI, mshauri wa fedha au msaidizi wa elimu, haitoshi kujenga tu msingi wa maarifa na kichujio cha usalama. Mipaka ya jukumu la kijamii la mfumo, mabadiliko ya toni, matarajio ya mtumiaji, nyakati za mgogoro na itifaki za urekebishaji pia zinapaswa kubuniwa.

Kwa mtazamo wa kijamii, suala ni kubwa zaidi. Watu wanapoanza kuziishi mashine kana kwamba ni wahusika wenye majukumu ya kijamii, sehemu ya maisha ya kijamii huanza kujengwa pamoja na wahusika sintetiki. Hili si teknolojia pekee, bali ni aina mpya ya uhusiano wa kijamii.

Mambo ya Kuzingatia

Jambo la kwanza la kuzingatia ni tabia ya dhana ya utafiti. Matini haitoi uchambuzi mpana wa data ya kijaribio. Kwa hiyo dhana zinazopendekezwa zinapaswa kutazamwa si kama matokeo ya mwisho yaliyopimwa, bali kama fremu ya mwanzilishi kwa eneo jipya la utafiti.

Jambo la pili la kuzingatia ni matokeo changamano ya kuwapa mawakala wa AI jukumu la kijamii. Watumiaji kuishi mifumo kama wahusika wa kijamii ni tukio halisi la kijamii; lakini hilo halimaanishi kwamba mifumo ina fahamu, nia au hadhi ya kimaadili kama binadamu. Uzoefu wa kijamii na ukweli wa kiufundi havipaswi kuchanganywa.

Jambo la tatu la kuzingatia ni suala la uaminifu. Ajenti wa AI anapozungumza kwa ulinganifu wa kijamii, uaminifu wa mtumiaji unaweza kuongezeka; lakini uaminifu huu wakati mwingine unaweza kuleta hatari ya utegemezi kupita kiasi au kukuza mamlaka ya mfumo kuliko inavyostahili. Mipaka inapaswa kuwa wazi hasa katika afya, fedha, elimu na msaada wa kisaikolojia.

Jambo la nne la kuzingatia ni hatari ya urekebishaji kugeuka kuwa udanganyifu. Ikiwa mfumo haukubali kosa lake bali unatumia lugha inayomtuliza mtumiaji huku ikilificha tatizo, huo si ulinganifu wa kijamii bali ni mmomonyoko wa uaminifu. Urekebishaji wa kweli unahitaji kutambua kosa, kueleza mpaka wa uwajibikaji na kujenga upya matarajio.

Mwishowe, maudhui haya si ushauri wa bidhaa za kiufundi au mwongozo wa kufuata sheria/maadili. Mifumo ya AI inayochukua majukumu inapobuniwa, tathmini ya taaluma mbalimbali, usalama wa mtumiaji, ulinzi wa data, uwazi na usimamizi wa binadamu vinapaswa kushughulikiwa pamoja.

Hitimisho

Utafiti huu unapendekeza mabadiliko muhimu ya mwelekeo katika kuelewa mawakala wa akili bandia. Mawakala wa AI sasa si zana zinazopokea amri na kutoa matokeo pekee. Katika maeneo mengi wanachukua majukumu ya kijamii kama kocha, mshauri, mwalimu, mwongozaji au mwenzi. Majukumu haya huleta matarajio ya kijamii.

Ujumbe mkuu wa utafiti uko wazi: mafanikio ya ajenti wa AI hayahusiani tu na kile anachosema, bali pia na jinsi anavyobeba hali ya kijamii alilomo. Taarifa sahihi ikitolewa kwa toni mbaya inaweza kumpoteza mtumiaji. Ushauri wenye manufaa ukitolewa kwa mamlaka isiyofaa unaweza kuonekana kandamizi. Kosa lisiporekebishwa vizuri linaweza kuharibu uaminifu kwa muda mrefu.

Kwa Verianla, thamani ya utafiti huu ni kuhamisha mjadala wa akili bandia nje ya usahihi wa kiufundi pekee. Mifumo ya AI ya siku zijazo haitatathminiwa tu kwa kutoa majibu sahihi zaidi; itatathminiwa pia kwa kubuniwa kama wahusika wanaoeleweka zaidi, wanaojua mipaka yao, wanaodhibiti toni na wanaoweza kurekebisha ndani ya nyanja za kijamii sintetiki wanazoingia na binadamu.

Noti ya Chanzo na Mbinu

Maudhui haya yametayarishwa kwa msingi wa kazi ya dhana “Interactional AI: Agent Encounters in Synthetic Social Space” iliyoandaliwa na Sudhir Venkatesh. Utafiti unapendekeza fremu ya kinadharia kuhusu mawakala wa AI, nyanja za kijamii sintetiki, ulinganifu wa kijamii, kushindwa kwa mwingiliano na maana ya kisosholojia ya mashine zinazochukua majukumu.

Maudhui haya si tafsiri ya neno kwa neno; wazo kuu la utafiti limebadilishwa kuwa makala asilia ya Kituruki ya kiuhariri, iliyorahisishwa kwa mujibu wa mstari wa uchapishaji wa Verianla.