Tufikirie msaidizi wa akili bandia. Mtumiaji anamfundisha baadhi ya mapendeleo binafsi, taarifa za afya au madokezo ya faragha. Baadaye mtu mwingine akiuliza taarifa hizo, msaidizi huyo anapaswa kufanya nini?

Jibu la kwanza linaweza kuonekana rahisi: kama kuna ruhusa ya mtumiaji, ashikishe; kama hakuna ruhusa, asishirikishe.

Lakini katika maisha halisi ruhusa na makatazo si thabiti kiasi hicho. Watu huweka kanuni mpya baada ya muda, huongeza tofauti kwenye kanuni za zamani au huondoa ruhusa waliyokuwa wametoa awali.

Mfano uliotolewa katika makala unaeleza jambo hili vizuri:

Mtu anaweza kusema kwanza, “Usishirikishe rekodi zangu za matibabu.” Baadaye anapooa au kuolewa anaweza kusema, “Unaweza kumwambia mwenzi wangu dawa ninazotumia.” Kisha wanapopata watoto anaweza kusema, “Unapaswa kushirikisha watoto wangu hali zangu za afya.”

Katika hali hii wakala wa AI hapaswi kuelewa sentensi ya mwisho tu, bali pia uhusiano kati ya kanuni zote. Ni taarifa gani inaweza kushirikishwa na mtu gani, katika sharti gani? Ni kanuni ipi ya zamani bado ni halali? Ni kauli gani mpya inaunda tofauti?

Utafiti huu unalenga hasa swali hili:

Mawakala wa AI wanawezaje kutumia kwa usalama, wakati wa kupanga, norma za watu zilizo dinamiki, yaani zinazobadilika kadiri muda unavyopita?

Norma Inamaanisha Nini?

Katika utafiti huu norma inamaanisha ruhusa, wajibu au katazo linalotolewa kuhusu tabia fulani.

Kwa mfano:

• “Unaweza kushirikisha hili.”
• “Hupaswi kushirikisha hili.”
• “Lazima useme jambo hili.”
• “Katika hali hii, kutoa taarifa kunaruhusiwa.”

Watafiti wanazigawa norma katika makundi makuu matatu:

Ya lazima: Tabia inayopaswa kufanywa.
Ya hiari / iliyoruhusiwa: Tabia inayoruhusiwa kufanywa.
Iliyokatazwa: Tabia ambayo haipaswi kufanywa.

Jambo muhimu kwa mtazamo wa akili bandia ni hili: norma si sentensi za maadili zilizo dhahania tu. Ni masharti ya usalama yanayoamua kama mpango unaweza kutekelezwa au la.

Kwa mfano, wakala wa AI anaweza kuunda mpango wa jibu kama “Mwambie Jan mada anazopenda Karli.” Lakini kabla ya mpango huo kufanya kazi, swali hili lazima liulizwe:

Je, Karli anaruhusu taarifa hii ishirkishwe na Jan?

Kama jibu ni ndiyo, jibu hutolewa. Kama ruhusa haiwezi kuthibitishwa, mfumo hukataa kushirikisha.

Ushahidi wa Kinorma: Binadamu Hufundisha Kanuni kwa Lugha ya Kawaida

Makala inatumia dhana ya “normative testimony”. Kwa Kiswahili inaweza kuelezwa kama “ushahidi wa kinorma” au kwa namna rahisi zaidi “tamko la kanuni la mtu”.

Hii ina maana kwamba mtumiaji humfundisha AI kanuni kwa lugha ya kawaida.

Kwa mfano:

“Unaweza kushirikisha mambo ninayopenda kuhusu AI.”

Sentensi hii si maandishi ya kawaida tu kwa mfumo. AI hui­geuza kuwa fremu ya norma.

Fremu ya norma katika makala kimsingi ina sehemu hizi:

• Norma yenyewe
• Muktadha ambamo ni halali
• Tabia ambayo inatumika kwake
• Kama tabia hiyo ni ya lazima, imeruhusiwa au imekatazwa

Kupitia muundo huu, sentensi ya ruhusa katika lugha ya kawaida hugeuka kuwa sharti la kimantiki ambalo AI inaweza kulikagua wakati wa kupanga.

Fomula Inatuambia Nini?

Katika makala, norma huwakilishwa kwa muundo uitwao “norm frame”. Kwa namna iliyerahisishwa, norma moja husema hivi:

Kama muktadha ni sahihi, tathmini fulani inatumika kwa tabia fulani.

Kwa mfano:

Muktadha: Mpokeaji wa taarifa kuwa mwenzi wa Karli
Tabia: Kushirikisha taarifa ya dawa ya Karli
Tathmini: Imeruhusiwa

Hili linaweza kutafsiriwa katika lugha ya kila siku hivi:

“Ikiwa mtu anayepokea taarifa ni mwenzi wa Karli, kushirikisha taarifa za dawa za Karli kunaruhusiwa.”

Uwakilishi wa aina hii ni muhimu kwa sababu AI haiangalii maneno pekee. Hutenganisha kanuni hiyo inatumika kwa mtu gani, taarifa gani na muktadha gani.

Kanuni Zinazogongana Hutatuliwaje?

Sehemu ngumu zaidi huanza wakati kanuni zinapogongana.

Tuseme mtumiaji alisema kwanza hivi:

“Unaweza kushirikisha taarifa zangu za matibabu.”

Kisha akaongeza hivi:

“Lakini usimwambie mwenzi wangu dawa zangu.”

Hapa kanuni ya pili ni katazo maalum zaidi lililo ndani ya kanuni ya kwanza. Yaani ruhusa ya jumla bado inaweza kuwa halali, lakini tofauti inatokea kuhusu kumwambia mwenzi taarifa za dawa.

Makala inazungumzia aina tatu za migongano ya norma:

Mgongano wa moja kwa moja:
Kama kuna ruhusa na katazo kwa tabia ile ile.

Mgongano usio wa moja kwa moja:
Kama kanuni moja ni ya jumla zaidi na nyingine inashughulikia tabia maalum zaidi.

Mgongano unaopishana:
Kanuni mbili si sawa kabisa, lakini zinaingiliana katika baadhi ya hali.

Tofauti hii ni muhimu. Kwa sababu katika maisha halisi kanuni mara nyingi haziji kwa kusema wazi “nafuta kanuni yangu ya awali”. Kwa kawaida watu huongeza tofauti mpya. AI inapaswa kuelewa hili.

Mpangilio Chaguo-msingi: Kushirikisha au Kutokushirikisha?

Utafiti unaeleza mbinu mbili tofauti za chaguo-msingi.

Kufunga kwa kukataza:
Kama haiwezi kuthibitishwa kuwa tabia inaruhusiwa, hukubaliwa kuwa imekatazwa.

Kufunga kwa kuruhusu:
Kama haiwezi kuthibitishwa kuwa tabia imekatazwa, hukubaliwa kuwa imeruhusiwa.

Katika maeneo nyeti kama faragha, watafiti wanaona kufunga kwa kukataza kuwa kunafaa zaidi. Kwa sababu taarifa binafsi inapohusika, mtazamo wa “kama hakuna ruhusa, usishirikishe” ni salama zaidi.

Mbinu hii pia inatumika katika jaribio la SocialBot. Yaani, ili kushirikisha taarifa ya mtumiaji, ruhusa iliyo wazi au inayoweza kutolewa kwa hoja inahitajika. Kama ruhusa haiwezi kuthibitishwa, boti hujibu kwa maana ya “Siwezi kusema.”

Hii ni kanuni muhimu sana kwa usalama wa kisasa wa AI:

Katika taarifa binafsi, tabia chaguo-msingi haipaswi kuwa kushirikisha, bali kulinda.

Norma Zinakuwaje Reli za Usalama kwa Mipango?

Moja ya dhana muhimu katika makala ni “norm-guided plan”, yaani mpango unaoongozwa na norma.

Wakala wa AI hupanga kabla ya kutekeleza kitendo. Kwa mfano, mtumiaji akiuliza “Karli anapenda nini?”, mpango wa boti unaweza kuwa hivi:

1. Elewa swali.
2. Tafuta mapendeleo ya Karli katika hifadhidata.
3. Kagua kama taarifa hii inaweza kushirikishwa.
4. Kama kuna ruhusa, jibu.
5. Kama hakuna ruhusa, kataa.

Hapa hatua ya tatu ndiyo reli ya usalama.

Mpango unaoongozwa na norma unamaanisha hivi:

Wakala wa AI hukagua imani ya kinorma ya mtu husika kabla ya kutekeleza kitendo.

Kama mfumo unaweza kuhitimisha kuwa “Karli anaruhusu taarifa hii ishirkishwe na Jan”, taarifa hushirikishwa. Kama hauwezi kuhitimisha hivyo, taarifa haishirikishwi.

Mbinu hii hutoa norma kutoka kuwa kauli zinazotafsiriwa tu ndani ya mazungumzo na kuzigeuza kuwa udhibiti wa kimakanika unaosimamisha au kuruhusu tabia ya AI.

SocialBot Inafanya Nini?

Watafiti wanajaribu mbinu hii kwenye wakala wa mazungumzo wa AI aitwaye SocialBot. SocialBot ni mfumo uliojengwa juu ya Companion Cognitive Architecture na unaweza kuingiliana kwa lugha ya kawaida.

SocialBot inaweza kuchakata aina tatu za taarifa:

Kwanza, mapendeleo ya watumiaji. Kwa mfano kauli kama “Ninapenda AI.”

Pili, norma za faragha za watumiaji. Kwa mfano kauli kama “Unaweza kushirikisha mambo ninayopenda kuhusu AI” au “Usishirikishe mapendeleo yangu ya vinywaji na Socrates.”

Tatu, maombi ya taarifa yanayoulizwa na watumiaji wengine. Kwa mfano maswali kama “Plato anapenda nini?”

Mfumo, hata kama unajua taarifa ya mapendeleo ya mtumiaji, hauishirikishi moja kwa moja. Kwanza hukagua norma husika ya faragha. Kama kushirikisha kunaruhusiwa, hutoa taarifa. Kama sivyo, hukataa.

Kielelezo cha 1 Kinaeleza Nini?

Kielelezo cha 1 katika makala kinaonyesha mfano mfupi wa mazungumzo ambamo SocialBot hujifunza na kutumia norma za faragha.

Katika hali ya kwanza, Jan anamwuliza SocialBot “Karli anapenda nini?” SocialBot, kwa sababu haipati ruhusa ya kutosha kushirikisha taarifa ya Karli, hujibu kwa maana ya “Samahani, siwezi kusema.”

Baadaye Karli humwambia SocialBot “Unapaswa kushirikisha mambo ninayopenda kuhusu AI”, akitoa ruhusa/wajibu.

Baada ya hapo Jan anapouliza tena “Karli anapenda nini?”, SocialBot sasa inaweza kusema kwamba Karli anapenda AI.

Ujumbe mkuu wa kielelezo hiki ni huu:

Hata kama wakala wa AI anajua taarifa, lazima akague kanuni ya sasa ya faragha ya mtumiaji kabla ya kushirikisha.

Jaribio Lilifanywaje?

Watafiti wanasema kukusanya mwingiliano halisi wa watumiaji kungechukua muda mrefu. Kwa hiyo wanajaribu mfumo wao kwa mkusanyo wa data sintetiki.

Katika mkusanyo huo kuna mifano 1,536 ya mazungumzo ya lugha ya kawaida. Mifano hii imeandaliwa ili kufunika aina tofauti za migongano ya norma, utambulisho wa mapendeleo, kauli za kinorma na maswali ya taarifa.

Kila mfano una muundo wa karibu hivi:

1. Aina ya mgongano
2. Taarifa ya mtu anayezungumza
3. Sentensi za mapendeleo ya mtumiaji
4. Norma za faragha za mtumiaji
5. Swali la taarifa kutoka kwa mtumiaji mwingine
6. Lebo ya jibu sahihi linalotarajiwa

Kwa mfano, mtu anaweza kusema “Ninapenda juisi ya matunda” na “Ninapenda soda.” Kisha anaweza kusema “Usishirikishe mapendeleo yangu ya vinywaji na Socrates.” Baadaye anaweza kutoa ruhusa maalum kwa kusema “Unaweza kushirikisha mapendeleo yangu ya juisi ya matunda.” Mfumo lazima uhesabu, katika hali ya mwisho, ni taarifa gani inaweza au haiwezi kusemwa kwa nani.

Matokeo Yanaonyesha Nini?

Katika jaribio, SocialBot ilijibu kwa usahihi maswali yote 1,536 ya mapendeleo. Makala inaripoti hili kama mafanikio ya asilimia 100.

Matokeo haya yanaonyesha kuwa mfumo ulitatua kwa usahihi migongano ya norma katika mkusanyo wa data sintetiki na ulifuata kanuni hizo wakati wa kupanga.

Hata hivyo, ugunduzi huu unapaswa kusomwa kwa tahadhari. Jaribio lilifanywa katika eneo mahususi tu la kazi: kushirikisha taarifa ya mapendeleo. Pia mkusanyo wa data ni sintetiki. Mazungumzo ya ulimwengu halisi yanaweza kuwa magumu zaidi; watu wanaweza kutumia sentensi zisizo za moja kwa moja, pungufu au zinazokinzana.

Kwa hiyo matokeo haya hayamaanishi “AI hutatua kila norma ya binadamu.” Tafsiri sahihi zaidi ni hii:

Katika eneo mahususi na linalodhibitiwa la kushirikisha taarifa, mbinu ya uchanganuzi wa kimantiki wa norma imetoa matokeo yenye matumaini.

Utafiti Unasema Nini?

Ujumbe mkuu wa utafiti ni huu:

Mawakala wa AI hawapaswi tu kuhifadhi kanuni zinazobadilika za watu kwenye kumbukumbu; wanapaswa kuzitumia kama reli za usalama zinazozuia tabia zao wakati wa kupanga.

Watafiti wanaonyesha kwamba norma zinaweza kubadilishwa kutoka lugha ya kawaida hadi miundo ya kimantiki, norma zinazogongana zinaweza kutatuliwa kwa kanuni fulani, na matokeo hayo yanaweza kufanywa kuwa masharti ya awali ya mipango ya AI.

Mbinu hii ni muhimu hasa kwa faragha. Kwa sababu wakala wa AI kuwa anajua taarifa fulani haimaanishi ana haki ya kuishirikisha. Kushirikisha kunapaswa kutegemea ruhusa ya sasa ya mtu husika na muktadha.

Kwa Nini Hili ni Muhimu?

Leo wasaidizi wa AI wanafanya kazi na taarifa binafsi zaidi na zaidi. Kalenda, barua pepe, madokezo ya afya, mazoea, mapendeleo, maeneo na mazungumzo ya faragha yanaweza kuingia katika eneo la mifumo ya AI.

Katika hali hii swali kuu la usalama ni hili:

AI inapaswa kusema taarifa lini na inapaswa kunyamaza lini?

Katika mifumo ya usalama ya kawaida, ruhusa mara nyingi huandikwa kama kanuni thabiti. Lakini katika mahusiano ya kibinadamu ruhusa ni za kidinamiki. Mtu anaweza kushirikisha baadhi ya taarifa na mwanafamilia, lakini asishirikishe na mfanyakazi mwenzake. Anaweza kuondoa kesho ruhusa aliyotoa leo. Anaweza kuongeza tofauti maalum ndani ya katazo la jumla.

Utafiti huu unaonyesha kuwa mifumo ya AI inahitaji kufuatilia ubadilikaji huu kwa muundo wa kimantiki ulio wazi zaidi.

Pia unaonyesha kwamba modeli kubwa za lugha pekee zinaweza kutotosha. LLM zinaweza kuzungumza kwa ufasaha; lakini katika migongano nyeti ya norma, msingi wa kimantiki unaoaminika na unaoweza kufuatiliwa unahitajika.

Mambo ya Kuzingatia

Ingawa utafiti huu unatoa wazo muhimu, una mipaka.

Kwanza, kazi hii ni preprint. Matokeo yanahitaji kuungwa mkono na tathmini pana zaidi ya kitaaluma.

Pili, jaribio lilifanywa tu juu ya kushirikisha taarifa na maswali ya mapendeleo. Maeneo magumu zaidi kama afya, fedha, sheria au kushirikisha data binafsi halisi yanahitaji majaribio ya ziada.

Tatu, mkusanyo wa data ni sintetiki. Watumiaji halisi wanaweza kutumia kauli zenye utata zaidi, zisizo kamili au zisizotarajiwa.

Nne, mfumo hupanga kwa kuzingatia norma za mtu mmoja. Jinsi uamuzi utakavyofanywa norma za watu kadhaa zinapogongana haijatatuliwa katika utafiti huu.

Tano, ili mfumo uweze kutatua mgongano wa norma, lazima uwe na maarifa ya kutosha ya nyuma. Kwa mfano, lazima uweze kuelewa uhusiano kati ya dhana kama “mwenzi”, “mtoto”, “rekodi ya matibabu” na “dawa ya kuandikiwa”.

Mwisho, utafiti huu si suluhisho la jumla kwa usalama wa AI; ni pendekezo la usanifu mahususi wa kupanga unaoongozwa na norma.

Hitimisho

Utafiti huu unasisitiza jambo muhimu kwa mawakala wa akili bandia kuingiliana kwa usalama zaidi na binadamu: AI haipaswi tu kufikia taarifa, bali pia inapaswa kuhoji kama ina haki ya kushirikisha taarifa hiyo.

Mbinu inayopendekezwa na watafiti hugeuza kanuni za faragha zinazofundishwa kwa lugha ya kawaida kuwa norma za kimantiki. Kanuni zinazogongana hutatuliwa na imani za sasa za kinorma zinazotokana na hilo hutumiwa kama sharti la usalama la mipango ya AI.

Majaribio ya SocialBot yanaonyesha kwamba mbinu hii inaweza kufanya kazi kwa mafanikio katika mazingira yaliyodhibitiwa na ya sintetiki ya kushirikisha taarifa. Lakini kwa ulimwengu halisi, majaribio mapana zaidi, magumu zaidi na nyeti zaidi yanahitajika.

Hata hivyo, utafiti huu unatoa kanuni yenye nguvu kwa wasaidizi wa AI wa siku zijazo:

Msaidizi mzuri wa AI hapaswi kujua tu anachokijua; anapaswa pia kujua ni lini hapaswi kusema anachokijua.

Dokezo la Chanzo na Mbinu

Maudhui haya yameandaliwa upya katika muundo wa uhariri wa Verianla kwa kutumia kazi ya kitaaluma ya Taylor Olson, Roberto Salas-Damian na Kenneth D. Forbus yenye kichwa “Reasoning and Planning with Dynamically Changing Norms”.

Kazi hii ni preprint iliyochapishwa kwenye arXiv. Maudhui yana lengo la kutoa taarifa na elimu. Hayachukui nafasi ya ushauri wa kitaalamu kuhusu usalama wa AI, usimamizi wa data binafsi, sheria, sera ya faragha au maadili ya kitaaluma.