Kazi hii ya kinadharia inahoji kwamba utawala wa kialgoriti humgeuza binadamu kuwa kitu kinachosomeka zaidi, kinachotabirika zaidi na kinachodhibitika zaidi kwa kubana uzoefu wake katika makundi finyu. Mwandishi anaita jambo hili mfinyo wa ontolojia. Hii ina maana kwamba uzoefu mpana, unaoendelea na wenye kutegemea muktadha wa binadamu hugawanywa katika alama, pointi na madaraja machache ambayo mashine zinaweza kuyashughulikia.

Tatizo kuu

Mifumo ya kidijitali mara nyingi hutegemea ishara zinazoweza kupimwa ili kuelewa tabia ya binadamu: mwendo wa uso, mapigo ya moyo, historia ya mibofyo, kipimo cha uzalishaji au muundo wa tabia. Lakini swali kuu la mwandishi ni hili: je, kinachosomwa ndicho uzoefu mzima wa binadamu? Ikiwa mfumo unaamua ni kitu gani ni “ishara muhimu” na nini ni “kelele” ya kuondolewa, basi haumwakilishi binadamu kwa njia isiyoegemea upande wowote; unamlazimisha kutoshea ndani ya mfumo wake.

Mbinu

Kazi hii si jaribio. Inatumia falsafa, tafiti za ukosoaji wa data, mantiki ya upimaji na nadharia ya affekti kuchambua kwa namna ya kinadharia mipaka ya uainishaji wa kialgoriti. Mwandishi hasa anatoa mifano ya mifumo ya kutambua hisia: kutoa hisia kutoka usoni, kukadiria hali ya ndani kutoka ishara za mwili au kusoma nia kutoka tabia kunaweza kurahisisha kupita kiasi uzoefu wa binadamu.

Matokeo

Hitimisho kuu ni kwamba data nyingi zaidi au modeli tata zaidi si lazima zisiwe na maana ya kumwelewa binadamu vizuri zaidi. Ikiwa uwakilishi wa awali wenyewe ni finyu, basi hata ukiwa na maelezo mengi zaidi, asili hai, isiyo na uhakika na inayobadilika ya uzoefu inaweza kupotea. Kwa mujibu wa mwandishi, hisia na hali ya binadamu haziingii kila mara katika makundi magumu na ya kudumu.

Kwa sababu hiyo, “haki ya kutoka” inayopendekezwa haimaanishi kukimbia mifumo yote kabisa. Ni msimamo wa kimaadili unaosema kwamba si kila sehemu ya uzoefu wa binadamu inayopaswa kupimwa, kupangiwa alama na kuwekewa uboreshaji kwa lazima. Kutokuwa na uhakika, uelezaji usio wa moja kwa moja, muktadha na mabaki yasiyopimwa pia yanapaswa kulindwa.

Kwa nini hili ni muhimu?

Suala hili linahusu maeneo mengi, kuanzia ajira na elimu hadi afya, usalama, matangazo na utawala wa majukwaa. Ikiwa thamani ya binadamu itaamuliwa tu na ishara ambazo mfumo unaweza kusoma, basi sehemu zake zisizopimika zitakuwa zisizo na maana. Hilo huongeza hatari ya kumgeuza binadamu kuwa kitu rahisi kuhesabu.

Kwa Verianla, ujumbe mkuu ni huu: katika zama za akili bandia, maadili hayaishii kwenye swali la “je, modeli ni sahihi?” Kuna swali la ndani zaidi — je, mfumo unapojaribu kutuelewa, kwa wakati huohuo unatulazimisha kuishi katika umbo finyu zaidi?