Utaratibu wa utambuzi wa uso kawaida hujaribiwa kwa kutumia nyuso nyeupe, ambayo husababisha teknolojia kutofautisha kati ya watu waliotengwa. (Shutterstock)
Polisi wa Detroit walimkamata Robert Julian-Borchak Williams kimakosa mnamo Januari 2020 kwa tukio la wizi wa duka ambalo lilifanyika miaka miwili mapema. Hata ingawa Williams hakuwa na uhusiano wowote na tukio hilo, teknolojia ya utambuzi wa uso iliyotumiwa na Polisi wa Jimbo la Michigan "ililinganisha" uso wake na picha ya mchanga iliyopatikana kutoka kwa video ya ufuatiliaji wa duka inayoonyesha mtu mwingine wa Kiafrika Mmarekani akichukua saa za Dola za Marekani 3,800.
Wiki mbili baadaye, kesi hiyo ilifutwa kwa ombi la upande wa mashtaka. Walakini, kwa kutegemea mechi hiyo mbovu, polisi tayari walikuwa wamemfunga pingu na kumkamata Williams mbele ya familia yake, wakamlazimisha kutoa risasi ya mug, alama za vidole na sampuli ya DNA yake, wakamhoji na kumfunga gerezani usiku kucha.
Wataalam wanapendekeza kwamba Williams hayuko peke yake, na kwamba wengine wametendewa haki kama hiyo. Mabishano yanayoendelea juu ya utumiaji wa polisi wa Clearview AI hakika inasisitiza hatari za faragha zinazotokana na teknolojia ya utambuzi wa uso. Lakini ni muhimu kutambua hilo sio sisi sote tunabeba hatari hizo sawa.
Kufundisha algorithms ya kibaguzi
Teknolojia ya utambuzi wa uso ambayo ni mafunzo na kurekebishwa kwa nyuso za Caucasian kimakosa kutambulisha na kupotosha watu wenye ubaguziyenye makosa na upendeleo, na viwango vya makosa ya juu zaidi wakati unatumiwa dhidi ya watu wa rangi".
hii hudhoofisha ubinafsi na ubinadamu wa watu waliotawaliwa ambao wana uwezekano mkubwa wa kutambuliwa vibaya kama jinai. Teknolojia - na makosa ya kitambulisho ambayo hufanya - huonyesha na huimarisha zaidi mgawanyiko wa kijamii wa muda mrefu ambao umeshikwa sana na ubaguzi wa kijinsia, ujinsia, ujamaa, ukoloni wa walowezi na ukandamizaji mwingine unaoingiliana.
{vembed Y = vSuDE6wvQlU}
Uchunguzi wa France24 juu ya upendeleo wa rangi katika teknolojia ya utambuzi wa uso.
Jinsi teknolojia inavyowagawanya watumiaji
Katika kitabu chake cha kubadilisha mchezo cha 1993, Aina ya Panoptic, msomi Oscar Gandy alionya kuwa “teknolojia tata [ambayo] inahusisha ukusanyaji, usindikaji na upashanaji habari juu ya watu binafsi na vikundi ambayo hutengenezwa kupitia maisha yao ya kila siku… hutumika kuratibu na kudhibiti ufikiaji wao wa bidhaa na huduma zinazoelezea maisha katika uchumi wa kisasa wa kibepari. ” Utekelezaji wa sheria hutumia kung'oa washukiwa kutoka kwa umma, na mashirika ya kibinafsi hutumia kuamua ikiwa tunaweza kupata vitu kama benki na ajira.
Gandy kwa unabii alionya kuwa, ikiachwa bila kudhibitiwa, aina hii ya "upendeleo wa cybernetic" ingeweza kuwadhoofisha sana washiriki wa jamii zinazotafuta usawa - kwa mfano, vikundi ambavyo vimewekwa ubaguzi wa rangi au kijamii na kiuchumi - wote kwa kile ambacho wangepewa na jinsi wanavyoweza kujielewa.
Miaka 25 baadaye, sasa tunaishi na aina ya panoptic kwenye steroids. Na mifano ya athari zake mbaya kwa jamii zinazotafuta usawa ziko nyingi, kama utambulisho wa uwongo wa Williams.
Upendeleo uliokuwepo awali
Upangaji huu kwa kutumia algorithms huingilia mambo ya kimsingi zaidi ya maisha ya kila siku, ikisababisha vurugu za moja kwa moja na za muundo.
Vurugu za moja kwa moja alizozipata Williams zinaonekana mara moja katika hafla zinazohusu kukamatwa kwake na kuwekwa kizuizini, na madhara aliyoyapata ni dhahiri na yanaweza kufuatwa kwa vitendo vya polisi ambao walichagua kutegemea "mechi" ya teknolojia ili kufanya kukamatwa. Ujanja zaidi ni vurugu za kimuundo unaofanywa kupitia teknolojia ya utambuzi wa uso na teknolojia zingine za dijiti kiwango hicho, kulinganisha, kuainisha na kupanga watu kwa njia ambazo zinakuza mifumo ya ubaguzi iliyokuwepo awali.
Vurugu za kimuundo hazieleweki sana na sio za moja kwa moja, na husababisha kuumia kwa vikundi vinavyotafuta usawa kupitia kunyimwa nguvu, rasilimali na fursa. Wakati huo huo, inaongeza hatari na madhara ya moja kwa moja kwa wanachama binafsi wa vikundi hivyo.
Matumizi ya polisi wa kutabiri usindikaji wa data ya kihistoria kutabiri ni lini na wapi uhalifu mpya unaweza kutokea, inapeana rasilimali za polisi ipasavyo na inapachika ufuatiliaji wa polisi ulioimarishwa katika jamii, kawaida katika vitongoji vya kipato cha chini na vyenye rangi. Hii inaongeza nafasi kwamba shughuli yoyote ya jinai - pamoja na shughuli mbaya ya jinai ambayo inaweza kusababisha majibu ya polisi - itagunduliwa na kuadhibiwa, mwishowe ikapunguza nafasi za maisha za watu wanaoishi katika mazingira hayo.
Na ushahidi wa kukosekana kwa usawa katika sekta zingine unaendelea kuongezeka. Mamia ya wanafunzi nchini Uingereza walipinga Agosti 16 dhidi ya matokeo mabaya ya Kwa usawa, algorithm yenye kasoro serikali ya Uingereza ilitumia kuamua ni wanafunzi gani watastahiki chuo kikuu. Katika 2019, huduma ya matangazo ya microtargeting ya Facebook ilisaidia waajiri kadhaa wa sekta ya umma na binafsi kuwatenga watu kutoka kupokea matangazo ya kazi kwa msingi wa umri na jinsia. Utafiti uliofanywa na ProPublica umeandika ubaguzi wa bei ya mbio kwa bidhaa za mkondoni. Na injini za utaftaji hutoa matokeo ya kibaguzi na ya kijinsia.
Kuendeleza ukandamizaji
Matokeo haya ni muhimu kwa sababu yanaendeleza na kukuza usawa wa hapo awali kulingana na sifa kama rangi, jinsia na umri. Pia ni muhimu kwa sababu zinaathiri sana jinsi tunavyojijua wenyewe na ulimwengu unaotuzunguka, wakati mwingine na kabla ya kuchagua habari tunapokea kwa njia ambazo zinaimarisha maoni ya kimtazamo. Hata kampuni za teknolojia wenyewe zinakubali udharura wa kuzuia algorithms kutoka kuendeleza ubaguzi.
Hadi sasa mafanikio ya uchunguzi wa muda, uliofanywa na kampuni za teknolojia wenyewe, haukuwa sawa. Mara kwa mara, mashirika yanayohusika katika kutengeneza mifumo ya kibaguzi huwaondoa kwenye soko, kama vile wakati Clearview AI ilitangaza kuwa haitatoa tena teknolojia ya utambuzi wa uso nchini Canada. Lakini mara nyingi maamuzi kama haya hutokana na uchunguzi wa kikaida au kilio cha umma tu baada ya wanachama wa jamii zinazotafuta usawa tayari wameumizwa.
Ni wakati wa kuzipa taasisi zetu za udhibiti zana wanazohitaji kushughulikia shida. Ulinzi rahisi wa faragha unaotegemea kupata idhini ya mtu binafsi ili kuwezesha data kunaswa na kutolewa tena na kampuni haiwezi kutengwa na matokeo ya kibaguzi ya matumizi hayo. Hii ni kweli haswa katika enzi ambayo wengi wetu (pamoja na kampuni za teknolojia zenyewe) hawawezi kuelewa ni nini algorithms hufanya au kwanini hutoa matokeo maalum.
Faragha ni haki ya binadamu
Sehemu ya suluhisho inajumuisha kuvunja silika za sasa za udhibiti ambazo huchukulia faragha na haki za binadamu kama maswala tofauti. Kutegemea mtindo wa ulinzi wa data unaotegemea idhini huruka mbele ya kanuni ya msingi kwamba faragha na usawa ni haki za binadamu ambazo haziwezi kuambukizwa.
Hata Mkataba wa Dijiti wa Canada - jaribio la hivi karibuni la serikali ya shirikisho kujibu mapungufu ya hali ya sasa ya mazingira ya dijiti - inadumisha tofauti hizi za dhana. Huchukua chuki na msimamo mkali, udhibiti na idhini, na demokrasia kali kama vikundi tofauti.
Ili kushughulikia ubaguzi wa hesabu, lazima tugundue faragha na usawa kama haki za binadamu. Na lazima tuunde miundombinu ambayo ni ya uangalifu sawa na mtaalam katika zote mbili. Bila juhudi kama hizo, mwangaza wa hesabu na sayansi utaendelea kuficha upendeleo wa kibaguzi wa AI, na udhalilishaji kama ule uliyopewa Williams unaweza kutarajiwa kuongezeka.
kuhusu Waandishi
Jane Bailey, Profesa wa Sheria na Kiongozi Mwenza wa Mradi wa eQuality, L'Université d'Ottawa / Chuo Kikuu cha Ottawa; Jacquelyn Burkell, Makamu wa Rais Mshirika, Utafiti, Chuo Kikuu cha Magharibi, na Valerie Steeves, Profesa Kamili, L'Université d'Ottawa / Chuo Kikuu cha Ottawa
Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.
Vitabu kuhusu Kutokuwa na Usawa kutoka kwenye orodha ya Wauzaji Bora wa Amazon
"Caste: Chimbuko la Kutoridhika Kwetu"
na Isabel Wilkerson
Katika kitabu hiki, Isabel Wilkerson anachunguza historia ya mifumo ya tabaka katika jamii duniani kote, ikiwa ni pamoja na Marekani. Kitabu hiki kinachunguza athari za tabaka kwa watu binafsi na jamii, na kinatoa mfumo wa kuelewa na kushughulikia ukosefu wa usawa.
Bofya kwa maelezo zaidi au kuagiza
"Rangi ya Sheria: Historia Iliyosahaulika ya Jinsi Serikali Yetu Ilivyotenganisha Amerika"
na Richard Rothstein
Katika kitabu hiki, Richard Rothstein anachunguza historia ya sera za serikali zilizounda na kuimarisha ubaguzi wa rangi nchini Marekani. Kitabu hiki kinachunguza athari za sera hizi kwa watu binafsi na jamii, na kinatoa mwito wa kuchukua hatua kushughulikia ukosefu wa usawa unaoendelea.
Bofya kwa maelezo zaidi au kuagiza
"Jumla Yetu: Nini Ubaguzi Hugharimu Kila Mtu na Jinsi Tunaweza Kufanikiwa Pamoja"
na Heather McGhee
Katika kitabu hiki, Heather McGhee anachunguza gharama za kiuchumi na kijamii za ubaguzi wa rangi, na hutoa maono kwa ajili ya jamii yenye usawa na ustawi zaidi. Kitabu hiki kinajumuisha hadithi za watu binafsi na jamii ambazo zimepinga ukosefu wa usawa, pamoja na masuluhisho ya vitendo ya kuunda jamii iliyojumuisha zaidi.
Bofya kwa maelezo zaidi au kuagiza
"Hadithi ya Nakisi: Nadharia ya Kisasa ya Fedha na Kuzaliwa kwa Uchumi wa Watu"
na Stephanie Kelton
Katika kitabu hiki, Stephanie Kelton anapinga mawazo ya kawaida kuhusu matumizi ya serikali na nakisi ya kitaifa, na inatoa mfumo mpya wa kuelewa sera ya kiuchumi. Kitabu hiki kinajumuisha masuluhisho ya vitendo ya kushughulikia ukosefu wa usawa na kuunda uchumi ulio sawa zaidi.
Bofya kwa maelezo zaidi au kuagiza
"Kunguru Mpya wa Jim: Kufungwa kwa Misa katika Enzi ya Upofu wa Rangi"
na Michelle Alexander
Katika kitabu hiki, Michelle Alexander anachunguza njia ambazo mfumo wa haki ya jinai unaendeleza ukosefu wa usawa wa rangi na ubaguzi, hasa dhidi ya Wamarekani Weusi. Kitabu hiki kinajumuisha uchambuzi wa kihistoria wa mfumo na athari zake, pamoja na wito wa kuchukua hatua kwa ajili ya mageuzi.
