Amazon hivi karibuni ilianza kutoa utoaji wa siku hiyo hiyo katika maeneo ya mji mkuu uliochaguliwa. Hii inaweza kuwa nzuri kwa wateja wengi, lakini uchapishaji unaonyesha jinsi uamuzi wa kompyuta unaweza pia kutoa kipimo kikubwa cha ubaguzi.

Kwa busara, kampuni hiyo ilianza huduma yake katika maeneo ambayo gharama za uwasilishaji zitakuwa za chini zaidi, kwa kugundua misimbo ya ZIP ya maeneo yenye idadi kubwa ya watu nyumbani kwa wateja wengi wa Amazon waliopo na viwango vya mapato vilivyo juu vya kutosha kufanya ununuzi wa mara kwa mara wa bidhaa kupatikana kwa uwasilishaji wa siku moja. Kampuni hiyo ilitoa ukurasa wa wavuti unaowaruhusu wateja kuingiza nambari zao za eneo ili kuona ikiwa uwasilishaji wa siku hiyo hiyo uliwahudumia. Waandishi wa habari za uchunguzi kwenye Bloomberg News walitumia ukurasa huo kwa tengeneza ramani za eneo la huduma la Amazon kwa uwasilishaji wa siku moja.

Uchambuzi wa Bloomberg ulifunua kwamba maeneo mengi masikini ya miji yalitengwa kutoka eneo la huduma, wakati maeneo ya tajiri zaidi yalijumuishwa. Wengi wa maeneo haya yaliyotengwa yalikuwa na wakazi wachache. Kwa mfano, Boston yote ilifunikwa isipokuwa Roxbury; Kufunikwa kwa Jiji la New York kulijumuisha karibu wilaya zote nne lakini iliondoa kabisa Bronx; Kufunikwa kwa Chicago kuliacha Upande wa Kusini uliofukara, huku ikienea kwa vitongoji vya kaskazini na magharibi.

Ingawa inajaribu kuamini maamuzi yanayotokana na data hayana upendeleo, utafiti na majadiliano ya kisomi wameanza kuonyesha hilo ukosefu wa haki na ubaguzi unabaki. Katika yangu kozi mkondoni juu ya maadili ya data, wanafunzi hujifunza hilo algorithms inaweza kubagua. Lakini kunaweza kuwa na kitambaa kidogo cha fedha: Kama utafiti wa Bloomberg unavyopendekeza, maamuzi ya msingi juu ya data pia yanaweza kufanya iwe rahisi kugundua wakati upendeleo unatokea.

Upendeleo unaweza kuwa bila kukusudia

Ukosefu kama huo katika sera ya utoaji wa Amazon inaweza kutokea kwa sababu nyingi, pamoja na upendeleo uliofichwa - kama vile dhana kwamba idadi ya watu inasambazwa sawasawa. Waumbaji wa algorithm labda hawataki kubagua, na labda hawatambui shida imeingia.

Amazon iliiambia Bloomberg kuwa haina nia ya ubaguzi, na kuna kila sababu ya kuamini madai hayo. Kwa kujibu ripoti ya Bloomberg, mji Viongozi na wanasiasa wengine iliita Amazon kurekebisha shida hii. Kampuni ilihamia haraka kuongeza nambari za miji duni za mijini zilizotengwa hapo awali kwa eneo lake la huduma.

Swali kama hilo limekuwa aliuliza Uber, ambayo inaonekana kutoa huduma bora kwa maeneo yanayokaliwa na idadi kubwa ya watu weupe. Kuna uwezekano kutakuwa na mifano zaidi ya rejareja na tasnia ya huduma ya ubaguzi wa algorithm wa bahati mbaya uliogunduliwa katika siku zijazo.

Kuuliza algorithms nyingi?

Tunapaswa kutulia kidogo ili tuangalie ikiwa tunahitaji sana maamuzi ya algorithm. Kampuni zinazoendesha duka za matofali na chokaa hufanya maamuzi ya eneo kila wakati, ikizingatia vigezo sio tofauti na Amazon. Maduka yanajaribu kuwa na maeneo ambayo ni rahisi kwa dimbwi kubwa la wateja wanaowezekana wenye pesa za kutumia.

Kwa hivyo, maduka machache huchagua kupata katika vitongoji duni vya jiji. Hasa katika muktadha wa maduka ya vyakula, jambo hili limechunguzwa sana, na neno "jangwa la chakula”Imekuwa ikitumika kuelezea maeneo ya mijini ambayo wakaazi wake hawana njia rahisi ya kupata chakula kipya. Hii upendeleo wa eneo haijasomwa kwa maduka ya rejareja kwa jumla.

Kama mfano unaoonyesha, niliangalia maeneo 55 ya Michigan ya Target, mlolongo mkubwa wa rejareja. Wakati nilipanga kila msimbo wa eneo wa Michigan kulingana na kama mapato yake ya wastani yalikuwa nusu ya juu au nusu ya chini jimbo lote, niligundua kuwa ni maduka 16 tu ya Target (asilimia 29) ndio walikuwa kwenye nambari za ZIP kutoka kwa kikundi cha mapato ya chini. Zaidi ya mara mbili ya duka, 39, zilipangwa katika nambari za ZIP kutoka kwa nusu tajiri zaidi.

Kutambua ubaguzi

Kwa kuongezea, hakuna maduka ya kulenga katika jiji la Detroit, ingawa kuna kadhaa katika vitongoji vyake (tajiri). Walakini hakukuwa na kilio maarufu kinachodai Lengo Linawabagua watu masikini katika maamuzi ya eneo la duka. Kuna sababu mbili kuu za wasiwasi juu ya Amazon ni haki: ugumu na utawala.

Ugumu unahusiana na michakato ya maamuzi ya muuzaji mkondoni na matokeo. Amazon huamua ni nambari zipi ziko katika eneo lake la huduma. Ikiwa mteja anaishi karibu na barabara kutoka mpaka uliowekwa na Amazon, yuko nje ya eneo la huduma na anaweza kufanya kidogo juu yake. Kwa upande mwingine, mtu anayeishi katika msimbo wa eneo bila duka lengwa bado anaweza duka kwenye Target - ingawa inaweza kuchukua muda mrefu kufika hapo.

Pia inajali jinsi muuzaji yuko kubwa katika akili za watumiaji. Ingawa Lengo ni moja tu ya minyororo mingi ya duka, Amazon inafurahiya kutawala kwa soko kama muuzaji wa wavuti, na kwa hivyo huvutia umakini zaidi. Utawala kama huo ni tabia ya leo mshindi-anachukua-yote biashara za wavuti.

Ingawa ugumu wao na kutawala kwao kunaweza kutusababishia wasiwasi mkubwa juu ya biashara za mkondoni, sisi pia tunaweza kutambua ubaguzi wao kuliko sisi kwa maduka ya matofali na chokaa. Kwa duka la jadi la jadi, tunahitaji kudhani ni umbali gani watumiaji wako tayari kusafiri. Tunaweza pia kuhitaji kutambua wakati: Maili tano kwenda kwa njia kuu inayofuata sio kitu sawa na maili tano kupitia barabara zilizojaa hadi upande mwingine wa mji. Kwa kuongezea, wakati wa kusafiri yenyewe unaweza kutofautiana sana kulingana na wakati wa siku. Baada ya kubaini maeneo ambayo duka linahudumia, huenda zisiwe ramani vizuri katika vitengo vya kijiografia ambavyo tuna takwimu kuhusu mbio au mapato. Kwa kifupi, uchambuzi ni wa fujo na unahitaji juhudi kubwa.

Kwa upande mwingine, ingewachukua waandishi wa habari huko Bloomberg masaa machache tu kutengeneza ramani ya eneo la huduma ya Amazon na kuiunganisha na mapato au mbio. Ikiwa Amazon ingefanya hii kwa ndani, wangeweza kufanya uchambuzi huo kwa dakika chache - na labda waliona shida na kuzitatua hata kabla ya huduma ya siku hiyo hiyo kuanza.

Je! Wanadamu wanalinganaje?

Wacha tuangalie mfano tofauti sana ili kuona jinsi alama zile zile zinavyotumika kwa mapana. Hivi karibuni, ProPublica ilichapishwa uchambuzi bora wa ubaguzi wa rangi na algorithm inayotabiri uwezekano wa jinai kukosea tena. Algorithm inazingatia mambo kadhaa na huhesabu kadirio la uwezekano. Uchambuzi wa ProPublica uligundua upendeleo mkubwa wa rangi, ingawa mbio haikuwa kati ya mambo maalum yaliyozingatiwa.

Bila algorithm, jaji wa kibinadamu angefanya makadirio kama hayo, kama sehemu ya uamuzi au uamuzi wa parole. Uamuzi wa kibinadamu unaweza kuzingatia mambo mengi, kama vile mwenendo wa mahakama ya jinai. Lakini tunajua, kutoka masomo katika saikolojiaKwamba, uamuzi wa mwanadamu umejaa upendeleo, hata tunapojaribu kadiri tuwezavyo kuwa waadilifu.

Lakini makosa yoyote yanayotokana na upendeleo katika maamuzi ya majaji wa kibinadamu yanaweza kuwa tofauti kati ya majaji, na hata kwa maamuzi tofauti yaliyofanywa na jaji huyo huyo. Katika jumla, kunaweza kuwa na ubaguzi wa rangi kutokana na upendeleo mdogo, lakini kuanzisha hii dhahiri ni ngumu. Utafiti wa Idara ya Sheria ya Merika ulipata ushahidi thabiti wa tofauti katika kuhukumu wafungwa wazungu na weusi, lakini haikuweza kubainisha wazi ikiwa mbio yenyewe ilikuwa sababu ya maamuzi hayo.

Kwa upande mwingine, algorithm sawa sawa ProPublica iliyoangaliwa hutumiwa katika maelfu ya kesi katika majimbo mengi. Ugumu wake, na ujazo mkubwa, hupunguza kazi ya kuamua ikiwa inabagua - na inaweza kutoa njia za kurekebisha shida kwa ufanisi.

Matumizi ya teknolojia ya habari inaonekana kufanya mistari iwe nyepesi, tofauti ziwe ngumu na data juu ya hii yote inapatikana kwa urahisi zaidi. Ni nini kinachoweza kupigwa chini ya zulia jana kelele za kuangaliwa. Tunapopata matumizi zaidi na zaidi ya algorithms zinazoendeshwa na data, bado sio kawaida kuchambua usawa wao, haswa kabla ya kutolewa kwa huduma mpya inayotegemea data. Kuifanya hivyo itasaidia sana kupima, na kuboresha, usawa wa hesabu hizi muhimu za kompyuta.

Kuhusu Mwandishi

HV Jagadish, Bernard A Galler Profesa wa Chuo Kikuu cha Uhandisi wa Umeme na Sayansi ya Kompyuta, Chuo Kikuu cha Michigan

Makala hii ilichapishwa awali Mazungumzo. Soma awali ya makala.

Vitabu kuhusiana

at InnerSelf Market na Amazon