Watu wanaoomba mkopo kutoka kwa benki au kampuni ya kadi ya mkopo, na wakakataliwa, wanadaiwa maelezo ya kwanini hiyo ilitokea. Ni wazo nzuri - kwa sababu inaweza kusaidia kufundisha watu jinsi ya kutengeneza mkopo ulioharibika - na ni sheria ya shirikisho, Sheria sawa ya Fursa ya Mikopo. Kupata jibu halikuwa shida sana katika miaka iliyopita, wakati wanadamu walifanya maamuzi hayo. Lakini leo, wakati mifumo ya ujasusi bandia inazidi kusaidia au kuchukua nafasi ya watu wanaofanya maamuzi ya mkopo, kupata maelezo hayo imekuwa ngumu zaidi.

Kijadi, afisa mkopo aliyekataa ombi anaweza kumwambia atakayekuwa akopaye kulikuwa na shida na kiwango cha mapato yao, au historia ya ajira, au jambo lolote lilikuwa. Lakini mifumo ya kompyuta inayotumia ngumu mashine kujifunza mifano ni ngumu kuelezea, hata kwa wataalam.

Maamuzi ya mkopo wa watumiaji ni njia moja tu ya shida hii. Wasiwasi sawa zinapatikana ndani huduma za afya, uuzaji mkondoni na hata haki ya jinai. Nia yangu mwenyewe katika eneo hili ilianza wakati kikundi cha utafiti ambacho nilikuwa sehemu ya kugunduliwa upendeleo wa kijinsia katika jinsi matangazo ya mkondoni yalilengwa, lakini hakuweza kuelezea kwa nini ilitokea.

Viwanda vyote hivyo, na zingine nyingi, ambazo hutumia ujifunzaji wa mashine kuchambua michakato na kufanya maamuzi zina zaidi ya mwaka mmoja kupata bora zaidi kuelezea jinsi mifumo yao inavyofanya kazi. Mnamo Mei 2018, mpya Kanuni ya Ulinzi wa Takwimu ya Umoja wa Ulaya inaanza kutumika, pamoja na sehemu inayowapa watu haki ya kupata ufafanuzi wa maamuzi ya kiatomati ambayo yanaathiri maisha yao. Je! Maelezo haya yanapaswa kuchukua sura gani, na je! Tunaweza kuyatoa?

Kutambua sababu kuu

Njia moja ya kuelezea kwanini uamuzi wa kiotomatiki ulitoka jinsi ilivyofanya ni kutambua sababu ambazo zilikuwa na ushawishi mkubwa katika uamuzi huo. Uamuzi gani wa kukataa mkopo ni kwa sababu mwombaji hakupata pesa za kutosha, au kwa sababu alishindwa kulipa mkopo hapo zamani?

Kikundi changu cha utafiti katika Chuo Kikuu cha Carnegie Mellon, pamoja na mwanafunzi wa PhD Shayak Sen na baadaye-postdoc Yair Zick waliunda njia ya pima ushawishi wa jamaa ya kila sababu. Tunayaita Ushawishi wa Pembejeo wa Kiwango.

Mbali na kutoa uelewa mzuri wa uamuzi wa mtu binafsi, kipimo kinaweza pia kutoa mwanga juu ya kikundi cha maamuzi: Je! Algorithm ilikana deni haswa kwa sababu ya wasiwasi wa kifedha, kama vile mwombaji tayari anadaiwa deni zingine? Au je, msimbo wa ZIP wa mwombaji ulikuwa muhimu zaidi - ikionyesha idadi ya watu ya kimsingi kama vile mbio inaweza kuanza?

Ukamataji wa sababu

Mfumo unapofanya maamuzi kulingana na sababu nyingi ni muhimu kutambua ni sababu zipi zinazosababisha maamuzi na mchango wao wa jamaa.

Kwa mfano, fikiria mfumo wa uamuzi wa mkopo ambao unachukua pembejeo mbili tu, uwiano wa deni la kipato na mbio yake, na imeonyeshwa kuidhinisha mikopo kwa Wakuu tu. Kujua ni kwa nini kila sababu imechangia uamuzi inaweza kutusaidia kuelewa ikiwa ni mfumo halali au ikiwa ni ubaguzi.

Ufafanuzi unaweza tu kuangalia pembejeo na matokeo na kuona uwiano - wasio Caucasians hawakupata mikopo. Lakini maelezo haya ni rahisi sana. Tuseme wale wasio Caucasians ambao walinyimwa mikopo pia walikuwa na mapato ya chini sana kuliko Caucasians ambao maombi yao yalifanikiwa. Halafu maelezo haya hayawezi kutuambia ikiwa mbio ya waombaji au uwiano wa deni-kwa-mapato ulisababisha kukataliwa.

Njia yetu inaweza kutoa habari hii. Kusema tofauti kunamaanisha tunaweza kudhihirisha ikiwa mfumo unabagua bila haki au unaangalia vigezo halali, kama fedha za waombaji.

Ili kupima ushawishi wa mbio katika uamuzi maalum wa mkopo, tunafanya tena mchakato wa maombi, kuweka uwiano wa deni-kwa-mapato sawa lakini kubadilisha mbio ya mwombaji. Ikiwa kubadilisha mbio kunaathiri matokeo, tunajua mbio ni sababu ya kuamua. Ikiwa sivyo, tunaweza kuhitimisha hesabu ni kuangalia tu habari ya kifedha.

Kwa kuongezea kutambua sababu ambazo ni sababu, tunaweza kupima ushawishi wao wa sababu ya uamuzi. Tunafanya hivyo kwa kutofautisha sababu (kwa mfano, mbio) na kupima uwezekano wa matokeo kubadilika. Uwezekano mkubwa zaidi, ushawishi wa sababu hiyo ni mkubwa.

Ushawishi wa kujumlisha

Njia yetu inaweza pia kuingiza mambo kadhaa ambayo hufanya kazi pamoja. Fikiria mfumo wa uamuzi ambao unapeana mikopo kwa waombaji ambao wanakidhi vigezo viwili kati ya vitatu: alama ya mkopo zaidi ya 600, umiliki wa gari, na ikiwa mwombaji amelipa mkopo wa nyumba kikamilifu. Sema mwombaji, Alice, na alama ya mkopo ya 730 na hakuna mkopo wa gari au nyumba, ananyimwa mkopo. Anajiuliza ikiwa hali yake ya umiliki wa gari au historia ya ulipaji wa mkopo wa nyumba ndio sababu kuu.

Ulinganisho unaweza kusaidia kuelezea jinsi tunavyochambua hali hii. Fikiria korti ambapo maamuzi hufanywa na kura nyingi za jopo la majaji watatu, ambapo mmoja ni mhafidhina, mmoja huria na wa tatu kura ya swing, mtu ambaye anaweza kuunga mkono na mwenzake. Katika uamuzi wa kihafidhina wa 2-1, jaji wa swing alikuwa na ushawishi mkubwa juu ya matokeo kuliko jaji huria.

Sababu katika mfano wetu wa mkopo ni kama waamuzi watatu. Jaji wa kwanza kawaida hupiga kura ya mkopo, kwa sababu waombaji wengi wana alama ya mkopo ya kutosha. Jaji wa pili karibu kila mara anapiga kura dhidi ya mkopo kwa sababu waombaji wachache sana wamewahi kulipia nyumba. Kwa hivyo uamuzi unakuja kwa jaji wa swing, ambaye kwa kesi ya Alice anakataa mkopo kwa sababu hana gari.

Tunaweza kufanya hoja hii haswa kwa kutumia nadharia ya mchezo wa ushirika, mfumo wa kuchambua haswa jinsi sababu tofauti zinavyosababisha matokeo moja. Hasa, tunachanganya vipimo vyetu vya ushawishi wa sababu ya jamaa na Thamani ya Shapley, ambayo ni njia ya kuhesabu jinsi ya kuelezea ushawishi kwa sababu nyingi. Kwa pamoja, hizi huunda kipimo chetu cha Ushawishi wa Pembejeo.

Hadi sasa tumetathmini njia zetu juu ya mifumo ya uamuzi ambayo tuliunda kwa kufundisha algorithms ya kawaida ya ujifunzaji wa mashine na seti za data halisi za ulimwengu. Kutathmini algorithms kazini katika ulimwengu wa kweli ni mada ya kazi ya baadaye.

Changamoto ya wazi

Njia yetu ya uchambuzi na ufafanuzi wa jinsi algorithms hufanya maamuzi ni muhimu zaidi katika mipangilio ambapo sababu zinaeleweka kwa urahisi na wanadamu - kama uwiano wa deni-kwa-mapato na vigezo vingine vya kifedha.

Walakini, kuelezea mchakato wa kufanya uamuzi wa algorithms ngumu zaidi bado ni changamoto kubwa. Chukua, kwa mfano, mfumo wa utambuzi wa picha, kama zile kugundua na kufuatilia uvimbe. Sio muhimu sana kuelezea tathmini ya picha fulani kulingana na saizi za kibinafsi. Kwa kweli, tungependa ufafanuzi ambao unatoa ufahamu zaidi juu ya uamuzi - kama vile kutambua sifa maalum za tumor kwenye picha. Kwa kweli, kubuni maelezo ya kazi kama hizi za kufanya maamuzi ni kuweka watafiti wengi busy.

Kuhusu Mwandishi

Anupam Datta, Profesa Mshirika wa Sayansi ya Kompyuta na Uhandisi wa Umeme na Kompyuta, Carnegie Mellon University

Makala hii ilichapishwa awali Mazungumzo. Soma awali ya makala.

Vitabu kuhusiana

at InnerSelf Market na Amazon