Kupanga kwa algorithms hutuweka kwenye masanduku. Je! Tunajuaje kuwa ndio sahihi? iliyozalishwa, CC BYKupanga kwa algorithms hutuweka kwenye masanduku. Je! Tunajuaje kuwa ndio sahihi? iliyozalishwa, CC BY

Jamii inaonekana imewekwa kwenye kozi hadi mahali ambapo maisha yetu yanakabiliwa na uchunguzi wa algorithms za kompyuta. Takwimu tunazotengeneza zinachunguzwa na kuchanganuliwa, iwe na serikali kwa usalama wa kitaifa au kampuni kwa faida, na hii haiwezekani kubadilika - nguvu na rufaa ya uchambuzi wa data, ikishapatikana, haitatolewa kwa urahisi.

Lakini kwa kweli najiuliza ikiwa nina wasiwasi zaidi kwamba data zetu zinakusanywa au kwa ukweli kwamba hatujui chochote juu ya algorithms ambazo zinatutolea hukumu.

Kiwango cha maelezo juu ya maisha yetu na tabia zetu ambazo zinaweza kutolewa kutoka kwa data tunayoiacha imejadiliwa hapo awali, na inarushwa hewani kama sehemu ya mjadala karibu na rasimu ya Uingereza Muswada wa Mamlaka ya Upelelezi. Tunajua angalau kitu juu ya data gani inakusanywa na ni muda gani imehifadhiwa, ambazo zingine zinasimamiwa na sheria za Uingereza na Uropa.

Ndani ya maandishi ya rasimu ya muswada, kwa mfano, tunajua kwamba serikali ya Uingereza "itahitaji" tu (bila sababu) ufikiaji wa metadata ya mawasiliano, vichwa vya habari na masomo ya barua pepe, na rekodi za simu. Lakini tunajua pia jinsi kufunua metadata pekee inaweza kuwa: angalia faili ya Mradi wa kuzamisha MIT Media Lab kwa mfano mzuri wa ni maelezo ngapi yanaweza kupatikana kutoka kwake. Ni hakika hailinganishwi kabisa na muswada wa simu uliopangwa, kama inavyodaiwa.


innerself subscribe mchoro


Kwa bora au mbaya sisi, umma, tuna kidokezo juu ya kile kinachorekodiwa. Lakini hatujui kabisa ni zana gani na mbinu za uchambuzi zinatumika kwa data hii - na umuhimu wa hii haupaswi kudharauliwa.

Nini Crunches Hesabu?

Tunaweza kufanya nadhani za elimu. Vyombo vya usalama vya kitaifa pengine hutumia metadata yetu kutengeneza mitandao ya kijamii kati ya watu na maeneo, kati ya mambo mengine, kutuunganisha pamoja. Mitandao hii ya uhusiano itachambuliwa kubaini ikiwa sisi ni mtu wa kupendeza, ikidhamiriwa na jinsi unalinganisha na watu wengine wa kupendeza, na jinsi unavyounganisha na watu waliopo wa maslahi au wale wanaohusiana nao.

Watafiti ambao hutumia mbinu hizi wanaelewa mapungufu yao, na kwamba algorithms zinazowapa nguvu zinaweza kuwa na makosa au mawazo ya msingi ambayo yana athari kubwa kwa pato lao. Katika kesi hii, hiyo inaweza kumaanisha ikiwa umeitwa gaidi au la, au ikiwa unastahiki mkopo au rehani.

Haijulikani wazi kabisa ni wapi katika maeneo fuzzy ya mpaka uwepo wa uhusiano hufafanuliwa. Je! Kutembelea wavuti ile ile kama gaidi kunamaanisha maadili ya pamoja, au kupanda njia ile ile ya basi kila siku inakuonyesha uzungumze mara kwa mara na magaidi? Inawezekana kutembelea tovuti zinazotembelewa na magaidi wanaojulikana kwa sababu nyingi halali. Ukipata habari zako kutoka kwa wavuti sawa na magaidi una uwezekano mkubwa wa kuwa gaidi? Ubaguzi na upendeleo inaweza kuletwa wakati wa ukusanyaji wa data, halafu tena wakati maamuzi yanafanywa juu ya jinsi ya kuchambua data hizo. Algorithms inaweza kubagua, pia.

Mipaka iliyofifia

Uwezekano kwamba algorithms huanzisha upendeleo usiofaa ni ukweli halisi. Kwa mfano, zile zinazotumiwa na huduma za usalama zinafundishwa kwenye hifadhidata ya magaidi wanaojulikana na wasio-magaidi. Je! Hii inamaanisha kwamba, kwani magaidi wanaojulikana ni wanaume wenye umri wa miaka 20-30, una uwezekano mkubwa wa kuhesabiwa kama gaidi kwa kuwa tu wa kiume na mwenye umri wa miaka 20-30, bila kujali sifa zako zingine? Ikiwa ni hivyo, je! Hii ina athari kubwa juu ya jinsi data inavyotumika?

Shida inatokana na ukweli kwamba mimi na watafiti wengine wa kitaaluma wanaotumia uchambuzi tata wa mtandao, ujifunzaji wa mashine, kulinganisha muundo, au mbinu za ujasusi bandia tumetumia mbinu hizo kuzingatiwa na wenzao hadharani ili kuamua nguvu ya mbinu na uhalali wa hitimisho; huduma za usalama za serikali na mashirika ya sekta binafsi hawana. Hatuna wazo la ubora wa njia zao na jinsi wanavyopeleka. Je! Kuna suluhisho la hii?

Wale kutoka kwa uwanja mwingine wa usalama, fumbo la maandishi, walijifunza zamani kuwa njia bora ya kuboresha ubora, na kwa hivyo usalama, ya algorithms yake ilikuwa kuwafanya wawe wazi. Utekelezaji wa maandishi na maandishi yamechapishwa, na watafiti walihimiza kujaribu kupata makosa au kasoro, kwa kufanya hivyo kuboresha usalama kwa wote wanaotumia. Kwa kuongezea, utekelezaji wowote wa algorithms ya kisimbuli-kisichojulikana (kisicho cha umma) kwa ujumla ni inayoonekana na tuhuma. Ikiwa watatamka hukumu zinazobadilisha maisha juu yetu - iwe tumeitwa kama magaidi au kutostahili kifedha - mfano huo unapaswa kutumiwa kwa algorithms za usalama.

Hoja dhidi ya hatua kama hiyo ni kwamba algorithms wazi na ya wazi inaweza kusababisha magaidi kurekebisha tabia zao za ulimwengu wa kweli ili kuepusha kugunduliwa. Hii inamaanisha kubadilisha vitu kama mwingiliano wao, vyama, tabia za kuvinjari, na harakati zinazowezekana. Lakini hii, ikiwa algorithms inafanya kazi vizuri, inamaanisha kuwa kwa kweli wanaacha kutenda kama magaidi. Ikiwa usalama wetu wa baadaye, uhuru, na usalama utategemea hizi algorithms, lazima tuhakikishwe ni jinsi gani - na hiyo - inafanya kazi.

Kuhusu MwandishiMazungumzo

Philip Garnett, Mhadhiri, Chuo Kikuu cha York.

Makala hii ilichapishwa awali Mazungumzo. Soma awali ya makala.

Kurasa Kitabu:

at

kuvunja

Asante kwa kutembelea InnerSelf.com, zipo 20,000 + makala zinazobadilisha maisha zinazokuza "Mitazamo Mpya na Uwezekano Mpya." Nakala zote zimetafsiriwa kwa Lugha 30+. Kujiunga kwa InnerSelf Magazine, iliyochapishwa kila wiki, na Daily Inspiration ya Marie T Russell. InnerSelf Magazine imechapishwa tangu 1985.