Bwana Mshawishi / Shutterstock

Je! YouTube inaunda wenye msimamo mkali? A hivi karibuni utafiti ilisababisha hoja kati ya wanasayansi kwa kusema kwamba algorithms zinazoweka nguvu tovuti hazisaidii watu kwa kupendekeza video zilizokithiri zaidi, kama imependekezwa miaka ya karibuni.

Jarida hilo, liliwasilishwa kwa jarida la ufikiaji wazi Jumatatu ya Kwanza lakini bado kukaguliwa rasmi na rika, kuchambua mapendekezo ya video yaliyopokelewa na aina tofauti za vituo. Ilidai kuwa algorithm ya YouTube inapendelea njia kuu za media juu ya yaliyomo huru, na kuhitimisha kuwa radicalization inahusiana zaidi na watu wanaounda yaliyomo hatari kuliko algorithm ya wavuti.

Wataalam katika uwanja huo waliingia haraka akijibu utafiti, huku wengine wakikosoa mbinu za karatasi na wengine wakisema algorithm ilikuwa moja ya mambo kadhaa muhimu na hiyo sayansi ya data peke yake haitatupa jibu.

Shida na mjadala huu ni kwamba hatuwezi kujibu swali la jukumu gani la algorithm ya YouTube katika kuwachanganya watu kwa sababu hatuelewi inavyofanya kazi. Na hii ni dalili tu ya shida pana zaidi. Hizi algorithms zina jukumu la kuongezeka katika maisha yetu ya kila siku lakini hukosa aina yoyote ya uwazi.

Ni ngumu kusema kuwa YouTube haichukui jukumu katika uboreshaji. Hii ilionyeshwa kwanza na mtaalam wa jamii wa teknolojia Zeynep Tufekci, ambaye alionyesha jinsi video zinazopendekezwa zinaendesha watumiaji polepole kuelekea yaliyomo zaidi. Kwa maneno ya Tufekci, video kuhusu kutembea kwa miguu husababisha video kuhusu kuendesha ultramarathons, video kuhusu chanjo husababisha nadharia za kula njama, na video kuhusu siasa husababisha "kukataliwa kwa Holocaust na yaliyomo mengine yanayosumbua".

Hii pia imeandikwa juu kwa undani na mfanyikazi wa zamani wa YouTube Guillaume Chaslot ambaye alifanya kazi kwenye algorithm ya mapendekezo ya wavuti. Tangu aachane na kampuni hiyo, Chaslot ameendelea kujaribu kutoa mapendekezo hayo uwazi zaidi. Anasema mapendekezo ya YouTube yamependelea nadharia za kula njama na video zisizo sahihi, ambayo hata hivyo huwafanya watu kutumia muda mwingi kwenye wavuti.

Kwa kweli, kuongeza muda wa kutazama ndio hatua kamili ya algorithms za YouTube, na hii inahimiza watengenezaji wa video kupigania umakini kwa njia yoyote iwezekanavyo. Sheer sheer Ukosefu wa uwazi kuhusu haswa jinsi hii inafanya kazi iwe ngumu kupigania radicalization kwenye wavuti. Baada ya yote, bila uwazi, ni ngumu kujua ni nini kinaweza kubadilishwa ili kuboresha hali hiyo.

Jinsi algorithm ya YouTube inavyofanya kazi bado ni siri. Danny / Shutterstock ni nani

Lakini YouTube sio kawaida katika suala hili. Ukosefu wa uwazi juu ya jinsi algorithms inavyofanya kazi kawaida huwa wakati wowote zinapotumika katika mifumo mikubwa, iwe na kampuni za kibinafsi au mashirika ya umma. Pamoja na kuamua ni video ipi itakayokuonyesha baadaye, algorithms za ujifunzaji wa mashine sasa hutumiwa weka watoto mashuleni, amua kifungo cha gerezani, amua alama za mkopo na viwango vya bima, pamoja na hatima ya wahamiaji, wagombea wa kazi na waombaji wa vyuo vikuu. Na kawaida hatuelewi jinsi mifumo hii hufanya maamuzi yao.

Watafiti wamegundua njia za ubunifu za kuonyesha athari za algorithms hizi kwa jamii, iwe kwa kuchunguza kuongezeka kwa haki ya mmenyuko au kuenea kwa nadharia za njama kwenye YouTube, au kwa kuonyesha jinsi injini za utaftaji zinaonyesha upendeleo wa kibaguzi ya watu wanaowaumba.

Mifumo ya ujifunzaji wa mashine kawaida ni kubwa, ngumu, na haionyeshi. Kwa kufaa, mara nyingi huelezewa kama masanduku meusi, ambapo habari inaingia, na habari au vitendo vinatoka, lakini hakuna mtu anayeweza kuona kinachotokea katikati. Hii inamaanisha kuwa, kwa kuwa hatujui haswa jinsi mfumo wa mapendekezo ya YouTube unavyofanya kazi, kujaribu kujua jinsi tovuti inavyofanya kazi itakuwa kama kujaribu kuelewa gari bila kufungua bonnet.

Kwa upande mwingine, hii inamaanisha kuwa kujaribu kuandika sheria kudhibiti ni nini algorithms inapaswa au haipaswi kufanya inakuwa mchakato kipofu au jaribio na makosa. Hii ndio kinachotokea na YouTube na na algorithms nyingine nyingi za kujifunza mashine. Tunajaribu kusema katika matokeo yao, bila uelewa halisi wa jinsi wanavyofanya kazi kweli. Tunahitaji kufungua teknolojia hizi za hati miliki, au angalau kuzifanya ziwe za uwazi wa kutosha ili tuweze kuzidhibiti.

Maelezo na upimaji

Njia moja ya kufanya hii itakuwa kwa algorithms kutoa maelezo ya counterfactual pamoja na maamuzi yao. Hii inamaanisha kufanya kazi kwa hali ya chini inayohitajika kwa algorithm kufanya uamuzi tofauti, bila kuelezea mantiki yake kamili. Kwa mfano, algorithm ya kufanya maamuzi juu ya mikopo ya benki inaweza kutoa pato ambalo linasema kwamba "ikiwa ungekuwa na zaidi ya miaka 18 na usingekuwa na deni la awali, ungekubaliwa mkopo wako wa benki". Lakini hii inaweza kuwa ngumu kufanya na YouTube na tovuti zingine ambazo zinatumia algorithms ya mapendekezo, kwani kwa nadharia video yoyote kwenye jukwaa inaweza kupendekezwa wakati wowote.

Chombo kingine chenye nguvu ni upimaji wa hesabu na ukaguzi, ambayo imekuwa muhimu sana katika kugundua algorithms ya upendeleo. Katika kesi ya hivi karibuni, kampuni ya kitaalam ya uchunguzi tena iligundua kuwa algorithm yake ilikuwa kutanguliza mambo mawili kama watabiri bora wa utendaji wa kazi: ikiwa jina la mgombea alikuwa Jared, na ikiwa walicheza lacrosse katika shule ya upili. Hii ndio hufanyika wakati mashine inakwenda bila kusimamiwa.

Katika kesi hii, hesabu ya uchunguzi wa kuanza tena iligundua kuwa wanaume weupe walikuwa na nafasi kubwa ya kuajiriwa, na walipata sifa za wakala zinazohusiana (kama vile kuitwa Jared au kucheza lacrosse) iliyopo kwa wagombea wanaoajiriwa. Pamoja na YouTube, ukaguzi wa hesabu unaweza kusaidia kuelewa ni aina gani za video zinazopewa kipaumbele kwa mapendekezo - na labda kusaidia kumaliza mjadala kuhusu ikiwa mapendekezo ya YouTube yanachangia uboreshaji au la.

Kuanzisha maelezo ya ukinzani au kutumia ukaguzi wa hesabu ni mchakato mgumu, wa gharama kubwa. Lakini ni muhimu, kwa sababu mbadala ni mbaya zaidi. Ikiwa ubadilishaji hautadhibitiwa na haujadhibitiwa, tunaweza kuona hatua kwa hatua ya wananadharia wa njama na wenye msimamo mkali kwenye media yetu, na umakini wetu unadhibitiwa na yeyote anayeweza kutoa yaliyomo faida zaidi.

Kuhusu Mwandishi

Chico Q. Camargo, Mtafiti wa Sayansi ya Takwimu, Chuo Kikuu cha Oxford

Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.