Getty Images

Akili Bandia (AI) inasonga haraka na itakuwa chombo muhimu cha usaidizi katika utunzaji wa kimatibabu. Utafiti unapendekeza algoriti za AI zinaweza kwa usahihi kugundua melanoma na kutabiri saratani ya matiti ya baadaye.

Lakini kabla ya AI kuunganishwa katika matumizi ya kawaida ya kliniki, lazima tushughulikie changamoto ya upendeleo wa algorithmic. Algoriti za AI zinaweza kuwa na upendeleo wa asili ambao unaweza kusababisha ubaguzi na maswala ya faragha. Mifumo ya AI pia inaweza kufanya maamuzi bila uangalizi unaohitajika au maoni ya kibinadamu.

 Mfano wa athari zinazoweza kudhuru za AI hutoka kwa mradi wa kimataifa ambayo inalenga kutumia AI kuokoa maisha kwa kuendeleza mafanikio ya matibabu. Katika jaribio, timu ilibadilisha muundo wao "mzuri" wa AI ili kuunda chaguo kwa muundo mpya wa AI kufanya "madhara".

Katika chini ya saa sita za mafunzo, kanuni ya AI iliyogeuzwa ilizalisha makumi ya maelfu ya mawakala wa vita vya kemikali, na wengi hatari zaidi kuliko mawakala wa sasa wa vita. Huu ni mfano uliokithiri kuhusu misombo ya kemikali, lakini hutumika kama simu ya kuamsha kutathmini matokeo ya kimaadili ya AI yanayojulikana na yasiyoweza kufahamika.

AI katika utunzaji wa kliniki

Katika dawa, tunashughulika na data ya faragha zaidi ya watu na maamuzi ambayo mara nyingi hubadilisha maisha. Miundo thabiti ya maadili ya AI ni muhimu.

The Mradi wa Kifafa wa Australia inalenga kuboresha maisha ya watu na kufanya huduma ya kliniki kupatikana kwa upana zaidi. Kulingana na taswira ya hali ya juu ya ubongo, taarifa za kinasaba na utambuzi kutoka kwa maelfu ya watu walio na kifafa, tunapanga kutumia AI jibu maswali yasiyo na majibu kwa sasa.

Je, kukamatwa kwa mtu huyu kutaendelea? Ni dawa gani yenye ufanisi zaidi? Je, upasuaji wa ubongo ni chaguo la matibabu linalofaa? Haya ni maswali ya msingi ambayo dawa ya kisasa inajitahidi kushughulikia.

Kama kiongozi wa AI wa mradi huu, wasiwasi wangu kuu ni kwamba AI inakwenda haraka na uangalizi wa udhibiti ni mdogo. Masuala haya ndiyo sababu tumeanzisha hivi karibuni mfumo wa kimaadili kwa kutumia AI kama zana ya usaidizi wa kimatibabu. Mfumo huu unanuia kuhakikisha kuwa teknolojia zetu za AI ziko wazi, salama na za kuaminika, huku zikikuza ushirikishwaji na usawa katika utunzaji wa kimatibabu.

Kwa hivyo tunatekelezaje maadili ya AI katika dawa ili kupunguza upendeleo na kuhifadhi udhibiti wa algoriti? Kanuni ya sayansi ya kompyuta "takataka ndani, takataka nje" inatumika kwa AI. Tuseme tunakusanya data yenye upendeleo kutoka kwa sampuli ndogo. Algoriti zetu za AI zinaweza kuwa na upendeleo na haziwezi kuigwa katika mpangilio mwingine wa kimatibabu.

Mifano ya upendeleo sio ngumu kupata katika mifano ya kisasa ya AI. Miundo mikubwa ya lugha (kwa mfano, ChatGPT) na miundo fiche ya uenezaji (DALL-E na Usambazaji Imara) zinaonyesha jinsi gani upendeleo wa wazi kuhusu jinsia, kabila na hali ya kijamii na kiuchumi inaweza kutokea.

Watafiti waligundua kuwa vidokezo rahisi vya watumiaji hutoa picha zinazoendeleza ubaguzi wa kikabila, kijinsia na kitabaka. Kwa mfano, haraka kwa daktari huzalisha zaidi picha za madaktari wa kiume, jambo ambalo haliendani na hali halisi kwani takriban nusu ya madaktari wote katika nchi za OECD ni wanawake.

Utekelezaji salama wa AI ya matibabu

Suluhisho la kuzuia upendeleo na ubaguzi sio dogo. Kuwezesha usawa wa afya na kukuza ushirikishwaji katika masomo ya kimatibabu kuna uwezekano kati ya ufumbuzi wa msingi kupambana na upendeleo katika AI ya matibabu.

La kutia moyo, Utawala wa Chakula na Dawa wa Marekani ulipendekeza hivi majuzi kufanya utofauti kuwa wa lazima katika majaribio ya kliniki. Pendekezo hili linawakilisha hatua kuelekea tafiti za kimatibabu zisizoegemea upande wowote na zenye msingi wa jamii.

Kikwazo kingine cha maendeleo ni ufadhili mdogo wa utafiti. Algoriti za AI kwa kawaida huhitaji kiasi kikubwa cha data, ambacho kinaweza kuwa ghali. Ni muhimu kuanzisha mbinu za ufadhili zilizoimarishwa ambazo huwapa watafiti nyenzo zinazohitajika ili kukusanya data inayofaa kiafya inayofaa kwa programu za AI.

Pia tunabishana kwamba tunapaswa kujua kila wakati utendaji wa ndani wa algoriti za AI na kuelewa jinsi zinavyofikia hitimisho na mapendekezo yao. Dhana hii mara nyingi hujulikana kama "ufafanuzi" katika AI. Inahusiana na wazo kwamba wanadamu na mashine lazima zifanye kazi pamoja kwa matokeo bora.

Tunapendelea kuona utekelezaji wa ubashiri katika miundo kama "iliyoboreshwa" badala ya akili "bandia" - algoriti zinapaswa kuwa sehemu ya mchakato na taaluma za matibabu lazima ziendelee kudhibiti uamuzi.

Mbali na kuhimiza matumizi ya algoriti zinazoeleweka, tunaunga mkono sayansi iliyo wazi na wazi. Wanasayansi wanapaswa kuchapisha maelezo ya miundo ya AI na mbinu zao ili kuimarisha uwazi na uzalishwaji tena.

Tunahitaji nini katika Aotearoa New Zealand ili kuhakikisha utekelezaji salama wa AI katika huduma ya matibabu? Maswala ya maadili ya AI yanaongozwa kimsingi na wataalam ndani ya uwanja. Walakini, kanuni za AI zilizolengwa, kama vile msingi wa EU Sheria ya Ujasusi Bandia yamependekezwa, kushughulikia masuala haya ya kimaadili.

Sheria ya AI ya Ulaya inakaribishwa na italinda watu wanaofanya kazi ndani ya "AI salama". Hivi karibuni serikali ya Uingereza ilitoa maoni yao mbinu makini ya udhibiti wa AI, ikitumika kama mwongozo wa majibu mengine ya serikali kwa usalama wa AI.

Katika Aotearoa, tunabishana kwa kuchukua msimamo thabiti badala ya tendaji kwa usalama wa AI. Itaanzisha mfumo wa kimaadili wa kutumia AI katika utunzaji wa kimatibabu na nyanja zingine, ikitoa AI inayoweza kufasirika, salama na isiyopendelea. Kwa hivyo, imani yetu itaongezeka kuwa teknolojia hii yenye nguvu inanufaisha jamii huku ikiilinda dhidi ya madhara.

Kuhusu Mwandishi

Mangor Pedersen, Profesa Mshiriki wa Saikolojia na Neuroscience, Chuo Kikuu cha Teknolojia ya Auckland

Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.

Vitabu kuhusiana:

Mwili Huweka Alama: Akili ya Ubongo na Mwili katika Uponyaji wa Kiwewe

na Bessel van der Kolk

Kitabu hiki kinachunguza uhusiano kati ya kiwewe na afya ya mwili na akili, kikitoa maarifa na mikakati ya uponyaji na kupona.

Bofya kwa maelezo zaidi au kuagiza

Pumzi: Sayansi Mpya ya Sanaa Iliyopotea

na James Nestor

Kitabu hiki kinachunguza sayansi na mazoezi ya kupumua, kutoa maarifa na mbinu za kuboresha afya ya mwili na akili.

Bofya kwa maelezo zaidi au kuagiza

Kitendawili cha Mimea: Hatari Zilizofichwa katika Vyakula "Zenye Afya" vinavyosababisha Ugonjwa na Kuongezeka kwa Uzito.

na Steven R. Gundry

Kitabu hiki kinachunguza uhusiano kati ya lishe, afya na magonjwa, na kutoa maarifa na mikakati ya kuboresha afya na siha kwa ujumla.

Bofya kwa maelezo zaidi au kuagiza

Kanuni ya Kinga: Mtazamo Mpya wa Afya Halisi na Kupambana na Kuzeeka Kubwa

na Joel Greene

Kitabu hiki kinatoa mtazamo mpya kuhusu afya na kinga, kikizingatia kanuni za epijenetiki na kutoa maarifa na mikakati ya kuboresha afya na kuzeeka.

Bofya kwa maelezo zaidi au kuagiza

Mwongozo Kamili wa Kufunga: Uponye Mwili Wako Kupitia Mfungo wa Mara kwa Mara, Siku Mbadala, na Kufunga kwa Kurefusha.

na Dk. Jason Fung na Jimmy Moore

Kitabu hiki kinachunguza sayansi na mazoezi ya kutoa maarifa ya kufunga na mikakati ya kuboresha afya na siha kwa ujumla.

Bofya kwa maelezo zaidi au kuagiza