Chatbots za AI tayari zinatumiwa sana na wafanyabiashara kusalimia wateja na kujibu maswali yao - kupitia simu au kwenye tovuti. Kampuni zingine zimegundua kuwa zinaweza, kwa kiwango fulani, kuchukua nafasi ya wanadamu na mashine katika majukumu ya kituo cha simu.
Hata hivyo, ushahidi unaopatikana unapendekeza kuwa kuna sekta - kama vile huduma ya afya na rasilimali watu - ambapo uangalifu mkubwa unahitaji kuchukuliwa kuhusu matumizi ya zana hizi za mstari wa mbele, na uangalizi wa kimaadili unaweza kuhitajika.
Mfano wa hivi karibuni, na uliotangazwa sana ni ule wa a chatbot inayoitwa Tessa, ambayo ilitumiwa na Chama cha Kitaifa cha Matatizo ya Kula (NEDA) nchini Marekani. Hapo awali shirika lilikuwa limedumisha laini ya usaidizi iliyoendeshwa na mseto wa wafanyikazi wanaolipwa mishahara na watu wa kujitolea. Hii ilikuwa na lengo la wazi la kusaidia watu walio katika mazingira magumu wanaougua shida za kula.
Hata hivyo, mwaka huu, shirika iliwafuta wafanyikazi wake wa laini ya usaidizi, ikitangaza kwamba ingechukua nafasi yao na chatbot ya Tessa. Sababu za hii zinabishaniwa. Wafanyikazi wa zamani wanadai kuwa mabadiliko hayo yalifuata uamuzi wa wafanyikazi wa nambari ya usaidizi kuungana. The makamu wa rais wa NEDA ametajwa kuongezeka kwa idadi ya simu na nyakati za kusubiri, pamoja na dhima za kisheria kwa kutumia wafanyakazi wa kujitolea.
Vyovyote ilivyokuwa, baada ya muda mfupi sana wa operesheni, Tessa alitolewa nje ya mtandao kwa ripoti kwamba chatbot ilikuwa imetoa ushauri wenye matatizo ambao ungezidisha dalili za watu wanaotafuta msaada kwa matatizo ya kula.
Iliripotiwa pia kwamba Dk Ellen Fitzsimmons-Craft na Dk C Barr Taylor, watafiti wawili waliohitimu sana ambao walisaidia katika uundaji wa Tessa, walikuwa wameeleza kuwa chatbot haikukusudiwa kamwe kuchukua nafasi ya simu ya usaidizi iliyopo au kutoa usaidizi wa haraka kwa wale wanaopata dalili kali za ugonjwa wa kula.
Uboreshaji muhimu
Kwa hivyo Tessa iliundwa kwa ajili gani? Watafiti, pamoja na wenzake, walikuwa wametengeneza utafiti wa uchunguzi kuangazia changamoto walizokabiliana nazo katika kubuni chatbot inayotegemea sheria ili kuingiliana na watumiaji ambao wanajali kuhusu matatizo ya ulaji. Ni usomaji wa kuvutia sana, unaoonyesha uchaguzi wa muundo, shughuli, mitego na marekebisho.
Toleo la asili la Tessa lilikuwa la kitamaduni, chatbot kulingana na kanuni, ingawa iliyosafishwa sana, ambayo ni ile inayofuata muundo ulioainishwa awali kulingana na mantiki. Haikuweza kupotoka kutoka kwa majibu sanifu yaliyopangwa awali yaliyoratibiwa na waundaji wake.
Hitimisho lao lilijumuisha hoja ifuatayo: "Chatbots zinazozingatia kanuni zina uwezo wa kufikia idadi kubwa ya watu kwa gharama ya chini katika kutoa taarifa na mwingiliano rahisi lakini ni mdogo katika kuelewa na kujibu ipasavyo majibu ya watumiaji yasiyotarajiwa".
Hii inaweza kuonekana kupunguza matumizi ambayo Tessa ilifaa. Kwa hivyo iliishiaje kuchukua nafasi ya nambari ya usaidizi iliyotumiwa hapo awali na NEDA? Msururu halisi wa matukio unajadiliwa huku kukiwa na akaunti tofauti, lakini, kulingana na NPR, kampuni mwenyeji wa chatbot ilibadilisha Tessa kutoka chatbot inayozingatia sheria na majibu yaliyopangwa mapema hadi moja na "kipengele cha maswali na majibu kilichoboreshwa".
Toleo la baadaye la Tessa lilikuwa linatumia AI ya uzalishaji, kama vile ChatGPT na bidhaa zinazofanana. Gumzo hizi za hali ya juu za AI zimeundwa kuiga mifumo ya mazungumzo ya binadamu kwa nia ya kutoa majibu ya kweli na muhimu zaidi. Kuzalisha majibu haya yaliyogeuzwa kukufaa kunategemea hifadhidata kubwa za habari, ambazo miundo ya AI imefunzwa "kuelewa" kupitia michakato mbalimbali ya kiteknolojia: mashine kujifunza, kujifunza kwa kina na usindikaji wa lugha asilia.
Mafunzo ya masomo
Hatimaye, chatbot ilizalisha yale ambayo yamefafanuliwa kama majibu yanayoweza kudhuru kwa maswali ya baadhi ya watumiaji. Mijadala iliyofuata imehamishia lawama kutoka taasisi moja hadi nyingine. Hata hivyo, uhakika unabakia kwamba hali zilizofuata zingeweza kuepukwa kama kungekuwa na chombo kinachotoa uangalizi wa kimaadili, "mwanadamu katika kitanzi" na kuzingatia madhumuni ya wazi ya muundo wa awali wa Tessa.
Ni muhimu kujifunza masomo kutoka kwa kesi kama hii dhidi ya usuli wa kukimbilia kuunganishwa kwa AI katika mifumo mbali mbali. Na ingawa matukio haya yalifanyika Marekani, yana masomo kwa wale wanaotaka kufanya hivyo katika nchi nyingine.
Uingereza ingeonekana kuwa na mtazamo uliogawanyika kwa suala hili. Bodi ya ushauri kwa Kituo cha Maadili ya Data na Ubunifu (CDEI) ilifutwa hivi karibuni na kiti chake kwenye meza kilichukuliwa na Kikosi Kazi kipya cha Frontier AI. Pia kuna ripoti kwamba mifumo ya AI tayari inajaribiwa huko London kama zana za kusaidia wafanyikazi - ingawa sio kama mbadala wa nambari ya usaidizi.
Mifano hii yote miwili inaangazia mvutano unaowezekana kati ya kuzingatia maadili na maslahi ya biashara. Lazima tuwe na matumaini kwamba haya mawili hatimaye yatalingana, kusawazisha ustawi wa watu binafsi na ufanisi na manufaa ambayo AI inaweza kutoa.
Hata hivyo, katika baadhi ya maeneo ambapo mashirika hutangamana na umma, majibu yanayotokana na AI na uelewa unaoigwa hauwezi kutosha kuchukua nafasi ya ubinadamu na huruma ya kweli - hasa katika nyanja za matibabu na afya ya akili.
Mark Tsagas, Mhadhiri, Sheria ya Jinai, Chuo Kikuu cha East London
Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.
