Chatbots za AI zinakuwa na nguvu zaidi, lakini unajuaje kama zinafanya kazi kwa manufaa yako? 

Ukiuliza Alexa, mfumo wa AI wa msaidizi wa sauti wa Amazon, ikiwa Amazon ni ukiritimba, inajibu akisema hajui. Haihitaji mengi kuifanya lambaste makubwa mengine ya teknolojia, lakini iko kimya kuhusu makosa ya mzazi wake wa shirika.

Alexa inapojibu kwa njia hii, ni dhahiri kwamba inaweka masilahi ya msanidi wake mbele ya yako. Kawaida, ingawa, sio wazi sana mfumo wa AI unamtumikia nani. Ili kuepuka kunyonywa na mifumo hii, watu watahitaji kujifunza kukaribia AI kwa mashaka. Hiyo inamaanisha kuunda kwa makusudi pembejeo unayoipatia na kufikiria kwa umakini juu ya matokeo yake.

Vizazi vipya vya miundo ya AI, pamoja na majibu yao ya kisasa zaidi na yasiyo ya kukariri, vinafanya iwe vigumu kufahamu ni nani anayenufaika wanapozungumza. Makampuni ya mtandao kuendesha kile unachokiona ili kutumikia maslahi yao binafsi sio jambo jipya. Matokeo ya utafutaji wa Google na mpasho wako wa Facebook ni kujazwa na viingilio vilivyolipwa. Facebook, TikTok na wengine huchezea mipasho yako ili kuongeza muda unaotumia kwenye jukwaa, kumaanisha kutazamwa zaidi kwa tangazo, juu ya ustawi wako.

Kinachotofautisha mifumo ya AI na huduma hizi zingine za mtandao ni jinsi inavyoingiliana, na jinsi mwingiliano huu utazidi kuwa kama uhusiano. Haihitaji maelezo mengi kutoka kwa teknolojia za leo ili kuwazia AI ambazo zitapanga safari kwa ajili yako, kujadiliana kwa niaba yako au kutenda kama matabibu na makocha wa maisha.

Wana uwezekano wa kuwa nawe 24/7, kukujua kwa karibu, na kuwa na uwezo wa kutarajia mahitaji yako. Aina hii ya kiolesura cha mazungumzo kwa mtandao mpana wa huduma na rasilimali kwenye wavuti iko ndani ya uwezo wa AI zilizopo za uzalishaji kama ChatGPT. Wako njiani kuwa wasaidizi wa kibinafsi wa dijiti.

Kama mtaalam wa usalama na mwanasayansi wa data, tunaamini kwamba watu wanaotegemea AI hizi watalazimika kuziamini kabisa ili kuendesha maisha ya kila siku. Hiyo inamaanisha watahitaji kuwa na uhakika kwamba AIs haifanyi kazi kwa siri kwa ajili ya mtu mwingine. Kote mtandaoni, vifaa na huduma ambazo zinaonekana kukufanyia kazi tayari kwa siri hufanya kazi dhidi yako. Televisheni mahiri kupeleleza juu yako. Programu za simu kukusanya na kuuza data yako. Programu nyingi na tovuti kukudanganya kupitia mifumo ya giza, vipengele vya kubuni ambavyo kupotosha, kulazimisha au kudanganya kwa makusudi wanaotembelea tovuti. Hii ni ubepari wa uchunguzi, na AI inajitengeneza kuwa sehemu yake. AI ina jukumu la ufuatiliaji wa ubepari, ambao unazidi kukupeleleza ili kupata pesa kutoka kwako.

Gizani

Inawezekana kabisa, inaweza kuwa mbaya zaidi na AI. Ili msaidizi huyo wa kidijitali wa AI awe muhimu sana, itabidi akujue kabisa. Bora kuliko simu yako inavyokujua. Bora kuliko utafutaji wa Google unavyokujua. Bora, labda, kuliko marafiki zako wa karibu, washirika wa karibu na mtaalamu wanakujua.

Huna sababu ya kuamini zana za kisasa za uzalishaji za AI. Acha kando hallucinations, "mambo" yaliyotengenezwa ambayo GPT na miundo mingine mikubwa ya lugha hutoa. Tunatarajia hizo zitasafishwa kwa kiasi kikubwa kadri teknolojia inavyoboreka katika miaka michache ijayo.

Lakini hujui jinsi AIs zimeundwa: jinsi wamefunzwa, ni taarifa gani wamepewa, na ni maagizo gani wameamriwa kufuata. Kwa mfano, watafiti kufichua sheria za siri ambayo inasimamia tabia ya Microsoft Bing chatbot. Kwa kiasi kikubwa wao ni wapole lakini wanaweza kubadilika wakati wowote.

Kupata pesa

Nyingi za AI hizi zimeundwa na kufunzwa kwa gharama kubwa na baadhi ya makampuni makubwa zaidi ya ukiritimba wa teknolojia. Zinatolewa kwa watu kuzitumia bila malipo, au kwa gharama ya chini sana. Kampuni hizi zitahitaji kuzichuma mapato kwa njia fulani. Na, kama ilivyo kwa mtandao mwingine, hiyo kwa njia fulani inaweza kujumuisha ufuatiliaji na upotoshaji.

Fikiria ukiuliza chatbot yako kupanga likizo yako ijayo. Je, ilichagua shirika mahususi la ndege au msururu wa hoteli au mkahawa kwa sababu ulikuwa bora kwako au kwa sababu mtengenezaji wake alipata kicheko kutoka kwa biashara? Kama ilivyo kwa matokeo ya kulipia katika utafutaji wa Google, matangazo ya mipasho ya habari kwenye Facebook na uwekaji unaolipishwa kwenye hoja za Amazon, athari hizi zinazolipishwa zinaweza kuwa za siri zaidi baada ya muda.

Ikiwa unauliza chatbot yako kwa habari za kisiasa, je, matokeo yamepotoshwa na siasa za shirika linalomiliki chatbot? Au mgombea aliyelipa pesa nyingi zaidi? Au hata maoni ya idadi ya watu ambao data zao zilitumika katika kufundisha mfano huo? Je, wakala wako wa AI ni wakala wawili kwa siri? Hivi sasa, hakuna njia ya kujua.

Kuaminika kwa sheria

Tunaamini kwamba watu wanapaswa kutarajia zaidi kutoka kwa teknolojia na kwamba kampuni za teknolojia na AI zinaweza kutegemewa zaidi. Mapendekezo ya Umoja wa Ulaya Sheria ya AI inachukua baadhi ya hatua muhimu, inayohitaji uwazi kuhusu data inayotumika kufunza miundo ya AI, kupunguza uwezekano wa upendeleo, ufichuzi wa hatari zinazoonekana na kuripoti kuhusu majaribio ya viwango vya sekta. Umoja wa Ulaya unasonga mbele na udhibiti wa AI.

AI zilizopo nyingi kushindwa kuzingatia na mamlaka hii inayoibuka ya Uropa, na, licha ya uhamasishaji wa hivi karibuni kutoka kwa Kiongozi wa Wengi katika Seneti Chuck Schumer, Marekani iko nyuma sana katika udhibiti huo.

AI za siku zijazo zinapaswa kuaminika. Isipokuwa na hadi serikali itoe ulinzi thabiti wa watumiaji kwa bidhaa za AI, watu watakuwa peke yao kukisia hatari na upendeleo unaowezekana wa AI, na kupunguza athari zao mbaya zaidi kwa uzoefu wa watu nao.

Kwa hivyo unapopata pendekezo la usafiri au taarifa ya kisiasa kutoka kwa zana ya AI, ifikie kwa jicho lile lile la kutilia shaka ungependa tangazo la mabango au mtu aliyejitolea kwenye kampeni. Kwa uchawi wake wote wa kiteknolojia, chombo cha AI kinaweza kuwa kidogo zaidi kuliko sawa.

Kuhusu Mwandishi

Bruce schneier, Mhadhiri Msaidizi katika Sera ya Umma, Shule ya Harvard Kennedy na Nathan Sanders, Mshirika, Kituo cha Berkman Klein cha Mtandao na Jamii, Chuo Kikuu cha Harvard

Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.