Image na Susan Cipriano
Kutoka kwa Mhariri:
Kama ilivyoangaziwa katika makala haya, maendeleo ya kampeni za kisiasa zinazoendeshwa na AI, kama vile mashine ya dhahania iitwayo Clogger, inaweza kudhoofisha sana uadilifu wa uchaguzi. Kwa kutumia kiotomatiki, utumaji ujumbe maalum, na ujifunzaji wa uimarishaji, mashine hizi zina uwezo wa kudhibiti na kubadilisha tabia za wapigakura kwa kiwango kikubwa.
Katika enzi ambapo akili ya bandia (AI) inasonga mbele kwa kasi, lazima tuwe macho dhidi ya matishio yanayoweza kutokea kwa michakato yetu ya kidemokrasia. Kuibuka kwa kampeni zinazoendeshwa na AI kunatia changamoto kiini cha demokrasia. Badala ya uchaguzi kuamuliwa kwa nguvu ya mawazo, mapendekezo ya sera, na uchaguzi halisi wa wapigakura, wanaweza kuyumbishwa na mashine zinazolenga ushindi pekee. Yaliyomo yatatoka kwa mifano ya lugha ya AI bila kuzingatia ukweli au kanuni za kisiasa. Kimsingi, matokeo ya uchaguzi yangeamriwa na akili ya bandia, na kuharibu mchakato wa kidemokrasia.
Ili kuzuia kuibuka kwa "clogocracy" na kuwanyima uwezo wananchi, ni muhimu tuchukue hatua. Ulinzi wa faragha ulioimarishwa na sheria dhabiti za faragha za data zinaweza kusaidia kupunguza ufikiaji wa mashine za AI kwa data ya kibinafsi, kupunguza ufanisi wao katika kulenga na kuendesha watu binafsi. Tume za uchaguzi zinafaa pia kuzingatia kupiga marufuku au kudhibiti kikamilifu mifumo ya AI iliyoundwa ili kuwashawishi wapiga kura. Utekelezaji wa kanuni zinazohitaji kanusho wazi wakati ujumbe unaotokana na AI unatumiwa katika kampeni za kisiasa. Hii inaweza kutoa uwazi na kusaidia wapiga kura kufanya maamuzi sahihi.
Ni muhimu kwamba tushughulikie changamoto hizi kwa uthabiti na kuhakikisha kwamba uwezo wa AI unatumiwa kwa uwajibikaji ili kuzingatia kanuni za demokrasia. Kwa kulinda uadilifu wa uchaguzi na kulinda uhuru wa kuchagua, tunaweza kukabiliana na matatizo ya AI na kuhifadhi misingi ya utawala wa kidemokrasia.
Jinsi AI inaweza kuchukua uchaguzi - na kudhoofisha demokrasia
Imeandikwa na Archon Fung, Profesa wa Uraia na Kujitawala, Shule ya Harvard Kennedy na Lawrence Lessig, Profesa wa Sheria na Uongozi, Chuo Kikuu cha Harvard
Je, mashirika yanaweza kutumia miundo ya lugha ya kijasusi ya bandia kama vile ChatGPT kuwashawishi wapigakura kutenda kwa njia mahususi?
Seneta Josh Hawley alimuuliza Mkurugenzi Mtendaji wa OpenAI Sam Altman swali hili katika a Mei 16, 2023, kusikilizwa kwa Bunge la Seneti ya Marekani juu ya akili ya bandia. Altman alijibu kwamba kwa kweli alikuwa na wasiwasi kwamba baadhi ya watu wanaweza kutumia modeli za lugha kudanganya, kushawishi na kushiriki katika mwingiliano wa ana kwa ana na wapiga kura.
Altman hakufafanua, lakini anaweza kuwa na kitu kama hiki akilini. Hebu fikiria kwamba hivi karibuni, wanateknolojia wa kisiasa wanatengeneza mashine inayoitwa Clogger - kampeni ya kisiasa katika sanduku nyeusi. Clogger anafuatilia lengo moja tu: kuongeza nafasi ambazo mgombea wake - kampeni inayonunua huduma za Clogger Inc. - atashinda katika uchaguzi.
Wakati majukwaa kama Facebook, Twitter na YouTube hutumia aina za AI kupata watumiaji tumia muda zaidi kwenye tovuti zao, AI ya Clogger ingekuwa na lengo tofauti: kubadilisha tabia ya watu ya kupiga kura.
Jinsi Clogger angefanya kazi
Kama mwanasayansi wa siasa na msomi wa sheria wanaosoma makutano ya teknolojia na demokrasia, tunaamini kuwa kitu kama Clogger kinaweza kutumia otomatiki kuongeza kiwango na uwezekano wa ufanisi wa ghiliba tabia na mbinu microtargeting kwamba kampeni za kisiasa zimetumika tangu mwanzoni mwa miaka ya 2000. Kama vile watangazaji hutumia historia yako ya kuvinjari na mitandao ya kijamii ili kulenga matangazo ya kibiashara na kisiasa sasa hivi, Clogger atakuzingatia - na mamia ya mamilioni ya wapiga kura wengine - kibinafsi.
Itatoa maendeleo matatu juu ya upotoshaji wa tabia ya hali ya juu wa algorithmic. Kwanza, muundo wake wa lugha ungetoa ujumbe - maandishi, mitandao ya kijamii na barua pepe, labda ikijumuisha picha na video - zilizolengwa kwako kibinafsi. Ingawa watangazaji huweka kimkakati idadi ndogo ya matangazo, miundo ya lugha kama vile ChatGPT inaweza kukuundia ujumbe mwingi wa kipekee - na mamilioni kwa wengine - katika muda wa kampeni.
Pili, Clogger angetumia mbinu inayoitwa kuimarisha kujifunza ili kutoa mfululizo wa ujumbe ambao unakuwa na uwezekano mkubwa zaidi wa kubadilisha kura yako. Kujifunza kwa uimarishaji ni mbinu ya kujifunza kwa mashine, kujaribu-na-kosa ambapo kompyuta huchukua hatua na kupata maoni kuhusu ni ipi inafanya kazi vizuri zaidi ili kujifunza jinsi ya kutimiza lengo. Mashine zinazoweza kucheza Go, Chess na michezo mingi ya video bora kuliko binadamu yeyote wametumia mafunzo ya kuimarisha.
Jinsi mafunzo ya kuimarisha yanavyofanya kazi.
Tatu, katika kipindi cha kampeni, jumbe za Clogger zinaweza kubadilika ili kuzingatia majibu yako kwa utumaji wa awali wa mashine na kile ambacho imejifunza kuhusu kubadilisha mawazo ya wengine. Clogger ataweza kuendelea na "mazungumzo" ya nguvu na wewe - na mamilioni ya watu wengine - baada ya muda. Ujumbe wa Clogger ungekuwa sawa na matangazo yanayokufuata kwenye tovuti tofauti na mitandao ya kijamii.
Tabia ya AI
Vipengele vitatu zaidi - au hitilafu - ni muhimu kuzingatia.
Kwanza, jumbe ambazo Clogger hutuma zinaweza kuwa au zisiwe za kisiasa katika maudhui. Lengo pekee la mashine ni kuongeza idadi ya kura, na kuna uwezekano ingepanga mikakati ya kufikia lengo hili ambalo hakuna mwanaharakati wa kibinadamu angefikiria.
Uwezekano mmoja ni kutuma wapigakura ambao ni wapinzani wao habari kuhusu mapenzi yao yasiyo ya kisiasa ambayo wanayo katika michezo au burudani ili kuficha ujumbe wa kisiasa wanaopokea. Uwezekano mwingine ni kutuma ujumbe wa kukasirisha - kwa mfano matangazo ya kutoweza kujizuia - yaliyowekwa wakati ili kuendana na ujumbe wa wapinzani. Na lingine ni kuendesha vikundi rafiki vya wapiga kura kwenye mitandao ya kijamii ili kutoa maana kwamba duru zao za kijamii zinamuunga mkono mgombeaji wake.
Pili, Clogger hajali ukweli. Hakika, haina njia ya kujua ukweli au uwongo. Mfano wa lugha "hallucinations" si tatizo kwa mashine hii kwa sababu lengo lake ni kubadilisha kura yako, si kutoa taarifa sahihi.
Tatu, kwa sababu ni a sanduku nyeusi aina ya akili ya bandia, watu wasingekuwa na njia ya kujua ni mikakati gani inatumia.
Sehemu ya AI inayoweza kuelezeka inalenga kufungua kisanduku cheusi cha miundo mingi ya kujifunza mashine ili watu waweze kuelewa jinsi inavyofanya kazi.
Klogokrasia
Ikiwa kampeni ya urais wa chama cha Republican ingempeleka Clogger mnamo 2024, kampeni ya Kidemokrasia inaweza kulazimika kujibu kwa njia sawa, labda kwa mashine sawa. Iite Dogger. Iwapo wasimamizi wa kampeni walidhani kuwa mashine hizi zinafaa, shindano la urais linaweza kuwa la Clogger dhidi ya Dogger, na mshindi angekuwa mteja wa mashine bora zaidi.
Wanasayansi wa kisiasa na wachambuzi wangekuwa na mengi ya kusema kuhusu kwa nini AI moja au nyingine ilishinda, lakini hakuna mtu ambaye angejua kweli. Rais atakuwa amechaguliwa si kwa sababu mapendekezo yake ya sera au mawazo ya kisiasa yaliwashawishi Wamarekani zaidi, lakini kwa sababu alikuwa na AI yenye ufanisi zaidi. Maudhui ambayo yalishinda siku hiyo yangetokana na AI iliyolenga ushindi pekee, bila mawazo yake ya kisiasa, badala ya kutoka kwa wagombea au vyama.
Kwa maana hii muhimu sana, mashine ingekuwa imeshinda uchaguzi badala ya mtu. Uchaguzi haungekuwa wa kidemokrasia tena, ingawa shughuli zote za kawaida za demokrasia - hotuba, matangazo, jumbe, upigaji kura na kuhesabu kura - zitakuwa zimefanyika.
Rais aliyechaguliwa na AI basi anaweza kwenda moja ya njia mbili. Anaweza kutumia vazi la uchaguzi kufuata sera za chama cha Republican au Democratic. Lakini kwa sababu mawazo ya chama yanaweza kuwa hayana uhusiano mdogo na kwa nini watu walipiga kura jinsi walivyopiga - Clogger na Dogger hawajali maoni ya sera - vitendo vya rais havitaakisi matakwa ya wapiga kura. Wapiga kura wangetumiwa na AI badala ya kuchagua viongozi na sera zao za kisiasa kwa uhuru.
Njia nyingine ni kwa rais kufuata jumbe, mienendo na sera ambazo mashine inatabiri zitaongeza uwezekano wa kuchaguliwa tena. Katika njia hii, rais hangekuwa na jukwaa au ajenda maalum zaidi ya kudumisha mamlaka. Hatua za rais, zikiongozwa na Clogger, zingekuwa zile ambazo zina uwezekano mkubwa wa kuwahadaa wapiga kura badala ya kutumikia maslahi yao ya kweli au hata itikadi ya rais mwenyewe.
Kuepuka Klogokrasia
Itawezekana kuepusha udanganyifu wa uchaguzi wa AI ikiwa wagombeaji, kampeni na washauri wote wangeapa kutumia AI kama hiyo ya kisiasa. Tunaamini hilo haliwezekani. Ikiwa masanduku meusi yenye ufanisi kisiasa yangetengenezwa, kishawishi cha kuzitumia kingekuwa karibu kutozuilika. Hakika, washauri wa kisiasa wanaweza kuona kutumia zana hizi kama inavyohitajika na wajibu wao wa kitaaluma kusaidia wagombeaji wao kushinda. Na mara mgombea mmoja atakapotumia zana hiyo madhubuti, wapinzani hawangeweza kutarajiwa kupinga kwa kuwapokonya silaha upande mmoja.
Ulinzi wa faragha ulioimarishwa itasaidia. Clogger itategemea ufikiaji wa idadi kubwa ya data ya kibinafsi ili kulenga watu binafsi, ujumbe wa hila unaolenga kuwashawishi au kuwadanganya, na kuwafuatilia na kuwalenga upya wakati wa kampeni. Kila taarifa kidogo ambayo makampuni au watunga sera wanakanusha mashine hiyo ingeifanya isifanye kazi vizuri.
Sheria kali za faragha za data zinaweza kusaidia kuelekeza AI mbali na kuwa na hila.
Suluhu lingine ni tume za uchaguzi. Wanaweza kujaribu kupiga marufuku au kudhibiti vikali mashine hizi. Kuna mjadala mkali kuhusu kama vile hotuba "replicant"., hata kama ni asili ya kisiasa, inaweza kudhibitiwa. Mila ya Marekani ya uhuru wa kujieleza inawafanya wasomi wengi wakuu kusema haiwezi.
Lakini hakuna sababu ya kupanua kiotomati ulinzi wa Marekebisho ya Kwanza kwa bidhaa za mashine hizi. Taifa linaweza kuchagua kutoa haki za mashine, lakini huo unapaswa kuwa uamuzi unaotokana na changamoto za leo, sio dhana potofu kwamba maoni ya James Madison mwaka 1789 yalikusudiwa kutumika kwa AI.
Wasimamizi wa Umoja wa Ulaya wanaelekea katika mwelekeo huu. Watunga sera walirekebisha rasimu ya Bunge la Ulaya ya Sheria yake ya Ujasusi Bandia ili kuteua “mifumo ya AI kushawishi wapiga kura katika kampeni” kama "hatari kubwa" na chini ya uchunguzi wa udhibiti.
Hatua moja iliyo salama kikatiba, ikiwa ndogo, ambayo tayari imepitishwa kwa sehemu Wadhibiti wa mtandao wa Ulaya na katika California, ni kupiga marufuku roboti kujipitisha kama watu. Kwa mfano, udhibiti unaweza kuhitaji ujumbe wa kampeni kuja na kanusho wakati maudhui yaliyomo yanatolewa na mashine badala ya wanadamu.
Hii itakuwa kama mahitaji ya kanusho la utangazaji - "Imelipiwa na Sam Jones kwa Kamati ya Bunge" - lakini iliyorekebishwa ili kuonyesha asili yake ya AI: "Tangazo hili lililotolewa na AI lililipiwa na Sam Jones kwa Kamati ya Congress." Toleo thabiti zaidi linaweza kuhitaji: "Ujumbe huu unaozalishwa na AI unatumwa kwako na Kamati ya Sam Jones ya Congress kwa sababu Clogger ametabiri kuwa kufanya hivyo kutaongeza nafasi zako za kumpigia kura Sam Jones kwa 0.0002%. Angalau, tunaamini wapiga kura wanastahili kujua wakati ni roboti inayozungumza nao, na wanapaswa kujua ni kwa nini, vile vile.
Uwezo wa mfumo kama Clogger unaonyesha kuwa njia kuelekea kunyimwa uwezo wa pamoja wa binadamu huenda usihitaji mtu fulani mwenye nguvu zaidi akili ya jumla ya bandia. Huenda ikahitaji wanakampeni na washauri walio na hamu kubwa zaidi ambao wana zana mpya zenye nguvu ambazo zinaweza kusukuma mamilioni ya vitufe vingi vya watu.
kuhusu Waandishi
Archon Fung, Profesa wa Uraia na Kujitawala, Shule ya Harvard Kennedy na Lawrence Lessig, Profesa wa Sheria na Uongozi, Chuo Kikuu cha Harvard
Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.
Nyongeza ya Mhariri: Uwezo wa AI kuchukua uchaguzi na kudhoofisha demokrasia ni wasiwasi mkubwa ambao unadai usikivu wetu. Kama makala haya yalivyoangazia, kuongezeka kwa kampeni za kisiasa zinazoendeshwa na AI kama vile Clogger kunaweza kurekebisha matokeo ya uchaguzi, kwa mashine zinazoathiri tabia ya wapigakura kwa kiwango ambacho hakijawahi kushuhudiwa. Matokeo ya mabadiliko hayo yatakuwa makubwa sana, huku uchaguzi ukiamuliwa si kwa matakwa ya watu bali kwa ufanisi wa upotoshaji wa AI.
Ili kuzuia hali hii ya kunyimwa mamlaka kwa wananchi na kulinda demokrasia, ni lazima tuchukue hatua madhubuti. Ulinzi thabiti wa faragha na kanuni zinazozuia ushawishi wa mifumo ya AI katika uchaguzi ni muhimu. Kwa kuhakikisha uwazi, kutekeleza kanusho za wazi kwa maudhui yanayozalishwa na AI, na kuendeleza matumizi ya uwajibikaji ya AI, tunaweza kudumisha uadilifu wa michakato ya kidemokrasia na kulinda maadili ya msingi ya jamii yetu.
Ni muhimu tuendelee kuwa macho na kufanya kazi kwa pamoja ili kukabiliana na changamoto zinazoletwa na AI katika uchaguzi. Kwa kufanya hivyo, tunaweza kuhifadhi maadili ya kidemokrasia ambayo ni msingi wa jamii zetu na kupata siku zijazo ambapo nguvu ya teknolojia inalingana na maslahi na matarajio ya watu.
Vitabu kuhusiana:
Juu ya Udhalimu: Masomo Ishirini kutoka Karne ya Ishirini
na Timothy Snyder
Kitabu hiki kinatoa mafunzo kutoka kwa historia kwa ajili ya kuhifadhi na kutetea demokrasia, ikiwa ni pamoja na umuhimu wa taasisi, jukumu la raia mmoja mmoja, na hatari za ubabe.
Bofya kwa maelezo zaidi au kuagiza
Wakati Wetu Ni Sasa: Nguvu, Kusudi, na Kupigania Amerika ya Haki
na Stacey Abrams
Mwandishi, mwanasiasa na mwanaharakati, anashiriki maono yake ya demokrasia jumuishi zaidi na ya haki na anatoa mikakati ya vitendo ya ushiriki wa kisiasa na uhamasishaji wa wapiga kura.
Bofya kwa maelezo zaidi au kuagiza
Jinsi Demokrasia Zinavyokufa
na Steven Levitsky na Daniel Ziblatt
Kitabu hiki kinachunguza ishara za onyo na sababu za kuvunjika kwa demokrasia, kikichukua tafiti kutoka kote ulimwenguni ili kutoa maarifa kuhusu jinsi ya kulinda demokrasia.
Bofya kwa maelezo zaidi au kuagiza
Watu, Hapana: Historia Fupi ya Kupinga Populism
na Thomas Frank
Mwandishi anatoa historia ya vuguvugu la watu wengi nchini Marekani na kukosoa itikadi ya "anti-populist" ambayo anasema imekandamiza mageuzi na maendeleo ya kidemokrasia.
Bofya kwa maelezo zaidi au kuagiza
Demokrasia katika Kitabu Kimoja au Chini: Jinsi Inavyofanya Kazi, Kwa Nini Haifanyiki, na Kwa Nini Kuirekebisha Ni Rahisi Kuliko Unavyofikiri.
na David Litt
Kitabu hiki kinatoa muhtasari wa demokrasia, ikiwa ni pamoja na uwezo na udhaifu wake, na kinapendekeza marekebisho ili kuufanya mfumo kuwa msikivu zaidi na kuwajibika.
