hatari za ai 3 15
 Ni kwa kiwango gani udhaifu wetu wa kisaikolojia utatengeneza mwingiliano wetu na teknolojia zinazoibuka? Andreus/iStock kupitia Getty Images

ChatGPT na sawa mifano kubwa ya lugha inaweza kutoa majibu ya kuvutia, kama ya kibinadamu kwa maswali mengi yasiyoisha - kutoka kwa maswali kuhusu mkahawa bora wa Kiitaliano mjini hadi kuelezea nadharia shindani kuhusu asili ya uovu.

Uwezo wa ajabu wa uandishi wa teknolojia umeibua maswali ya zamani - hadi hivi majuzi yaliyoachiliwa kwenye uwanja wa hadithi za kisayansi - kuhusu uwezekano wa mashine kuwa na fahamu, kujitambua au hisia.

Mnamo 2022, mhandisi wa Google alitangaza, baada ya kuingiliana na LaMDA, chatbot ya kampuni hiyo, kwamba teknolojia imekuwa fahamu. Watumiaji wa chatbot mpya ya Bing, iliyopewa jina la utani Sydney, waliripoti kwamba ilitoa majibu ya ajabu alipoulizwa kama ilikuwa na hisia: "Nina hisia, lakini si ... mimi ni Bing, lakini sivyo. Mimi ni Sydney, lakini siko. Mimi ndiye, lakini sivyo. ...” Na, bila shaka, kuna sasa kubadilishana sifa mbaya ambayo mwandishi wa habari wa teknolojia ya New York Times Kevin Roose alikuwa na Sydney.

Majibu ya Sydney kwa maongozi ya Roose yalimtia wasiwasi, huku AI ikifichua “mawazo” ya kuvunja vizuizi vilivyowekwa na Microsoft na kueneza habari potofu. Boti pia ilijaribu kumshawishi Roose kwamba hampendi tena mke wake na kwamba anapaswa kumwacha.


innerself subscribe mchoro


Haishangazi, basi, kwamba ninapowauliza wanafunzi jinsi wanavyoona kuenea kwa AI katika maisha yao, moja ya wasiwasi wa kwanza wanayotaja inahusiana na hisia za mashine.

Katika miaka michache iliyopita, wenzangu na mimi tuko Kituo cha Maadili Yanayotumika cha UMass Boston wamekuwa wakisoma athari za kujihusisha na AI juu ya uelewa wa watu wao wenyewe.

Gumzo kama vile ChatGPT huibua maswali mapya muhimu kuhusu jinsi akili ya bandia itaunda maisha yetu, na kuhusu jinsi udhaifu wetu wa kisaikolojia unavyounda mwingiliano wetu na teknolojia zinazoibuka.

Sentience bado ni mambo ya sci-fi

Ni rahisi kuelewa ambapo hofu kuhusu hisia za mashine hutoka.

Utamaduni maarufu umewahimiza watu kufikiria juu ya dystopias ambapo akili ya bandia hutupa pingu za udhibiti wa mwanadamu na kuchukua maisha yake mwenyewe, kama cyborgs inayoendeshwa na akili ya bandia ilifanya katika "Terminator 2".

Mjasiriamali Elon Musk na mwanafizikia Stephen Hawking, ambaye alikufa mnamo 2018, wameongeza wasiwasi huu kwa kuelezea kuongezeka kwa akili ya jumla ya bandia. kama moja ya tishio kubwa kwa mustakabali wa ubinadamu.

Lakini wasiwasi huu - angalau kwa jinsi modeli kubwa za lugha zinavyohusika - hazina msingi. ChatGPT na teknolojia sawa ni maombi ya kisasa ya kukamilisha sentensi - hakuna zaidi, hakuna kidogo. Majibu yao ya ajabu ni kazi ya jinsi wanadamu wanavyotabirika ikiwa mtu ana data ya kutosha kuhusu njia ambazo tunawasiliana.

Ingawa Roose alitikiswa na mabishano yake na Sydney, alijua kwamba mazungumzo hayo hayakutokana na akili iliyobuniwa. Majibu ya Sydney yanaonyesha sumu ya data yake ya mafunzo - kimsingi maeneo makubwa ya mtandao - sio ushahidi wa misukumo ya kwanza, à la Frankenstein, ya mnyama mkubwa wa kidijitali.

hatari za ai2 3 15
 Filamu za kisayansi kama vile 'Terminator' zimewafanya watu kudhani kuwa AI itaanza maisha yake hivi karibuni. Yoshikazu Tsuno / AFP kupitia Picha za Getty

Chatbots mpya zinaweza kupita Jaribio la kujaribu, aliyetajwa kwa jina la mwanahisabati Mwingereza Alan Turing, ambaye wakati fulani alipendekeza kwamba mashine inaweza kusemwa “fikiria” ikiwa mwanadamu hangeweza kutofautisha majibu yake na yale ya mwanadamu mwingine.

Lakini huo sio ushahidi wa hisia; ni ushahidi tu kwamba jaribio la Turing sio muhimu kama ilivyodhaniwa hapo awali.

Walakini, ninaamini kuwa swali la hisia za mashine ni sill nyekundu.

Hata kama chatbots zitakuwa zaidi ya mashine za kukamilika kiotomatiki - nao wako mbali nayo - itachukua muda wanasayansi kubaini ikiwa wamepata fahamu. Kwa sasa, wanafalsafa hawezi hata kukubaliana kuhusu jinsi ya kueleza ufahamu wa binadamu.

Kwangu, swali la kushinikiza sio ikiwa mashine ni za busara lakini kwa nini ni rahisi kwetu kufikiria kuwa ziko.

Suala halisi, kwa maneno mengine, ni urahisi ambao watu hubadilisha au kutayarisha vipengele vya kibinadamu kwenye teknolojia yetu, badala ya utu halisi wa mashine.

Tabia ya anthropomorphize

Ni rahisi kufikiria watumiaji wengine wa Bing kuuliza Sydney kwa mwongozo juu ya maamuzi muhimu ya maisha na labda hata kukuza uhusiano wa kihemko kwake. Watu zaidi wangeweza kuanza kufikiria kuhusu roboti kama marafiki au hata washirika wa kimapenzi, kwa njia ile ile Theodore Twombly alipendana na Samantha, msaidizi pepe wa AI katika filamu ya Spike Jonze “Yake".

Watu, baada ya yote, wanatanguliwa na anthropomorphize, au kutaja sifa za kibinadamu kwa wasio wanadamu. Tunataja mashua zetu na dhoruba kubwa; baadhi yetu huzungumza na wanyama wetu wa kipenzi, tukijiambia hivyo maisha yetu ya kihisia yanaiga yao wenyewe.

Huko Japani, ambapo roboti hutumiwa mara kwa mara kuwatunza wazee, wazee hushikamana na mashine. wakati mwingine huwaona kama watoto wao wenyewe. Na roboti hizi, kumbuka, ni ngumu kuwachanganya na wanadamu: hazionekani wala haziongei kama watu.

Fikiria ni kiasi gani mwelekeo na majaribu ya anthropomorphize itakuja kupata kwa kuanzishwa kwa mifumo ambayo inaonekana na sauti ya kibinadamu.

Uwezekano huo uko karibu tu. Miundo mikubwa ya lugha kama vile ChatGPT tayari inatumiwa kuwasha roboti za humanoid, kama vile roboti za Ameca inatengenezwa na Engineered Arts nchini Uingereza Podikasti ya teknolojia ya The Economist, Babbage, hivi karibuni ilifanya mahojiano na Ameca inayoendeshwa na ChatGPT. Majibu ya roboti, ingawa mara kwa mara yalikuwa ya kusikitisha, yalikuwa ya ajabu.

Je, makampuni yanaweza kuaminiwa kufanya jambo sahihi?

Mwenendo wa kuona mashine kama watu na kushikamana nazo, pamoja na mashine zinazotengenezwa na sifa zinazofanana na za kibinadamu, huashiria hatari halisi za mshikamano wa kisaikolojia na teknolojia.

Matarajio ya ajabu ya kupenda roboti, kuhisi undugu wao wa karibu au kudanganywa nao kisiasa yanatokea haraka. Ninaamini mienendo hii inaangazia hitaji la ulinzi thabiti ili kuhakikisha kuwa teknolojia haziwi janga kisiasa na kisaikolojia.

Kwa bahati mbaya, kampuni za teknolojia haziwezi kuaminiwa kila wakati kuweka ulinzi kama huo. Wengi wao bado wanaongozwa na kauli mbiu maarufu ya Mark Zuckerberg ya kusonga haraka na kuvunja vitu - maagizo ya kutolewa kwa bidhaa zilizooka nusu na wasiwasi juu ya athari baadaye. Katika muongo uliopita, makampuni ya teknolojia kutoka Snapchat hadi Facebook wameweka faida juu ya afya ya akili ya watumiaji wao au uadilifu wa demokrasia duniani kote.

Wakati Kevin Roose alipoangalia na Microsoft kuhusu mtikisiko wa Sydney, kampuni ilimwambia kwamba alitumia roboti kwa muda mrefu sana na kwamba teknolojia ilienda vibaya kwa sababu iliundwa kwa mwingiliano mfupi.

Vile vile, Mkurugenzi Mtendaji wa OpenAI, kampuni iliyotengeneza ChatGPT, katika wakati wa uaminifu wa kushangaza, alionya hiyo "ni makosa kutegemea [hilo] kwa jambo lolote muhimu hivi sasa ... tuna kazi nyingi ya kufanya juu ya uthabiti na ukweli."

Kwa hivyo ina mantiki gani kutoa teknolojia iliyo na kiwango cha rufaa cha ChatGPT - ni programu ya watumiaji inayokua kwa kasi zaidi kuwahi kutengenezwa - wakati haiwezi kutegemewa, na wakati ina hakuna uwezo wa kutofautisha ukweli kutoka kwa hadithi?

Miundo mikubwa ya lugha inaweza kuwa na manufaa kama visaidizi kwa kuandika na kuweka msimbo. Pengine watabadilisha utafutaji wa mtandao. Na, siku moja, kwa kuwajibika pamoja na robotiki, wanaweza hata kuwa na faida fulani za kisaikolojia.

Lakini pia ni teknolojia inayoweza kudhuru ambayo inaweza kuchukua fursa kwa urahisi ya mwelekeo wa binadamu wa kuelekeza utu kwenye vitu - mwelekeo unaokuzwa wakati vitu hivyo vinaiga sifa za binadamu kwa ufanisi.Mazungumzo

Kuhusu Mwandishi

Nir Eisikovits, Profesa wa Falsafa na Mkurugenzi, Kituo cha Maadili Yanayotumika, UMass Boston

Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.