Napoleon angeweza kujifunza kutoka zamani. uchoraji na Adolph Northen/wikipedia

Ni maneno ambayo kutojua historia humfanya mtu arudie tena. Kama watu wengi pia wamedokeza, jambo pekee tunalojifunza kutoka kwa historia ni kwamba mara chache sisi hujifunza chochote kutoka kwa historia. Watu wanajihusisha vita vya ardhi huko Asia tena na tena. Pia wanarudia makosa yale yale ya kuchumbiana, tena na tena. Lakini kwa nini hii hutokea? Na je, teknolojia itaimaliza?

Suala moja ni kusahau na "myopia”: hatuoni jinsi matukio ya zamani yanavyohusiana na ya sasa, tukipuuza muundo unaojitokeza. Napoleon alipaswa kugundua kufanana kati ya maandamano yake huko Moscow na mfalme wa Uswidi Jaribio la Charles XII lililoshindwa kufanya vivyo hivyo takriban karne moja kabla yake.

Sisi pia mbaya katika kujifunza mambo yanapoharibika. Badala ya kuamua ni kwa nini uamuzi haukuwa sahihi na jinsi ya kuuepuka kutokea tena, mara nyingi tunajaribu kupuuza mabadiliko ya matukio yenye kuaibisha. Hiyo ina maana kwamba wakati ujao hali kama hiyo inakuja karibu, hatuoni kufanana - na kurudia kosa.

Zote mbili zinaonyesha shida na habari. Katika kesi ya kwanza, tunashindwa kukumbuka habari ya kibinafsi au ya kihistoria. Katika pili, tunashindwa kusimba maelezo yanapopatikana.

Hiyo ilisema, sisi pia hufanya makosa wakati hatuwezi kuamua kwa usahihi kile kitakachotokea. Labda hali ni ngumu sana au inachukua muda mwingi kufikiria. Au tunapendelea kutafsiri vibaya kinachoendelea.

Nguvu ya kuudhi ya teknolojia

Lakini je, teknolojia inaweza kutusaidia? Sasa tunaweza kuhifadhi habari nje ya akili zetu, na kutumia kompyuta kuzipata. Hiyo inapaswa kufanya kujifunza na kukumbuka kuwa rahisi, sawa?

Kuhifadhi habari ni muhimu wakati inaweza kurejeshwa vizuri. Lakini kukumbuka si kitu sawa na kurejesha faili kutoka eneo au tarehe inayojulikana. Kukumbuka kunahusisha kuona mambo yanayofanana na kuleta mambo akilini.

Akili bandia (AI) pia inahitaji kuwa na uwezo wa kuleta mfanano katika akili zetu moja kwa moja - mara nyingi kufanana kusikokubalika. Lakini ikiwa ni nzuri katika kutambua kufanana iwezekanavyo (baada ya yote, inaweza kutafuta mtandao wote na data zetu zote za kibinafsi) pia mara nyingi itatambua uongo.

Kwa tarehe zilizoshindwa, inaweza kutambua kwamba wote walihusisha chakula cha jioni. Lakini haikuwa shida ya kula chakula. Na ilikuwa ni bahati mbaya kwamba kulikuwa na tulips kwenye meza - hakuna sababu ya kuepuka. Mara nyingi tunarudia makosa ya uchumba. 

Hiyo ina maana kwamba itatuonya kuhusu mambo ambayo hatuyajali, labda kwa njia ya kuudhi. Kupunguza unyeti wake kunamaanisha kuongeza hatari ya kutopata onyo inapohitajika.

Hili ni tatizo la msingi na linatumika sawa na mshauri yeyote: mshauri mwenye tahadhari atalia mbwa mwitu mara nyingi sana, mshauri mwenye matumaini atakosa hatari.

Mshauri mzuri ni mtu tunayemwamini. Wana takriban kiwango sawa cha tahadhari kama sisi, na tunajua wanajua tunachotaka. Hii ni vigumu kupata kwa mshauri wa kibinadamu, na hata zaidi katika AI.

Je, teknolojia huacha wapi makosa? Idiot-proofing inafanya kazi. Mashine za kukata zinahitaji ushikilie vifungo, ukiweka mikono yako mbali na vile. "Switch ya mtu aliyekufa" inasimamisha mashine ikiwa opereta atakuwa hana uwezo.

Tanuri za microwave huzima mionzi wakati mlango unafunguliwa. Ili kurusha makombora, watu wawili wanahitaji kugeuza funguo kwa wakati mmoja kwenye chumba. Hapa, muundo wa uangalifu hufanya makosa kuwa ngumu kufanya. Lakini hatujali vya kutosha kuhusu hali zisizo muhimu sana, na kufanya muundo hapo uwe na uthibitisho mdogo wa idiot.

Wakati teknolojia inafanya kazi vizuri, mara nyingi tunaiamini sana. Marubani wa mashirika ya ndege wana saa chache za kweli za kuruka leo kuliko zamani kutokana na ufanisi wa ajabu wa mifumo ya urubani. Hii ni habari mbaya wakati otomatiki inaposhindwa, na rubani ana uzoefu mdogo wa kuendelea kurekebisha hali hiyo.

Ya kwanza ya a aina mpya ya jukwaa la mafuta (Sleipnir A) lilizama kwa sababu wahandisi waliamini hesabu ya programu ya nguvu zinazofanya kazi juu yake. Mfano huo haukuwa sahihi, lakini uliwasilisha matokeo kwa njia ya kulazimisha kwamba walionekana kuwa wa kuaminika.

Sehemu kubwa ya teknolojia yetu inaaminika sana. Kwa mfano, hatuoni jinsi pakiti za data zilizopotea kwenye mtandao zinavyopatikana kila mara kwenye pazia, jinsi misimbo ya kusahihisha hitilafu inavyoondoa kelele au jinsi fuse na upunguzaji wa data hufanya vifaa kuwa salama.

Lakini tunaporundikana kwenye ngazi baada ya kiwango cha utata, inaonekana si ya kutegemewa sana. Tunaona wakati video ya Zoom inachelewa, programu ya AI hujibu vibaya au kompyuta inapoanguka. Bado muulize mtu yeyote ambaye alitumia kompyuta au gari miaka 50 iliyopita jinsi walivyofanya kazi kweli, na utagundua kuwa walikuwa na uwezo mdogo na wasiotegemewa.

Tunafanya teknolojia kuwa ngumu zaidi hadi inakuwa ya kuudhi au kutokuwa salama kutumia. Kadiri sehemu zinavyozidi kuwa bora na kutegemewa zaidi, mara nyingi tunachagua kuongeza vipengele vipya vya kusisimua na muhimu badala ya kushikamana na kile kinachofanya kazi. Hii hatimaye hufanya teknolojia isiwe ya kuaminika kuliko inavyoweza kuwa.

Makosa yatafanywa

Hii pia ndiyo sababu AI ni upanga wenye makali kuwili kwa kuepuka makosa. Uendeshaji otomatiki mara nyingi hufanya mambo kuwa salama na ufanisi zaidi inapofanya kazi, lakini inaposhindwa hufanya shida kuwa kubwa zaidi. Kujitegemea kunamaanisha kuwa programu mahiri inaweza kutimiza mawazo yetu na kutupakia, lakini ikiwa haifikirii kama tunavyotaka, inaweza kufanya vibaya.

Kadiri ilivyo ngumu zaidi, ndivyo makosa yanaweza kuwa ya ajabu. Mtu yeyote ambaye ameshughulika na wasomi wenye akili nyingi anajua jinsi wanavyoweza kuharibu mambo kwa ustadi mkubwa wakati akili yao ya kawaida inashindwa - na AI ina akili ndogo sana ya kibinadamu.

Hii pia ni sababu kubwa ya kuwa na wasiwasi juu ya AI inayoongoza kufanya maamuzi: wanafanya aina mpya za makosa. Sisi wanadamu tunajua makosa ya kibinadamu, kumaanisha kuwa tunaweza kuyaangalia. Lakini mashine mahiri zinaweza kufanya makosa ambayo hatukuweza kufikiria kamwe.

Zaidi ya hayo, mifumo ya AI imepangwa na kufunzwa na wanadamu. Na kuna mifano mingi ya mifumo kama hiyo kuwa na upendeleo na hata upendeleo. Wanaiga mapendeleo na kurudia makosa kutoka kwa ulimwengu wa kibinadamu, hata wakati watu wanaohusika wanajaribu kwa uwazi kuyaepuka.

Mwishowe, makosa yataendelea kutokea. Kuna sababu za msingi kwa nini tunakosea kuhusu ulimwengu, kwa nini hatukumbuki kila kitu tunachopaswa kukumbuka, na kwa nini teknolojia yetu haiwezi kutusaidia kikamilifu kuepuka matatizo.

Lakini tunaweza kufanya kazi ili kupunguza matokeo ya makosa. Kitufe cha kutendua na kuhifadhi kiotomatiki kimehifadhi hati nyingi kwenye kompyuta zetu. Monument huko London, mawe ya tsunami nchini Japani na makaburi mengine hutenda ili kutukumbusha kuhusu hatari fulani. Mbinu nzuri za kubuni hufanya maisha yetu kuwa salama.

Hatimaye, inawezekana kujifunza kitu kutoka kwa historia. Kusudi letu linapaswa kuwa kuishi na kujifunza kutoka kwa makosa yetu, sio kuyazuia yasitokee. Teknolojia inaweza kutusaidia na hili, lakini tunahitaji kufikiria kwa makini kuhusu kile tunachotaka kutoka kwayo - na kubuni ipasavyo.

Kuhusu Mwandishi

Anders Sandberg, James Martin Research Fellow, Future of Humanity Institute & Oxford Martin School, Chuo Kikuu cha Oxford

Makala hii imechapishwa tena kutoka Mazungumzo chini ya leseni ya Creative Commons. Soma awali ya makala.