Quantumrun

CREDIT NG LARAWAN: Quantumrun

Ang mga tao ba ay mamumuhay nang mapayapa sa isang hinaharap na pinangungunahan ng mga artipisyal na katalinuhan? - Kinabukasan ng artificial intelligence P6

David Tal, Publisher, Futurist
@DavidTalWrites
LinkedIn

Martes, 09/15/2020 - 13:10

Pagdating sa sangkatauhan, sabihin na nating wala tayong pinakadakilang track record pagdating sa pagsasama-sama sa 'the other.' Maging ito ay ang genocide ng mga Hudyo sa Germany o ng mga Tutsi sa Rwanda, ang pagkaalipin sa mga Aprikano ng mga bansang Kanluranin o ang mga alipin sa Timog Silangang Asya. ngayon nagtatrabaho sa mga bansa sa Middle East Gulf, o maging ang kasalukuyang pag-uusig na nararanasan ng mga Mexicano sa US o mga Syrian refugee sa mga piling bansa sa EU. Sa kabuuan, ang ating instinctual na takot sa mga taong nakikita natin na iba kaysa sa atin ay maaaring humantong sa atin na gumawa ng mga aksyon na maaaring kumokontrol o (sa matinding mga kaso) ay sumisira sa ating mga kinatatakutan.

Maaari ba tayong umasa ng anumang kakaiba kapag ang artificial intelligence ay naging tunay na katulad ng tao?

Mabubuhay ba tayo sa isang hinaharap kung saan tayo ay magkakasamang nabubuhay sa mga independiyenteng AI-robot na nilalang, tulad ng nakikita sa Star Wars saga, o sa halip ay uusigin at aalipinin natin ang mga nilalang na AI tulad ng inilalarawan sa franchise ng Bladerunner? (Kung hindi mo pa nakikita ang alinman sa mga pop culture staples na ito, ano pa ang hinihintay mo?)

Ito ang mga tanong nitong pangwakas na kabanata ng Kinabukasan ng Artipisyal na Katalinuhan sana masagot ng serye. Mahalaga ito dahil kung tama ang mga pagtataya na ginawa ng mga nangungunang AI researcher, sa kalagitnaan ng siglo, ibabahagi nating mga tao ang ating mundo sa maraming magkakaibang nilalang ng AI—kaya mas mahusay tayong mag-isip ng paraan upang mamuhay sa tabi nila nang mapayapa.

Maaari bang makipagkumpitensya ang mga tao sa mga artipisyal na katalinuhan?

Maniwala ka man o hindi, kaya natin.

Ang karaniwang tao (sa 2018) ay higit na mataas sa kahit na ang pinaka-advanced na AI. Gaya ng nakabalangkas sa aming pambungad na kabanata, ang mga artificial narrow intelligence (ANI) ngayon ay mas mahusay kaysa sa mga tao sa tiyak mga gawaing idinisenyo para sa kanila, ngunit walang pag-asa kapag hiniling na gawin ang isang gawain sa labas ng disenyong iyon. Ang mga tao, sa kabilang banda, kasama ang karamihan sa iba pang mga hayop sa planeta, ay mahusay sa ating kakayahang umangkop upang ituloy ang mga layunin sa malawak na hanay ng mga kapaligiran—isang depinisyon ng katalinuhan na itinaguyod ng mga computer scientist na sina Marcus Hutter at Shane Legg.

Ang katangiang ito ng unibersal na kakayahang umangkop ay hindi mukhang isang malaking bagay, ngunit hinihingi nito ang kakayahang masuri ang isang balakid sa isang layunin, magplano ng isang eksperimento upang malampasan ang balakid na iyon, gumawa ng isang aksyon upang maisagawa ang eksperimento, matuto mula sa mga resulta, pagkatapos ay magpatuloy upang ituloy ang layunin. Ang lahat ng buhay sa planeta ay likas na nagsasagawa ng adaptability loop na ito libu-libo hanggang milyun-milyong beses bawat araw, at hanggang sa matutunan ng AI na gawin din ito, mananatili silang walang buhay na mga tool sa trabaho.

Ngunit alam ko kung ano ang iniisip mo: Ang buong seryeng ito sa hinaharap ng mga pagtataya ng artificial intelligence na nagbigay ng sapat na oras, ang mga AI entity ay magiging kasing talino rin ng mga tao, at pagkatapos noon, mas matalino kaysa sa mga tao.

Ang kabanatang ito ay hindi magtatalo sa posibilidad na iyon.

Ngunit ang bitag ng maraming komentarista ay iniisip na dahil ang ebolusyon ay tumagal ng milyun-milyong taon upang makabuo ng mga biological na utak, ito ay walang pag-asa na malalampasan kapag ang AI ay umabot sa isang punto kung saan maaari nilang pagbutihin ang kanilang sariling hardware at software sa mga siklo na kasing ikli ng mga taon, buwan. , marahil kahit na mga araw.

Sa kabutihang palad, ang ebolusyon ay may natitira pang laban dito, sa isang bahagi salamat sa kamakailang mga pagsulong sa genetic engineering.

Unang sakop sa aming serye sa kinabukasan ng ebolusyon ng tao, natukoy ng mga geneticist 69 magkahiwalay na mga gene na nakakaapekto sa katalinuhan, ngunit magkakasama ang mga ito ay nakakaapekto lamang sa IQ ng mas mababa sa walong porsyento. Nangangahulugan ito na maaaring may daan-daan, o libu-libo, ng mga gene na nakakaapekto sa katalinuhan, at kailangan nating hindi lamang matuklasan ang lahat ng mga ito, ngunit matutunan din kung paano mahulaan na manipulahin ang lahat ng mga ito nang magkasama bago natin maisip ang pakikialam sa isang fetus. DNA.

Ngunit sa kalagitnaan ng 2040s, ang larangan ng genomics ay magiging mature hanggang sa isang punto kung saan ang genome ng isang fetus ay maaaring lubusang ma-map, at ang mga pag-edit sa DNA nito ay maaaring i-computer simulate upang tumpak na mahulaan kung paano makakaapekto ang mga pagbabago sa genome nito sa hinaharap na pisikal, emosyonal. , at pinakamahalaga sa talakayang ito, ang mga katangian ng katalinuhan nito.

Sa madaling salita, sa kalagitnaan ng siglo, kapag naniniwala ang karamihan sa mga mananaliksik ng AI na mararating at posibleng malampasan ng AI ang katalinuhan sa antas ng tao, magkakaroon tayo ng kakayahang genetically na baguhin ang buong henerasyon ng mga sanggol na tao upang maging mas matalinong kaysa sa mga henerasyong nauna. sila.

Patungo tayo sa isang hinaharap kung saan mabubuhay ang mga super intelligent na tao kasama ng superintelligent na AI.

Epekto ng mundong puno ng sobrang talinong tao

Kaya, gaano katalino ang pinag-uusapan natin dito? Para sa konteksto, nakakuha ang mga IQ nina Albert Einstein at Stephen Hawking sa humigit-kumulang 160. Kapag na-unlock natin ang mga sikreto sa likod ng mga genomic marker na kumokontrol sa katalinuhan, maaari nating makita ang mga taong ipinanganak na may mga IQ na higit sa 1,000.

Mahalaga ito dahil ang mga isip tulad nina Einstein at Hawking ay tumulong sa pagsiklab ng mga siyentipikong tagumpay na ngayon ay nasa pundasyon ng ating modernong mundo. Halimbawa, isang maliit na bahagi lamang ng populasyon ng mundo ang nakakaintindi ng anuman tungkol sa physics, ngunit ang malaking porsyento ng GDP ng mundo ay nakadepende sa mga natuklasan nito—ang mga teknolohiya tulad ng smartphone, modernong telecommunication system (Internet), at ang GPS ay hindi maaaring umiral nang walang quantum mechanics. .

Dahil sa epektong ito, anong uri ng mga pag-unlad ang maaaring maranasan ng sangkatauhan kung magsilang tayo ng isang buong henerasyon ng mga henyo? Daan-daang milyon ni Einstein?

Imposibleng hulaan ang sagot dahil hindi pa nakikita ng mundo ang ganitong konsentrasyon ng mga super henyo.

Ano kaya ang magiging hitsura ng mga taong ito?

Para sa panlasa, isaalang-alang lamang ang kaso ng pinakamatalinong naitala na tao, William James Sidis (1898-1944), na may IQ na humigit-kumulang 250. Marunong na siyang magbasa sa edad na dalawa. Nagsalita siya ng walong wika sa edad na anim. Siya ay na-admit sa Harvard University noong 11. At si Sidis ay isang-kapat lamang bilang matalino sa kung ano ang teorya ng biologist na maaaring maging tao balang-araw sa genetic editing.

(Side note: intelligence lang ang pinag-uusapan natin dito, hindi man lang natin tinatalakay ang genetic editing na maaaring maging physically superhuman. Magbasa pa dito.)

Sa katunayan, napakaposibleng ang mga tao at ang AI ay maaaring mag-co-evolve sa pamamagitan ng paglikha ng isang uri ng positibong feedback loop, kung saan tinutulungan ng advanced AI ang mga geneticist na makabisado ang genome ng tao upang lumikha ng mas matalinong mga tao, mga tao na pagkatapos ay magtatrabaho upang lumikha ng mas matalinong AI, at iba pa. sa. Kaya, oo, tulad ng hinuhulaan ng mga mananaliksik ng AI, ang Earth ay maaaring makaranas ng isang pagsabog ng katalinuhan sa kalagitnaan ng siglo, ngunit batay sa aming talakayan sa ngayon, ang mga tao (hindi lamang AI) ay makikinabang sa rebolusyong iyon.

Cyborg sa atin

Ang isang patas na pagpuna sa argumentong ito tungkol sa sobrang talino na mga tao ay na kahit na mabisa natin ang genetic editing sa kalagitnaan ng siglo, aabutin ng isa pang 20 hanggang 30 taon bago ang bagong henerasyon ng mga tao na ito ay mature sa isang punto kung saan maaari silang mag-ambag ng makabuluhang pagsulong sa ating lipunan at maging ang larangan ng intelektwal na paglalaro kasama ng AI. Hindi ba ang lag na ito ay magbibigay sa AI ng makabuluhang panimula laban sa sangkatauhan kung nagpasya silang maging 'kasamaan'?

Ito ang dahilan kung bakit, bilang tulay sa pagitan ng mga tao ngayon at ng mga superhuman bukas, simula sa 2030s, makikita natin ang simula ng isang bagong klase ng tao: ang cyborg, isang hybrid ng tao at makina.

(Upang maging patas, depende sa kung paano mo tutukuyin ang mga cyborg, teknikal na umiiral na ang mga ito—partikular, ang mga taong may prosthetic limbs bilang resulta ng mga sugat sa digmaan, aksidente, o genetic na depekto sa kapanganakan. Ngunit upang manatiling nakatuon sa konteksto ng kabanatang ito, kami Magtutuon ng pansin sa mga prosthetics na nilalayong dagdagan ang ating isip at katalinuhan.)

Unang tinalakay sa aming Kinabukasan ng mga Computer serye, ang mga mananaliksik ay kasalukuyang bumubuo ng isang bioelectronics field na tinatawag na Brain-Computer Interface (BCI). Kabilang dito ang paggamit ng isang brain-scanning device o isang implant upang subaybayan ang iyong mga brainwave, i-convert ang mga ito sa code, at pagkatapos ay iugnay ang mga ito sa mga command upang kontrolin ang anumang pinapatakbo ng isang computer.

Kami ay nasa mga unang araw pa lamang, ngunit sa pamamagitan ng paggamit ng BCI, ang mga ampute ay ngayon pagsubok ng mga robotic limbs direktang kinokontrol ng kanilang mga isip, sa halip na sa pamamagitan ng mga sensor na nakakabit sa kanilang tuod. Gayundin, ang mga taong may malubhang kapansanan (tulad ng mga taong may quadriplegia) ay ngayon gamit ang BCI para patnubayan ang kanilang mga de-motor na wheelchair at manipulahin ang mga robotic arm. Ngunit ang pagtulong sa mga naputulan at mga taong may kapansanan na mamuhay ng mas malayang buhay ay hindi ang lawak ng kung ano ang kaya ng BCI.

Ano sa 2030s ang magiging hitsura ng helmet o hairband sa kalaunan ay magbibigay daan sa mga brain implants (late-2040s) na magkokonekta sa ating mga isip sa digital cloud (Internet). Sa kalaunan, ang brain prosthesis na ito ay magsisilbing ikatlong hemisphere para sa ating isipan—kaya habang pinamamahalaan ng ating kaliwa at kanang hemisphere ang ating mga kakayahan sa pagkamalikhain at lohika, ang bagong, cloud-fed, digital na hemisphere na ito ay magpapadali ng malapit-madaling pag-access sa impormasyon at magpapahusay sa cognitive. mga katangian kung saan ang mga tao ay madalas na kulang sa kanilang mga katapat sa AI, katulad ng bilis, pag-uulit, at katumpakan.

At bagama't ang mga brain implants na ito ay hindi kinakailangang magpapalakas ng ating katalinuhan, gagawin nila tayong higit na may kakayahan at independyente, tulad ng ginagawa ng ating mga smartphone ngayon.

Isang hinaharap na puno ng magkakaibang katalinuhan

Ang lahat ng pag-uusap na ito tungkol sa mga AI, cyborg at super intelligent na mga tao ay nagbubukas ng isa pang puntong dapat isaalang-alang: Ang hinaharap ay makakakita ng mas mayamang pagkakaiba-iba ng mga katalinuhan kaysa sa nakita natin sa kasaysayan ng tao o maging ng Earth.

Pag-isipan ito, bago matapos ang siglong ito, pinag-uusapan natin ang isang hinaharap na mundo na puno ng:

Mga katalinuhan ng insekto
Mga katalinuhan ng hayop
Mga katalinuhan ng tao
Cybernetically pinahusay na katalinuhan ng tao
Mga artipisyal na pangkalahatang katalinuhan (Mga AGI)
Mga artipisyal na superintelligence (mga ASI)
Mga sobrang katalinuhan ng tao
Cybernetically pinahusay na super katalinuhan ng tao
Virtual na human-AI hybrid na isip
Ang ilan pang nasa pagitan ng mga kategorya na hinihikayat namin ang mga mambabasa na mag-brainstorm at ibahagi sa seksyon ng komento.

Sa madaling salita, ang ating mundo ay tahanan na ng magkakaibang hanay ng mga species, bawat isa ay may kani-kanilang mga natatanging uri ng katalinuhan, ngunit ang hinaharap ay makakakita ng mas malaking pagkakaiba-iba ng mga katalinuhan, sa pagkakataong ito ay nagpapalawak sa mas mataas na dulo ng cognitive ladder. Kung paanong ang henerasyon ngayon ay natututong ibahagi ang ating mundo sa mga insekto at hayop na nag-aambag sa ating ecosystem, ang mga susunod na henerasyon ay kailangang matutunan kung paano makipag-usap at makipagtulungan sa malawak na pagkakaiba-iba ng mga katalinuhan na halos hindi natin maisip ngayon.

Siyempre, sinasabi sa atin ng kasaysayan na ang 'pagbabahagi' ay hindi kailanman naging isang malakas na suit para sa mga tao. Daan-daang hanggang libu-libong mga species ang nawala dahil sa pagpapalawak ng tao, ngunit daan-daang hindi gaanong advanced na mga sibilisasyon ang nawala sa ilalim ng pananakop ng mga lumalawak na imperyo.

Ang mga trahedyang ito ay dahil sa pangangailangan ng tao sa mga mapagkukunan (pagkain, tubig, hilaw na materyales, atbp.) at sa isang bahagi, sa takot at kawalan ng tiwala sa pagitan ng mga dayuhang sibilisasyon o mga tao. Sa madaling salita, ang mga trahedya ng nakaraan at sa kasalukuyan ay dahil sa mga kadahilanang kasingtanda ng sibilisasyon mismo, at lalala lamang ang mga ito sa pagpapakilala ng lahat ng mga bagong klase ng katalinuhan na ito.

Kultural na epekto ng mundong puno ng magkakaibang katalinuhan

Ang pagtataka at pangamba ay ang dalawang emosyon na pinakamahusay na magbubuod sa magkasalungat na emosyon na mararanasan ng mga tao kapag ang lahat ng mga bagong uri ng katalinuhan na ito ay pumasok sa mundo.

'Nagtataka' sa katalinuhan ng tao na ginamit upang likhain ang lahat ng mga bagong katalinuhan ng tao at AI, at ang mga posibilidad na maaari nilang gawin. At pagkatapos ay 'pangamba' mula sa kakulangan ng pag-unawa at pagiging pamilyar sa mga kasalukuyang henerasyon ng mga tao na magkakaroon ng mga susunod na henerasyon ng mga 'pinahusay' na nilalang na ito.

Kaya't kung paanong ang mundo ng mga hayop ay ganap na lampas sa pang-unawa ng karaniwang insekto, at ang mundo ng mga tao ay ganap na lampas sa pang-unawa ng karaniwang hayop, ang mundo ng mga AI at maging ang napakatalino na mga tao ay magiging lampas sa saklaw ng kung ano ngayon. ang karaniwang tao ay makakaunawa.

At kahit na ang mga susunod na henerasyon ay maaaring makipag-usap sa mga bagong mas matataas na katalinuhan na ito, hindi tulad ng marami tayong magkakatulad. Sa mga kabanata na nagpapakilala sa mga AGI at ASI, ipinaliwanag namin kung bakit isang pagkakamali ang pag-iisip ng mga AI intelligence tulad ng mga katalinuhan ng tao.

Sa madaling sabi, ang mga instinctual na emosyon na nagtutulak sa pag-iisip ng tao ay ang evolutionary biological legacy mula sa ilang libong taon na halaga ng mga henerasyon ng tao na aktibong naghahanap ng mga mapagkukunan, mga kasosyo sa pagsasama, mga social bond, kaligtasan, atbp. Ang Future AI ay hindi magkakaroon ng alinman sa evolutionary na bagahe na iyon. Sa halip, ang mga digital intelligence na ito ay magkakaroon ng mga layunin, paraan ng pag-iisip, mga value system na ganap na natatangi sa kanilang sarili.

Gayundin, tulad ng natutunan ng mga modernong tao na sugpuin ang mga aspeto ng kanilang likas na mga pagnanasa ng tao salamat sa ating mga talino (hal., nililimitahan natin ang ating mga kasosyo sa sekswal kapag nasa pakikipagrelasyon; itinataya natin ang ating buhay para sa mga estranghero dahil sa mga haka-haka na konsepto ng karangalan at kabutihan, atbp.) , maaaring madaig ng mga superhuman sa hinaharap ang mga primal instinct na ito. Kung ito ay posible, talagang nakikipag-ugnayan tayo sa mga dayuhan, hindi lamang isang bagong klase ng mga tao.

Magkakaroon ba ng kapayapaan sa pagitan ng mga hinaharap na super race at ng iba pa sa atin?

Ang kapayapaan ay nagmumula sa pagtitiwala at ang pagtitiwala ay nagmumula sa pagiging pamilyar at magkakasamang layunin. Maaari nating alisin ang pamilyar sa talahanayan dahil napag-usapan na natin kung gaano kaunti ang pagkakatulad ng mga hindi pinahusay na tao, sa cognitively, sa mga sobrang talino na ito.

Sa isang senaryo, ang pagsabog ng intelligence na ito ay kumakatawan sa pag-usbong ng isang ganap na bagong anyo ng hindi pagkakapantay-pantay, isa na lumilikha ng mga klaseng panlipunan na nakabatay sa katalinuhan na halos imposible para sa mga mula sa mas mababang uri na bumangon. At kung paanong ang lumalawak na agwat sa ekonomiya sa pagitan ng mayayaman at mahihirap ay nagdudulot ng kaguluhan ngayon, ang agwat sa pagitan ng iba't ibang uri/populasyon ng mga katalinuhan ay maaaring magdulot ng sapat na takot at sama ng loob na maaaring kumulo sa iba't ibang anyo ng pag-uusig o ganap na digmaan. Para sa mga kapwa nagbabasa ng comic book doon, maaaring ipaalala nito sa iyo ang klasikong backstory ng persecution mula sa X-men franchise ng Marvel.

Ang kahaliling senaryo ay ang mga hinaharap na super intellect na ito ay gagawa lang ng paraan para emosyonal na manipulahin ang mas simpleng masa sa pagtanggap sa kanila sa kanilang lipunan—o kahit sa puntong umiiwas sa lahat ng karahasan.

Kaya, aling senaryo ang mananalo?

Sa lahat ng posibilidad, may makikita tayong maglalaro sa gitna. Sa simula ng intelligence revolution na ito, makikita natin ang karaniwan 'technopanic,' na ang espesyalista sa batas at patakaran sa teknolohiya, si Adam Thierer, ay naglalarawan bilang sumusunod sa karaniwang pattern ng lipunan:

Mga pagkakaiba sa henerasyon na humahantong sa takot sa bago, lalo na sa mga nakakagambala sa mga kaugalian sa lipunan o nag-aalis ng mga trabaho (basahin ang tungkol sa epekto ng AI sa ating Hinaharap ng Trabaho serye);
"Hypernostalgia" para sa magandang lumang araw na, sa katotohanan, ay hindi kailanman lahat na mabuti;
Ang insentibo para sa mga reporter at mga eksperto sa takot tungkol sa bagong teknolohiya at mga uso kapalit ng mga pag-click, view, at pagbebenta ng ad;
Ang mga espesyal na interes ay nagsasalungatan para sa pera o aksyon ng gobyerno depende sa kung paano naaapektuhan ang kanilang grupo ng bagong teknolohiyang ito;
Mga elitistang saloobin mula sa akademiko at kultural na mga kritiko na natatakot sa mga bagong teknolohiya na ginagamit ng masa ng publiko;
Mga taong nagpapalabas ng moral at kultural na mga debate kahapon at ngayon sa mga bagong teknolohiya ng bukas.

Ngunit tulad ng anumang bagong pagsulong, masasanay ang mga tao dito. Mas mahalaga, habang ang dalawang species ay maaaring hindi magkapareho ng iniisip, ang kapayapaan ay matatagpuan sa pamamagitan ng magkaparehong interes o layunin.

Halimbawa, ang mga bagong AI na ito ay maaaring lumikha ng mga bagong teknolohiya at sistema upang mapabuti ang ating buhay. At bilang kapalit, ang pagpopondo at suporta ng gobyerno ay patuloy na isulong ang mga interes ng AI sa pangkalahatan, lalo na salamat sa aktibong kompetisyon sa pagitan ng mga programang AI ng China at US.

Sa katulad na paraan, pagdating sa paglikha ng mga superhuman, ang mga paksyon ng relihiyon sa maraming bansa ay lalabanan ang kalakaran na genetically pakialaman ang kanilang mga sanggol. Gayunpaman, unti-unting sisirain ng pagiging praktikal at pambansang interes ang hadlang na ito. Para sa una, matutukso ang mga magulang na gumamit ng genetic editing tech upang matiyak na ang kanilang mga anak ay ipinanganak na may sakit at walang depekto, ngunit ang paunang layunin ay isang madulas na dalisdis patungo sa mas invasive na genetic enhancement. Gayundin, kung sisimulan ng China na genetically na pahusayin ang buong henerasyon ng kanilang populasyon, ang US ay magkakaroon ng estratehikong imperative na sundin ito o panganib na mahuli nang permanente pagkaraan ng dalawang dekada—at gayundin ang iba pang bahagi ng mundo.

Kung gaano katindi ang buong kabanata na ito, kailangan nating tandaan na ang lahat ng ito ay magiging isang unti-unting proseso. Gagawin nitong kakaiba at kakaiba ang ating mundo. Ngunit masasanay tayo, at ito ang magiging kinabukasan natin.