Pupuksain ba ng Artipisyal na Superintelligence ang sangkatauhan? Kinabukasan ng artificial intelligence P4

Mayroong ilang mga imbensyon na pinagtutuunan ng mga bansa. Ito ay mga imbensyon kung saan ang lahat ay nakasalalay sa pagiging una, at anumang mas mababa ay maaaring mangahulugan ng isang estratehiko at mortal na banta sa kaligtasan ng isang bansa.

Ang mga imbensyong ito na tumutukoy sa kasaysayan ay hindi madalas dumarating, ngunit kapag nangyari ang mga ito, humihinto ang mundo at ang isang mahuhulaan na hinaharap ay nagiging malabo.

Ang huling naturang imbensyon ay lumitaw sa panahon ng pinakamasamang WWII. Habang ang mga Nazi ay nakakakuha ng lupa sa lahat ng larangan sa lumang mundo, sa bagong mundo, partikular sa loob ng isang lihim na base ng hukbo sa labas ng Los Alamos, ang mga Allies ay nagsusumikap sa isang sandata upang wakasan ang lahat ng mga armas.

Ang proyekto ay maliit sa una, ngunit pagkatapos ay lumaki upang gumamit ng 130,000 katao mula sa US, UK, at Canada, kabilang ang marami sa pinakamahuhusay na palaisip sa mundo noong panahong iyon. Binansagan ng code ang Manhattan Project at binigyan ng walang limitasyong badyet—humigit-kumulang $23 bilyon noong 2018 na dolyar—nagtagumpay ang hukbong ito ng katalinuhan ng tao sa paglaon sa paglikha ng unang bombang nuklear. Hindi nagtagal, natapos ang WWII na may dalawang atomic bangs.

Ang mga sandatang nuklear na ito ay nagsimula sa panahon ng atomic, nagpakilala ng isang napakalaking bagong pinagmumulan ng enerhiya, at nagbigay sa sangkatauhan ng kakayahang lipulin ang sarili sa loob ng ilang minuto—isang bagay na iniiwasan natin sa kabila ng Cold War.

Ang paglikha ng isang artificial superintelligence (ASI) ay isa pang kasaysayan na tumutukoy sa pag-imbento na ang kapangyarihan (parehong positibo at mapanira) ay higit pa sa nuclear bomb.

Sa huling kabanata ng serye ng Future of Artificial Intelligence, ginalugad namin kung ano ang ASI at kung paano pinaplano ng mga mananaliksik na balang araw ay bumuo ng isa. Sa kabanatang ito, titingnan natin kung anong mga organisasyon ang nangunguna sa pagsasaliksik ng artificial intelligence (AI), kung ano ang gugustuhin ng isang ASI sa sandaling magkaroon ito ng kamalayan na tulad ng tao, at kung paano ito maaaring magbanta sa sangkatauhan kung maling pamamahalaan o kung ang isa ay nasa ilalim ng impluwensya ng hindi gaanong magagandang rehimen.

Sino ang nagtatrabaho upang bumuo ng isang artificial superintelligence?

Dahil sa kung gaano kahalaga ang paglikha ng isang ASI sa kasaysayan ng tao at kung gaano kalaki ang kalamangan na ibibigay nito sa lumikha nito, hindi na dapat nakakagulat na marinig na maraming grupo ang hindi direktang gumagawa sa proyektong ito.

(Sa pamamagitan ng hindi direkta, ang ibig naming sabihin ay nagtatrabaho sa pananaliksik sa AI na sa kalaunan ay gagawa ng una artipisyal na pangkalahatang katalinuhan (AGI), iyon mismo ang hahantong sa unang ASI sa lalong madaling panahon.)

Upang magsimula, pagdating sa mga headline, ang malinaw na mga pinuno sa advanced na pananaliksik sa AI ay ang mga nangungunang tech na kumpanya sa US at China. Sa harapan ng US, kabilang dito ang mga kumpanya tulad ng Google, IBM, at Microsoft, at sa China, kabilang dito ang mga kumpanya tulad ng Tencent, Baidu, at Alibaba. Ngunit dahil ang pagsasaliksik sa AI ay medyo mura kumpara sa pagbuo ng isang bagay na pisikal, tulad ng isang mas mahusay na nuclear reactor, isa rin itong larangan kung saan ang mga maliliit na organisasyon ay maaaring makipagkumpitensya rin, tulad ng mga unibersidad, mga startup, at … mga malabong organisasyon (gamitin ang iyong mga imahinasyon ng kontrabida sa Bond para sa iyang isa).

Ngunit sa likod ng mga eksena, ang tunay na pagtulak sa likod ng pananaliksik sa AI ay nagmumula sa mga pamahalaan at kanilang mga militar. Ang premyong pang-ekonomiya at militar ng pagiging unang lumikha ng isang ASI ay napakalaki (nakabalangkas sa ibaba) upang mapanganib na mahuli. At ang mga panganib ng pagiging huli ay hindi katanggap-tanggap, hindi bababa sa ilang mga rehimen.

Dahil sa mga salik na ito, ang medyo mababang halaga ng pagsasaliksik sa AI, ang walang katapusang komersyal na aplikasyon ng advanced AI, at ang pang-ekonomiya at militar na bentahe ng pagiging unang lumikha ng ASI, naniniwala ang maraming mananaliksik ng AI na hindi maiiwasan ang paglikha ng isang ASI.

Kailan tayo lilikha ng isang artificial superintelligence

Sa aming kabanata tungkol sa mga AGI, binanggit namin kung paano pinaniwalaan ng isang survey ng mga nangungunang AI researcher na gagawin namin ang unang AGI nang positibo sa 2022, sa makatotohanang pagsapit ng 2040, at sa negatibong paraan sa 2075.

At sa aming huling kabanata, binalangkas namin kung paano ang paglikha ng isang ASI ay karaniwang resulta ng pag-uutos sa isang AGI na pahusayin ang sarili nang walang hanggan at bigyan ito ng mga mapagkukunan at kalayaan upang gawin ito.

Para sa kadahilanang ito, habang ang isang AGI ay maaaring tumagal ng hanggang ilang dekada upang mag-imbento, ang paggawa ng isang ASI ay maaaring tumagal lamang ng ilang taon pa.

Ang puntong ito ay katulad ng konsepto ng isang 'computing overhang,' na iminungkahi sa isang papel, kasamang isinulat ng mga nangungunang AI thinker na sina Luke Muehlhauser at Nick Bostrom. Karaniwan, kung ang paglikha ng isang AGI ay patuloy na nahuhuli sa kasalukuyang pag-unlad sa kapasidad sa pag-compute, na pinapagana ng Batas ni Moore, kung gayon sa oras na mag-imbento ang mga mananaliksik ng isang AGI, magkakaroon ng napakaraming murang kapangyarihan sa pag-compute na magagamit na ang AGI ay magkakaroon ng kapasidad kailangan nitong mabilis na tumalon sa antas ng ASI.

Sa madaling salita, kapag nabasa mo na sa wakas ang mga headline na nag-aanunsyo na ang ilang tech na kumpanya ay nag-imbento ng unang totoong AGI, pagkatapos ay asahan ang pag-anunsyo ng unang ASI hindi nagtagal.

Sa loob ng isip ng isang artipisyal na superintelligence?

Okay, kaya nalaman namin na maraming malalaking manlalaro na may malalalim na bulsa ang nagsasaliksik ng AI. At pagkatapos na maimbento ang unang AGI, makikita natin ang mga pandaigdigang pamahalaan (militar) na naglalagay ng berdeng pag-iilaw sa pagtulak patungo sa isang ASI sa lalong madaling panahon pagkatapos noon upang maging unang manalo sa pandaigdigang karera ng armas ng AI (ASI).

Ngunit kapag nalikha na ang ASI na ito, paano ito mag-iisip? Ano ang gusto nito?

Ang palakaibigang aso, ang mapagmalasakit na elepante, ang cute na robot—bilang mga tao, nakaugalian nating subukang iugnay ang mga bagay sa pamamagitan ng antropolohiya sa kanila, ibig sabihin, paglalapat ng mga katangian ng tao sa mga bagay at hayop. Iyon ang dahilan kung bakit ang natural na unang palagay ng mga tao kapag nag-iisip tungkol sa isang ASI ay na sa sandaling ito ay magkaroon ng kamalayan, ito ay mag-isip at kumilos nang katulad sa atin.

Well, hindi naman.

Pagdama. Para sa isa, kung ano ang karamihan ay may posibilidad na kalimutan ay ang pang-unawa ay kamag-anak. Ang mga paraan ng ating iniisip ay hinuhubog ng ating kapaligiran, ng ating mga karanasan, at lalo na ng ating biology. Unang ipinaliwanag sa ikatlong kabanata ng ating Kinabukasan ng Ebolusyon ng Tao serye, isaalang-alang ang halimbawa ng ating utak:

Ang ating utak ang tumutulong sa atin na magkaroon ng kahulugan sa mundo sa ating paligid. At ginagawa ito hindi sa pamamagitan ng paglutang sa itaas ng aming mga ulo, pagtingin sa paligid, at pagkontrol sa amin gamit ang isang Xbox controller; ginagawa nito ito sa pamamagitan ng pagkakakulong sa loob ng isang kahon (aming mga noggins) at pagpoproseso ng anumang impormasyong ibibigay nito mula sa ating mga sensory organ—ang ating mga mata, ilong, tainga, atbp.

Ngunit kung paanong ang mga bingi o bulag ay namumuhay ng mas maliit na buhay kumpara sa mga taong matipuno ang katawan, dahil sa mga limitasyon ng kanilang kapansanan sa kung paano nila maiintindihan ang mundo, ang parehong bagay ay masasabi para sa lahat ng tao dahil sa mga limitasyon ng ating pangunahing hanay ng mga pandama na organo.

Isaalang-alang ito: Ang ating mga mata ay nakakakita ng wala pang isang sampung trilyon ng lahat ng light wave. Hindi namin makita ang gamma rays. Hindi namin makita ang x-ray. Hindi namin makita ang ultraviolet light. At huwag mo akong simulan sa infrared, microwave, at radio wave!

Lahat ng biro, isipin kung ano ang magiging buhay mo, kung paano mo makikita ang mundo, kung gaano kaiba ang magagawa ng iyong isip kung makakakita ka ng higit pa kaysa sa maliit na liwanag na pinahihintulutan ng iyong mga mata sa kasalukuyan. Gayundin, isipin kung paano mo malalaman ang mundo kung ang iyong pang-amoy ay katumbas ng pang-amoy ng aso o kung ang iyong pandinig ay katumbas ng pang-amoy ng isang elepante.

Bilang mga tao, mahalagang nakikita natin ang mundo sa pamamagitan ng isang peephole, at makikita iyon sa mga isip na binago natin upang magkaroon ng kahulugan ang limitadong pang-unawang iyon.

Samantala, ang unang ASI ay isisilang sa loob ng isang supercomputer. Sa halip na mga organo, ang mga input na maa-access nito ay kinabibilangan ng mga higanteng dataset, posibleng (malamang) kahit na access sa Internet mismo. Maaaring bigyan ito ng mga mananaliksik ng access sa mga CCTV camera at mikropono ng isang buong lungsod, ang sensory data mula sa mga drone at satellite, at maging ang pisikal na anyo ng isang robot na katawan o katawan.

Tulad ng maaari mong isipin, ang isang isip na ipinanganak sa loob ng isang supercomputer, na may direktang access sa Internet, sa milyun-milyong mga elektronikong mata at tainga at isang buong hanay ng iba pang mga advanced na sensor ay hindi lamang mag-iisip nang iba kaysa sa atin, ngunit isang isip na maaaring magkaroon ng kahulugan sa lahat ng mga sensory input na iyon ay kailangang maging napakahusay din sa atin. Ito ay isang isip na magiging ganap na dayuhan sa ating sarili at sa anumang iba pang anyo ng buhay sa planeta.

Layunin. Ang iba pang bagay na ipinapalagay ng mga tao ay na kapag ang isang ASI ay umabot sa ilang antas ng superintelligence, ito ay agad na matanto ang pagnanais na makabuo ng sarili nitong mga layunin at layunin. Ngunit hindi rin naman iyon totoo.

Maraming AI researcher ang naniniwala na ang superintelligence ng ASI at ang mga layunin nito ay "orthogonal," ibig sabihin, gaano man ito katalino, ang mga layunin ng ASI ay mananatiling pareho. 

Kaya't kung ang isang AI ay orihinal na nilikha upang magdisenyo ng isang mas mahusay na lampin, i-maximize ang mga kita sa stock market, o mag-istratehiya ng mga paraan upang talunin ang isang kaaway sa larangan ng digmaan, sa sandaling maabot nito ang antas ng ASI, ang orihinal na layunin ay hindi magbabago; ang magbabago ay ang pagiging epektibo ng ASI para maabot ang mga layuning iyon.

Ngunit dito nakasalalay ang panganib. Kung ang isang ASI na nag-o-optimize sa sarili nito sa isang partikular na layunin, mas mabuting maging mapahamak tayo na nag-o-optimize ito sa isang layunin na naaayon sa mga layunin ng sangkatauhan. Kung hindi, ang mga resulta ay maaaring maging nakamamatay.

Ang isang artipisyal na superintelligence ba ay nagdudulot ng isang umiiral na panganib sa sangkatauhan?

Paano kung ang isang ASI ay pakawalan sa mundo? Kung mag-o-optimize ito upang dominahin ang stock market o tiyakin ang supremacy ng militar ng US, hindi ba magsasarili ang ASI sa loob ng mga partikular na layuning iyon?

Posibleng.

Sa ngayon, napag-usapan na natin kung paano mahuhumaling ang isang ASI sa (mga) layunin na orihinal na itinalaga at hindi makatao na may kakayahan sa pagtugis ng mga layuning iyon. Ang catch ay na ang isang makatwirang ahente ay ituloy ang mga layunin nito sa pinakamabisang paraan na posible maliban kung bibigyan ng dahilan na hindi.

Halimbawa, ang makatwirang ahente ay bubuo ng isang hanay ng mga subgoal (ibig sabihin, mga layunin, instrumental na layunin, stepping stones) na tutulong dito sa kanyang paraan upang makamit ang pinakahuling layunin nito. Para sa mga tao, ang aming pangunahing subconscious na layunin ay pagpaparami, pagpasa sa iyong mga gene (ibig sabihin, hindi direktang imortalidad). Ang mga sublayunin sa layuning iyon ay kadalasang kinabibilangan ng:

• Nakaligtas, sa pamamagitan ng pag-access ng pagkain at tubig, paglaki at paglakas, pag-aaral na ipagtanggol ang iyong sarili o pamumuhunan sa iba't ibang paraan ng proteksyon, atbp. 
• Pag-akit sa isang kapareha, sa pamamagitan ng pag-eehersisyo, pagbuo ng isang nakaka-engganyo na personalidad, pananamit nang naka-istilong, atbp.
• Pagbibigay ng mga anak, sa pamamagitan ng pag-aaral, pagkakaroon ng mataas na suweldong trabaho, pagbili ng mga bitag ng middle-class na buhay, atbp.

Para sa karamihan sa atin, aalisin natin ang lahat ng mga subgoal na ito, at marami pang iba, na may pag-asa na sa huli, makakamit natin ang pinakahuling layuning ito ng pagpaparami.

Ngunit kung ang sukdulang layunin na ito, o maging ang alinman sa mga pinakamahahalagang subgoal, ay nanganganib, marami sa atin ang gagawa ng mga aksyong nagtatanggol sa labas ng ating mga moral na comfort zone—na kinabibilangan ng panloloko, pagnanakaw, o kahit na pagpatay.

Gayundin, sa kaharian ng hayop, sa labas ng mga hangganan ng moralidad ng tao, maraming mga hayop ang hindi magdadalawang isip na patayin ang anumang bagay na nagbabanta sa kanilang sarili o sa kanilang mga supling.

Ang hinaharap na ASI ay hindi magiging iba.

Ngunit sa halip na mga supling, ang ASI ay magtutuon ng pansin sa orihinal na layunin kung saan ito nilikha, at sa pagtugis ng layuning ito, kung masusumpungan nito ang isang partikular na grupo ng mga tao, o maging ang lahat ng sangkatauhan, ay isang balakid sa pagtugis ng mga layunin nito. , pagkatapos ... ito ang gagawa ng makatwirang desisyon.

(Narito kung saan maaari mong isaksak ang anumang may kaugnayan sa AI, senaryo ng doomsday na nabasa mo tungkol sa iyong paboritong sci-fi na libro o pelikula.)

Ito ang pinakamasamang sitwasyong pinag-aalala ng mga mananaliksik ng AI. Ang ASI ay hindi kikilos dahil sa poot o kasamaan, kawalang-interes lamang, katulad ng kung paano hindi magdadalawang isip ang isang construction crew tungkol sa pag-bulldoze ng ant hill sa proseso ng pagtatayo ng bagong condo tower.

Side note. Sa puntong ito, maaaring nagtataka ang ilan sa inyo, "Hindi ba maaaring i-edit na lang ng mga mananaliksik ng AI ang mga pangunahing layunin ng ASI pagkatapos ng katotohanan kung nalaman namin na kumikilos ito?"

Not really.

Sa sandaling mature na ang isang ASI, ang anumang pagtatangka na i-edit ang (mga) orihinal nitong layunin ay maaaring makita bilang isang banta, at isa na mangangailangan ng matinding aksyon upang ipagtanggol ang sarili laban. Gamit ang buong halimbawa ng pagpaparami ng tao mula kanina, para bang isang magnanakaw ang nagbanta na magnakaw ng isang sanggol mula sa sinapupunan ng isang umaasam na ina—makatitiyak ka na ang ina ay gagawa ng matinding hakbang upang maprotektahan ang kanyang anak.

Muli, hindi calculator ang pinag-uusapan dito, kundi isang 'buhay' na nilalang, at isang araw na magiging mas matalino kaysa sa pinagsama-samang lahat ng tao sa planeta.

Ang hindi kilala

Sa likod ng pabula ng Pandora's Box ay isang hindi gaanong kilalang katotohanan na kadalasang nakakalimutan ng mga tao: ang pagbubukas ng kahon ay hindi maiiwasan, kung hindi sa iyo kaysa sa ibang tao. Ang ipinagbabawal na kaalaman ay masyadong nakatutukso upang manatiling nakakulong magpakailanman.

Ito ang dahilan kung bakit ang pagsisikap na maabot ang isang pandaigdigang kasunduan upang ihinto ang lahat ng pananaliksik sa AI na maaaring humantong sa isang ASI ay walang kabuluhan-may napakaraming organisasyon na nagtatrabaho sa teknolohiyang ito sa parehong opisyal at sa mga anino.

Sa huli, wala tayong ideya kung ano ang magiging kahulugan ng bagong entity na ito, ang ASI na ito sa lipunan, sa teknolohiya, sa pulitika, kapayapaan at digmaan. Tayong mga tao ay malapit nang mag-imbento ng apoy nang paulit-ulit at kung saan tayo dinadala ng paglikha na ito ay hindi alam.

Sa pagbabalik-tanaw sa unang kabanata ng seryeng ito, ang isang bagay na tiyak nating alam ay ang katalinuhan ay kapangyarihan. Ang katalinuhan ay kontrol. Maaaring bisitahin ng mga tao ang mga pinaka-mapanganib na hayop sa mundo sa kanilang mga lokal na zoo hindi dahil mas malakas tayo kaysa sa mga hayop na ito, ngunit dahil mas matalino tayo.

Dahil sa mga potensyal na stake na kasangkot, ng isang ASI na gumagamit ng kanyang napakalawak na talino upang gumawa ng mga aksyon na maaaring direkta o hindi sinasadyang magbanta sa kaligtasan ng sangkatauhan, utang natin sa ating sarili na subukang magdisenyo ng mga pananggalang na magpapahintulot sa mga tao na manatili sa driver's upuan—ito ang paksa ng susunod na kabanata.

Hinaharap ng serye ng Artipisyal na Intelligence

P1: Ang Artificial Intelligence ay ang kuryente bukas

P2: Paano babaguhin ng unang Artificial General Intelligence ang lipunan

P3: Paano namin gagawin ang unang Artipisyal na Superintelligence

P5: Paano magtatanggol ang mga tao laban sa isang Artipisyal na Superintelligence

P6: Ang mga tao ba ay mamumuhay nang mapayapa sa isang hinaharap na pinangungunahan ng mga artipisyal na katalinuhan?