Mapuo ba sa usa ka Artipisyal nga Superintelligence ang katawhan? Kaugmaon sa artificial intelligence P4

Adunay pipila ka mga imbensyon nga gipadayon sa mga nasud. Kini ang mga imbensyon diin ang tanan nagdepende sa pagka-una, ug ang bisan unsa nga gamay mahimo’g nagpasabut nga usa ka estratehiko ug mortal nga hulga sa pagkaluwas sa usa ka nasud.

Kini nga mga imbensyon nga nagpatin-aw sa kasaysayan dili kanunay moabut, apan kung kini mahitabo, ang kalibutan mohunong ug ang usa ka matag-an nga kaugmaon mahimong dili maayo.

Ang kataposang maong imbensiyon mitumaw atol sa pinakagrabe nga WWII. Samtang ang mga Nazi nakakuha og yuta sa tanan nga mga nataran sa daan nga kalibutan, sa bag-ong kalibutan, ilabi na sa sulod sa usa ka sekreto nga base sa kasundalohan sa gawas sa Los Alamos, ang mga Kaalyado nagkugi sa pagtrabaho sa usa ka hinagiban aron sa pagtapos sa tanan nga mga hinagiban.

Ang proyekto gamay ra sa sinugdan, apan pagkahuman mitubo aron magamit ang 130,000 ka mga tawo gikan sa US, UK, ug Canada, lakip ang daghang labing bantugan nga mga naghunahuna sa kalibutan sa panahon. Gi-codenamed ang Manhattan Project ug gihatagan ug walay kinutuban nga badyet—gibana-bana nga $23 bilyon sa 2018 dolyares—kini nga kasundalohan sa pagkamamugnaon sa tawo sa kadugayan milampos sa paghimo sa unang nukleyar nga bomba. Wala magdugay, natapos ang WWII nga adunay duha ka atomic bangs.

Kini nga mga armas nukleyar nagsugod sa panahon sa atomika, nagpaila sa usa ka bag-ong tinubdan sa enerhiya, ug naghatag sa katawhan og abilidad sa pagpuo sa iyang kaugalingon sulod sa pipila ka minuto-usa ka butang nga atong gilikayan bisan pa sa Cold War.

Ang pagmugna sa usa ka artificial superintelligence (ASI) usa pa ka kasaysayan nga nagpaila sa imbensyon kansang gahum (positibo ug makadaot) labaw pa sa nukleyar nga bomba.

Sa kataposang kapitulo sa Umaabot sa Artipisyal nga Kaalam nga serye, among gisuhid kung unsa ang ASI ug giunsa pagplano sa mga tigdukiduki nga usa ka adlaw magtukod ug usa. Niini nga kapitulo, atong tan-awon kung unsa nga mga organisasyon ang nanguna sa panukiduki sa artificial intelligence (AI), kung unsa ang gusto sa usa ka ASI sa higayon nga makabaton kini usa ka kaamgohan nga sama sa tawo, ug kung giunsa kini mahimong hulga sa katawhan kung dili madumala o kung ang usa nahulog sa impluwensya sa dili kaayo nindot nga mga rehimen.

Kinsa ang nagtrabaho aron makahimo usa ka artipisyal nga superintelligence?

Gihatag kung unsa ka hinungdanon ang pagmugna sa usa ka ASI sa kasaysayan sa tawo ug kung unsa kadako ang usa ka bentaha nga mahatag niini sa iyang tiglalang, dili kini ikatingala nga madungog nga daghang mga grupo ang dili direkta nga nagtrabaho sa kini nga proyekto.

(Sa dili direkta, gipasabut namon ang pagtrabaho sa panukiduki sa AI nga sa kadugayan maghimo sa una artipisyal nga kinatibuk-ang salabutan (AGI), kana mismo ang modala sa una nga ASI pagkahuman.)

Sa pagsugod, kung bahin sa mga ulohan, ang tin-aw nga mga lider sa advanced nga panukiduki sa AI mao ang nanguna nga mga kompanya sa teknolohiya sa US ug China. Sa atubangan sa US, naglakip kini sa mga kompanya sama sa Google, IBM, ug Microsoft, ug sa China, naglakip kini sa mga kompanya sama sa Tencent, Baidu, ug Alibaba. Apan tungod kay ang pagpanukiduki sa AI medyo barato kon itandi sa pagpalambo sa usa ka butang nga pisikal, sama sa usa ka mas maayo nga nukleyar nga reaktor, kini usa usab ka natad nga ang gagmay nga mga organisasyon mahimo usab nga makigkompetensya, sama sa mga unibersidad, mga startup, ug ... anino nga mga organisasyon (gamita ang imong mga imahinasyon nga kontrabida sa Bond para sa. kanang usa).

Apan sa luyo sa mga talan-awon, ang tinuud nga pagduso sa luyo sa panukiduki sa AI naggikan sa mga gobyerno ug ilang mga militar. Ang premyo sa ekonomiya ug militar sa pagkahimong una nga nagmugna sa usa ka ASI dako ra kaayo (gi-outline sa ubos) aron mameligro nga mahulog. Ug ang mga kapeligrohan sa pagkaulahi dili madawat, labing menos sa pipila ka mga rehimen.

Tungod niini nga mga hinungdan, ang medyo ubos nga gasto sa pagpanukiduki sa AI, ang walay kinutuban nga komersyal nga aplikasyon sa advanced AI, ug ang ekonomikanhon ug militar nga bentaha nga mahimong una sa paghimo sa usa ka ASI, daghang mga tigdukiduki sa AI ang nagtuo nga ang paghimo sa usa ka ASI dili malikayan.

Kanus-a kita maghimo ug artipisyal nga superintelligence

Sa among kapitulo bahin sa mga AGI, among gihisgutan kung giunsa ang usa ka survey sa mga nanguna nga tigdukiduki sa AI nagtuo nga among mahimo ang una nga AGI nga malaumon sa 2022, realistiko sa 2040, ug negatibo sa 2075.

Ug sa among katapusan nga kapitulo, among gilatid kon sa unsang paagi ang paghimo sa usa ka ASI maoy kasagarang resulta sa pagtudlo sa usa ka AGI sa pagpauswag sa kaugalingon sa walay kataposan ug paghatag niini sa mga kahinguhaan ug kagawasan sa pagbuhat niini.

Tungod niini nga rason, samtang ang usa ka AGI mahimo pa nga molungtad sa pipila ka mga dekada sa pag-imbento, ang paghimo sa usa ka ASI mahimong molungtad lamang ug pipila ka tuig.

Kini nga punto susama sa konsepto sa usa ka 'computing overhang,' gisugyot sa usa ka papel, co-written sa nag-unang AI thinkers Luke Muehlhauser ug Nick Bostrom. Sa panguna, kung ang pagmugna sa usa ka AGI magpadayon sa ulahi sa karon nga pag-uswag sa kapasidad sa pag-compute, nga gipadagan sa Balaod ni Moore, unya sa panahon nga ang mga tigdukiduki mag-imbento sa usa ka AGI, adunay daghan kaayo nga barato nga gahum sa pag-compute nga magamit nga ang AGI adunay kapasidad. kini kinahanglan nga dali nga molukso sa lebel sa ASI.

Sa laing pagkasulti, kung imong nabasa sa katapusan ang mga ulohan nga nagpahibalo nga ang pipila nga kompanya sa tech nag-imbento sa una nga tinuud nga AGI, unya gipaabut ang pagpahibalo sa una nga ASI sa dili madugay.

Sa sulod sa hunahuna sa usa ka artipisyal nga superintelligence?

Okay, mao nga among naestablisar nga daghang dagkong mga magdudula nga adunay lawom nga bulsa ang nagsiksik sa AI. Ug pagkahuman pagkahuman naimbento ang una nga AGI, makita namon ang mga gobyerno sa kalibutan (militar) nga nagdan-ag sa pagduso sa usa ka ASI pagkahuman nga mahimong una nga makadaog sa global AI (ASI) nga lumba sa armas.

Apan sa higayon nga kini nga ASI mamugna, unsaon kini paghunahuna? Unsa ang gusto niini?

Ang mahigalaon nga iro, ang maamumahon nga elepante, ang cute nga robot—ingon nga mga tawo, kita adunay batasan sa pagsulay sa pag-asoy sa mga butang pinaagi sa pag-antropolohiya niini, ie ang paggamit sa mga kinaiya sa tawo sa mga butang ug mga hayop. Mao nga ang natural nga una nga pangagpas sa mga tawo kung maghunahuna bahin sa usa ka ASI mao nga sa higayon nga kini makaangkon sa panimuot, kini maghunahuna ug molihok nga parehas sa amon.

Aw, dili kinahanglan.

Panglantaw. Alang sa usa, ang kasagarang makalimtan mao nga ang perception kay relatibo. Ang mga paagi nga atong gihunahuna giumol sa atong palibot, sa atong mga kasinatian, ug ilabi na sa atong biology. Una nga gipatin-aw sa kapitulo tulo sa atong Umaabot sa Ebolusyon sa Tawo serye, tagda ang pananglitan sa atong utok:

Ang atong utok ang nagtabang kanato nga masabtan ang kalibutan sa atong palibot. Ug kini dili pinaagi sa paglutaw sa ibabaw sa atong mga ulo, pagtan-aw sa palibot, ug pagkontrolar kanato sa usa ka Xbox controller; mahimo kini pinaagi sa pagkatanggong sulod sa usa ka kahon (atong mga noggins) ug pagproseso sa bisan unsang impormasyon nga gihatag niini gikan sa atong mga sensory organ—atong mga mata, ilong, dunggan, ug uban pa.

Apan sama nga ang bungol o buta nagpuyo nga mas gagmay nga mga kinabuhi kon itandi sa mga tawo nga lig-on ug lawas, tungod sa mga limitasyon sa ilang mga kakulangan kung giunsa nila pag-ila ang kalibutan, parehas nga butang ang masulti alang sa tanan nga mga tawo tungod sa mga limitasyon sa atong sukaranan. set sa sensory organo.

Binagbinaga ini: Ang aton mga mata nakakita sing kubos sa napulo ka trilyon sang tanan nga light wave. Dili namo makita ang gamma ray. Dili namo makita ang x-ray. Dili namo makita ang ultraviolet nga kahayag. Ug ayaw ako pagsugod sa infrared, microwave, ug mga radio wave!

Ang tanan nga pagbiaybiay, hunahunaa kung unsa ang imong kinabuhi, kung unsa ang imong mahunahuna sa kalibutan, unsa ka lahi ang mahimo sa imong hunahuna kung makakita ka labi pa sa gamay nga tipik sa kahayag nga gitugot sa imong mga mata karon. Sa susama, handurawa kon unsay imong lantawon sa kalibotan kon ang imong panimaho sama sa iro o kon ang imong pandungog sama sa elepante.

Isip mga tawo, makita nato ang kalibutan pinaagi sa usa ka peephole, ug kana makita sa mga hunahuna nga atong gibag-o aron masabtan ang limitado nga panglantaw.

Samtang, ang unang ASI matawo sa sulod sa usa ka supercomputer. Imbis sa mga organo, ang mga input nga ma-access niini naglakip sa higanteng mga dataset, posible (lagmit) bisan ang pag-access sa Internet mismo. Ang mga tigdukiduki makahatag niini og access sa mga CCTV camera ug mikropono sa tibuok siyudad, ang sensory data gikan sa mga drone ug satellite, ug bisan ang pisikal nga porma sa usa ka robot nga lawas o mga lawas.

Sama sa imong mahanduraw, ang usa ka hunahuna nga natawo sa sulod sa usa ka supercomputer, nga adunay direkta nga pag-access sa Internet, sa milyon-milyon nga mga mata ug dalunggan sa elektroniko ug usa ka tibuuk nga lainlain nga mga advanced sensor dili lamang maghunahuna nga lahi kaysa kanato, apan usa ka hunahuna nga adunay kahulugan. sa tanan nga mga sensory input kinahanglan nga labi ka labaw sa amon. Kini usa ka hunahuna nga hingpit nga langyaw sa atong kaugalingon ug sa bisan unsang ubang porma sa kinabuhi sa planeta.

Mga tumong. Ang laing butang nga gihunahuna sa mga tawo mao nga sa higayon nga ang usa ka ASI makaabot sa usa ka lebel sa superintelligence, makaamgo dayon kini sa tinguha nga makahimo sa kaugalingon nga mga katuyoan ug katuyoan. Apan dili usab kana tinuod.

Daghang mga tigdukiduki sa AI ang nagtuo nga ang superintelligence sa usa ka ASI ug ang mga katuyoan niini "orthogonal," nga mao, bisan unsa pa kini ka maalamon, ang mga katuyoan sa ASI magpabilin nga parehas. 

Mao nga kung ang usa ka AI orihinal nga gimugna aron sa pagdesinyo sa usa ka mas maayo nga lampin, pag-maximize sa pagbalik sa stock market, o pag-estratehiya sa mga paagi aron mapildi ang usa ka kaaway sa natad sa panggubatan, sa higayon nga kini makaabot sa lebel sa ASI, ang orihinal nga tumong dili mausab; ang magbag-o mao ang pagkaepektibo sa ASI aron makab-ot ang mga katuyoan.

Apan dinhi anaa ang kapeligrohan. Kung ang usa ka ASI nga nag-optimize sa kaugalingon sa usa ka piho nga katuyoan, nan mas maayo nga sigurado nga ma-optimize kini sa usa ka katuyoan nga nahiuyon sa mga katuyoan sa tawo. Kay kon dili, ang mga resulta mahimong makamatay.

Ang usa ka artipisyal nga superintelligence ba adunay usa ka existential nga risgo sa katawhan?

Unsa man kung ang usa ka ASI buhian sa kalibutan? Kung kini mag-optimize sa pagdominar sa stock market o pagsiguro sa supremasya sa militar sa US, dili ba ang ASI magbaton sa kaugalingon sa sulod sa mga piho nga katuyoan?

Lagmit.

Hangtod karon atong nahisgutan kung giunsa ang usa ka ASI malinga sa (mga) katuyoan nga orihinal nga gi-assign ug dili tawhanon nga katakus sa pagtinguha sa mga katuyoan. Ang catch mao nga ang usa ka makatarunganon nga ahente magpadayon sa iyang mga katuyoan sa labing episyente nga paagi nga posible gawas kung hatagan usa ka hinungdan nga dili.

Sama pananglit, ang makatarunganon nga ahente maghimo usa ka lainlaing mga subgoals (ie mga katuyoan, instrumental nga mga katuyoan, mga lakang nga bato) nga makatabang niini aron makab-ot ang katapusan nga katuyoan. Para sa mga tawo, ang atong yawe nga subconscious nga tumong mao ang pagsanay, pagpasa sa imong mga gene (ie dili direkta nga pagka-imortal). Ang mga sub-goal alang niana nga katuyoan sagad maglakip sa:

• Ang paglahutay, pinaagi sa pag-access sa pagkaon ug tubig, pagdako ug kusog, pagkat-on sa pagpanalipod sa imong kaugalingon o pagpamuhunan sa lainlaing mga porma sa pagpanalipod, ug uban pa. 
• Pagdani sa usa ka kapikas, pinaagi sa pag-ehersisyo, pagpalambo sa usa ka madanihon nga personalidad, pagsul-ob og estilo, ug uban pa.
• Paghatag og mga anak, pinaagi sa pagkuha og edukasyon, pag-landing og taas nga suweldo nga trabaho, pagpalit sa mga lit-ag sa middle-class nga kinabuhi, ug uban pa.

Alang sa kadaghanan kanato, magpaulipon kita niining tanan nga mga subgoal, ug daghan pa, uban ang paglaum nga sa katapusan, makab-ot nato kining katapusang tumong sa pagsanay.

Apan kon kining katapusang tumong, o bisan ang bisan unsa sa mas importante nga mga subgoal, mahulga, daghan kanato ang mohimo og mga aksyong depensiba gawas sa atong moral comfort zones—nga naglakip sa pagpanikas, pagpangawat, o bisan sa pagpatay.

Ingon usab, sa gingharian sa mga mananap, gawas sa mga utlanan sa moralidad sa tawo, daghang mga mananap ang dili maghunahuna sa makaduha mahitungod sa pagpatay sa bisan unsa nga makahulga sa ilang kaugalingon o sa ilang mga anak.

Ang umaabot nga ASI walay kalainan.

Apan imbis nga mga anak, ang ASI mag-focus sa orihinal nga katuyoan nga kini gimugna, ug sa pagpadayon niini nga katuyoan, kung makit-an niini ang usa ka partikular nga grupo sa mga tawo, o bisan ang tanan nga katawhan, usa ka babag sa pagpadayon sa mga katuyoan niini. , unya ... kini maghimo sa makatarunganon nga desisyon.

(Dinhi diin mahimo nimong ibutang ang bisan unsang senaryo nga may kalabotan sa AI, senaryo sa katapusan nga nabasa nimo sa imong paborito nga libro sa sci-fi o pelikula.)

Kini ang pinakagrabe nga sitwasyon sa sitwasyon nga nabalaka pag-ayo sa mga tigdukiduki sa AI. Ang ASI dili molihok tungod sa pagdumot o kadautan, walay pagtagad lamang, sama sa kung giunsa nga ang usa ka construction crew dili magduha-duha mahitungod sa pag-bulldoser sa usa ka bungtod sa hulmigas sa proseso sa pagtukod og bag-ong condo tower.

Side note. Niini nga punto, ang pipila kaninyo tingali nahibulong, "Dili ba mahimo nga i-edit lang sa mga tigdukiduki sa AI ang mga panguna nga katuyoan sa ASI pagkahuman sa kamatuoran kung nahibal-an namon nga kini naglihok?"

Dili gayud.

Kung mohamtong na ang usa ka ASI, ang bisan unsang pagsulay sa pag-edit sa (mga) orihinal nga katuyoan niini mahimong makita nga usa ka hulga, ug usa nga nanginahanglan labi nga mga aksyon aron mapanalipdan ang kaugalingon batok. Gamit ang tibuok nga panig-ingnan sa pagsanay sa tawo gikan sa una, kini halos sama sa usa ka kawatan nga naghulga sa pagkawat sa usa ka bata gikan sa sabakan sa usa ka mabdos nga inahan-makasigurado ka nga ang inahan mohimo ug grabeng mga lakang aron mapanalipdan ang iyang anak.

Sa makausa pa, wala kami maghisgot bahin sa usa ka calculator dinhi, apan usa ka 'buhi' nga binuhat, ug usa nga usa ka adlaw mahimong labi ka maalamon kaysa tanan nga mga tawo sa planeta nga gihiusa.

Ang wala mailhi

Luyo sa sugilanon sa Kahon ni Pandora usa ka dili kaayo nahibal-an nga kamatuoran nga kanunay makalimtan sa mga tawo: ang pag-abli sa kahon dili malikayan, kung dili nimo kaysa sa uban. Ang gidili nga kahibalo makatintal kaayo nga magpabiling sirado hangtod sa hangtod.

Kini ang hinungdan ngano nga ang pagsulay sa pagkab-ot sa usa ka global nga kasabutan aron hunongon ang tanan nga panukiduki sa AI nga mahimong mosangpot sa usa ka ASI walay kapuslanan-adunay daghan kaayo nga mga organisasyon nga nagtrabaho niini nga teknolohiya sa opisyal ug sa mga anino.

Sa katapusan, wala kami nahibal-an kung unsa ang ipasabut niining bag-ong entidad, kini nga ASI sa katilingban, sa teknolohiya, sa politika, kalinaw ug gubat. Kitang mga tawo hapit na mag-imbento og kalayo pag-usab ug diin kini nga paglalang nagpadulong kanato dili hingpit nga nahibal-an.

Pagbalikbalik sa unang kapitulo sa kini nga serye, ang usa ka butang nga nahibal-an namon nga sigurado mao nga ang salabutan mao ang gahum. Ang intelihensiya mao ang pagkontrol. Ang mga tawo mahimong kaswal nga makabisita sa labing delikado nga mga hayop sa kalibutan sa ilang lokal nga mga zoo dili tungod kay kami mas kusgan sa pisikal kaysa kini nga mga hayop, apan tungod kay kami labi ka maalamon.

Tungod sa potensyal nga mga stake nga nalambigit, sa usa ka ASI nga naggamit sa iyang dako nga salabutan sa paghimo sa mga aksyon nga direkta o dili tinuyo nga naghulga sa pagkaluwas sa kaliwatan sa tawo, utang namon kini sa among kaugalingon nga labing menos pagsulay sa pagdesinyo sa mga panalipod nga magtugot sa mga tawo nga magpabilin sa drayber. lingkoranan—kini mao ang hilisgutan sa sunod nga kapitulo.

Umaabot sa serye sa Artipisyal nga Intelligence

Q1: Ang Artificial Intelligence mao ang kuryente ugma

Q2: Giunsa ang una nga Artipisyal nga Kinatibuk-ang Kaalam nga magbag-o sa katilingban

Q3: Giunsa naton paghimo ang una nga Artipisyal nga Superintelligence

Q5: Giunsa pagpanalipod sa mga tawo batok sa usa ka Artipisyal nga Superintelligence

Q6: Ang mga tawo ba magpuyo nga malinawon sa umaabot nga gimandoan sa artipisyal nga mga paniktik?