An scriosfaidh Maoirseacht Saorga an chine daonna? Todhchaí na hintleachta saorga P4

Tá aireagáin áirithe a théann náisiúin uile isteach ar. Is aireagáin iad seo ina mbraitheann gach rud ar a bheith ar an gcéad dul síos, agus d'fhéadfadh bagairt straitéiseach agus básmhar a bheith i gceist le haon rud níos lú do mharthanas an náisiúin.

Ní minic a thagann na haireagáin shainiúla staire seo thart, ach nuair a dhéanann siad, stopann an domhan agus éiríonn todhchaí sothuartha.

Tháinig an t-aireagán deireanach dá leithéid chun cinn le linn an Dara Cogadh Domhanda ba mheasa. Cé go raibh na Naitsithe ag dul i muinín gach gné den sean-domhan, sa domhan nua, go sonrach taobh istigh de bhunáit arm rúnda lasmuigh de Los Alamos, bhí na Comhghuaillithe go dian ag obair ar arm chun deireadh a chur le gach arm.

Bhí an tionscadal beag ar dtús, ach d'fhás ansin chun 130,000 duine a fhostú ó SAM, an RA agus Ceanada, lena n-áirítear go leor de na smaointeoirí ba mhó ar domhan ag an am. Tugadh an Cód-ainm ar Thionscadal Manhattan agus tugadh buiséad neamhtheoranta dó - thart ar $23 billiún i 2018 dollar - d'éirigh leis an arm seo de intleacht an duine an chéad bhuama núicléach a chruthú. Ní fada ina dhiaidh sin, chríochnaigh an Dara Cogadh Domhanda le dhá bangs adamhach.

Tháinig na hairm núicléacha seo isteach san aois adamhach, thug siad isteach foinse úrnua fuinnimh, agus thug siad an cumas don chine daonna é féin a dhíbirt i nóiméid - rud a sheachain muid in ainneoin an Chogaidh Fhuair.

Stair eile fós is ea cruthú maoirseachta saorga (ASI) a shainíonn aireagán a sháraíonn a chumhacht (idir dhearfach agus millteach) an buama núicléach.

Sa chaibidil dheireanach den tsraith Future of Artificial Intelligence, rinneamar iniúchadh ar cad is ASI ann agus conas a bheartaíonn taighdeoirí lá amháin a thógáil. Sa chaibidil seo, féachfaimid ar cad iad na heagraíochtaí atá i gceannas ar thaighde hintleachta saorga (AI), cad a bheidh ag teastáil ó ASI nuair a ghnóthóidh sé comhfhios daonna, agus conas a d’fhéadfadh sé bagairt a dhéanamh ar an gcine daonna dá ndéanfaí míbhainistíocht orthu nó má thiteann sé faoi thionchar an duine. réimis nach bhfuil chomh deas.

Cé atá ag obair chun sáreolas saorga a thógáil?

Mar gheall ar chomh suntasach agus a bheidh cruthú ASI do stair an duine agus cé chomh mór is a bheidh sé ina bhuntáiste dá chruthaitheoir, ní haon iontas é a chloisteáil go bhfuil go leor grúpaí ag obair go hindíreach ar an tionscadal seo.

(Go hindíreach, is éard atá i gceist againn oibriú ar thaighde AI a chruthóidh an chéad cheann sa deireadh intleacht ghinearálta shaorga (AGI), as a dtiocfaidh an chéad ASI go luath ina dhiaidh sin.)

Chun tús a chur, nuair a thagann sé chuig na ceannlínte, is iad na ceannairí soiléire i dtaighde chun cinn AI na gnólachtaí is fearr ardteicneolaíochta sna Stáit Aontaithe agus sa tSín. Ó thaobh na SA, áirítear leis seo cuideachtaí mar Google, IBM, agus Microsoft, agus sa tSín, áirítear leis seo cuideachtaí mar Tencent, Baidu, agus Alibaba. Ach ós rud é go bhfuil taighde AI sách saor i gcomparáid le rud éigin fisiceach a fhorbairt, cosúil le himoibreoir núicléach níos fearr, is réimse é seo freisin ar féidir le heagraíochtaí níos lú dul san iomaíocht ann freisin, cosúil le hollscoileanna, gnólachtaí nuathionscanta, agus ... eagraíochtaí scáthacha (bain úsáid as do shamhlacha villain Bond le haghaidh an ceann sin).

Ach sa chúlra, tá an fíorbhrú taobh thiar de thaighde AI ag teacht ó rialtais agus a gcuid míleatacha. Tá an duais eacnamaíoch agus míleata as a bheith ar an gcéad duine a chruthaigh ASI díreach ró-mhór (léirithe thíos) chun an baol a bheith taobh thiar de. Agus tá na contúirtí a bhaineann le bheith deiridh do-ghlactha, ar a laghad do réimis áirithe.

I bhfianaise na bhfachtóirí seo, an costas réasúnta íseal a bhaineann le taighde a dhéanamh ar AI, feidhmeanna tráchtála gan teorainn AI chun cinn, agus an buntáiste eacnamaíoch agus míleata a bheith ar dtús chun ASI a chruthú, creideann go leor taighdeoirí AI go bhfuil cruthú ASI dosheachanta.

Cathain a chruthóimid maoirseacht shaorga

Inár gcaibidil faoi AGIanna, luaigh muid conas a chreid suirbhé ar na príomhthaighdeoirí AI go gcruthóimid an chéad AGI go dóchasach faoi 2022, go réadúil faoi 2040, agus go doirbh faoi 2075.

Agus inár chaibidil dheireanach, thugamar breac-chuntas ar an gcaoi a bhfuil cruthú ASI mar thoradh go ginearálta ar threoir a thabhairt do AGI é féin a fheabhsú gan teorainn agus na hacmhainní agus an tsaoirse a thabhairt dó é sin a dhéanamh.

Ar an ábhar sin, cé go bhféadfadh go dtógfaidh AGI suas le cúpla bliain chun AGI a chumadh, d’fhéadfadh nach dtógfaidh sé ach dornán blianta eile chun ASI a chruthú.

Tá an pointe seo cosúil leis an gcoincheap de 'barráil ríomhaireachta' a mholtar in páipéar, comh-scríofa ag smaointeoirí AI tosaigh Luke Muehlhauser agus Nick Bostrom. Go bunúsach, má leanann cruthú AGI ar aghaidh ag titim chun deiridh ar an dul chun cinn reatha in acmhainn ríomhaireachta, faoi thiomáint ag Dlí Moore, ansin faoin am a cheapann taighdeoirí AGI, beidh an oiread sin cumhachta ríomhaireachta saor ar fáil go mbeidh an acmhainn ag an AGI. ní mór dó léim go tapa chuig an leibhéal ASI.

I bhfocail eile, nuair a léann tú ar deireadh na ceannlínte ag fógairt gur chum cuideachta teicneolaíochta éigin an chéad AGI fíor, ansin bí ag súil go bhfógrófar an chéad ASI go luath ina dhiaidh sin.

Taobh istigh den aigne ar fheitheoireachta saorga?

Ceart go leor, mar sin tá a fhios againn go bhfuil go leor imreoirí móra le pócaí domhain ag déanamh taighde ar AI. Agus ansin tar éis an chéad AGI a chumadh, feicfidh muid rialtais an domhain (míleata) ag soilsiú glas ar an bhrú i dtreo ASI go luath ina dhiaidh sin le bheith ar dtús a bhuaigh an rás arm domhanda AI (ASI).

Ach nuair a chruthaítear an ASI seo, conas a cheapfaidh sé? Cad a bheidh sé ag iarraidh?

An madra cairdiúil, an t-eilifint chomhbhách, an róbat gleoite—mar dhaoine, tá sé de nós againn iarracht a dhéanamh caidreamh a dhéanamh le rudaí trí iad a antraipeolaíocht, ie tréithe daonna a chur i bhfeidhm ar rudaí agus ar ainmhithe. Sin an fáth gurb é an chéad toimhde nádúrtha a bhíonn ag daoine agus iad ag smaoineamh ar ASI ná go n-aimseoidh sé comhfhios ar bhealach éigin, go smaoineoidh sé agus go n-iompróidh sé mar an gcéanna linne.

Bhuel, ní gá.

Dearcadh. I gcás amháin, is é an rud is mó a dhéanann dearmad ná go bhfuil an dearcadh coibhneasta. Na bealaí a cheapann muid atá múnlaithe ag ár dtimpeallacht, ag ár dtaithí, agus go háirithe ag ár mbitheolaíocht. Míníodh ar dtús i caibidil a trí ár n- Todhchaí Éabhlóid an Duine sraith, smaoinigh ar shampla ár n-inchinn:

Is é ár n-inchinn a chuidíonn linn ciall a bhaint as an domhan thart orainn. Agus ní dhéanann sé seo trí bheith ag snámh os cionn ár gcinn, ag breathnú thart, agus ag rialú sinn le rialtóir Xbox; déanann sé é seo trí bheith gafa taobh istigh de bhosca (ár noggins) agus próiseáil a dhéanamh ar cibé faisnéis a thugtar ónár n-orgán céadfacha - ár súile, ár srón, ár gcluasa, etc.

Ach díreach mar a mhaireann na bodhair nó na daill saolta i bhfad níos lú i gcomparáid le daoine cumasacha, mar gheall ar na srianta a chuireann a míchumas ar an gcaoi ar féidir leo an domhan a bhrath, is féidir an rud céanna a rá maidir le gach duine mar gheall ar shrianta ár mbunús. sraith na n-orgán céadfach.

Smaoinigh ar seo: Is lú ná deich trilliúnú de na tonnta solais go léir a bhraitheann ár súile. Ní féidir linn gáma-ghathanna a fheiceáil. Ní féidir linn x-ghathanna a fheiceáil. Ní féidir linn solas ultraivialait a fheiceáil. Agus ná cuir tús liom ar infridhearg, ar mhicreathonnta agus ar thonnta raidió!

Agus tú ag magadh i leataobh, samhlaigh cad é mar a bheadh ​​do shaol, conas a d’fheicfeá an domhan, cé chomh difriúil agus a d’fhéadfadh d’intinn a oibriú dá bhfeicfeá níos mó ná an slirín beag solais a cheadaíonn do shúile faoi láthair. Mar an gcéanna, samhlaigh conas a d’fheicfeá an domhan dá mba ionann do bholadh agus braistint madra nó dá mba ionann do mhothú éisteachta agus eilifint.

Mar dhaoine, feicimid go bunúsach an domhan trí philéar, agus tá sé sin le feiceáil san aigne a d’athraigh muid chun ciall a bhaint as an dearcadh teoranta sin.

Idir an dá linn, beidh an chéad ASI a rugadh taobh istigh d'ollríomhaire. In ionad orgáin, beidh tacair shonraí ollmhóra san áireamh sna hionchuir a gheobhaidh sé, agus b'fhéidir (dócha) fiú rochtain ar an Idirlíon féin. D’fhéadfadh taighdeoirí rochtain a thabhairt dó ar cheamaraí CCTV agus ar mhicreafóin na cathrach ar fad, ar na sonraí céadfacha ó dhrones agus ó shatailítí, agus fiú foirm fhisiciúil coirp nó comhlachtaí róbait.

Mar a d’fhéadfá a shamhlú, ní hamháin go smaoineoidh meon a rugadh taobh istigh d’ollríomhaire, a bhfuil rochtain dhíreach aige ar an Idirlíon, na milliúin súile agus cluasa leictreonacha agus raon iomlán de ardbhraiteoirí eile ar bhealach difriúil ná sinne, ach ar aigne atá in ann ciall a bhaint as. de na hionchuir céadfacha sin go léir ní mór a bheith i bhfad níos fearr ná sinne freisin. Seo aigne a bheidh go hiomlán coimhthíoch dár gcuid féin agus d'aon chineál saoil eile ar an phláinéid.

Spriocanna. Is é an rud eile a ghlacann daoine leis ná, a luaithe a shroicheann ASI leibhéal éigin feitheoireachta, go mbainfidh sé a mhian láithreach a spriocanna agus a chuspóirí féin a bhaint amach. Ach ní gá go bhfuil sé sin fíor ach an oiread.

Creideann go leor taighdeoirí AI go bhfuil feasacht ASI agus a spriocanna “orthogonal,” is é sin, is cuma cé chomh cliste a bheidh sé, fanfaidh spriocanna an ASI mar a chéile. 

Mar sin, cibé an gcruthaítear AI ar dtús chun diaper níos fearr a dhearadh, tuairisceáin ar an stocmhargadh a uasmhéadú, nó bealaí a straitéisiú chun namhaid a shárú ar an gcatha, nuair a shroicheann sé leibhéal ASI, ní athróidh an sprioc bunaidh; cad a athróidh éifeachtacht an ASI chun na spriocanna sin a bhaint amach.

Ach luíonn anseo an baol. Más ASI a uasmhéadaíonn é féin do sprioc ar leith, is fearr dúinn a bheith cinnte go n-uasmhéadaíonn sé sprioc atá ag teacht le spriocanna an chine dhaonna. Seachas sin, is féidir leis na torthaí dul deadly.

An bhfuil maoirseacht shaorga ina riosca eiseach don chine daonna?

Mar sin, cad a tharlaíonn má scaoiltear ASI ar fud an domhain? Má dhéantar an leas is fearr a bhaint as tionchar an-mhór a bheith aige ar an stocmhargadh nó ardcheannas míleata SAM a chinntiú, nach mbeidh an ASI féin istigh sna sainspriocanna sin?

Is féidir.

Go dtí seo tá plé déanta againn ar an gcaoi a mbeidh ASI gafa leis an sprioc/na spriocanna a sannadh dó i dtosach agus inniúil go mídhaonna ar thóir na spriocanna sin. Is éard atá i gceist leis an ngabháil go ndéanfaidh gníomhaire réasúnach a chuid spriocanna a shaothrú ar an mbealach is éifeachtaí agus is féidir mura dtugtar cúis gan é sin a dhéanamh.

Mar shampla, tiocfaidh an gníomhaire réasúnach suas le raon fo-spriocanna (ie cuspóirí, spriocanna uirlise, céimeanna) a chabhróidh leis ar a bhealach chun a sprioc deiridh a bhaint amach. Do dhaoine, is é ár bpríomhsprioc fho-chomhfhiosach atáirgeadh, do ghéinte a chur ar aghaidh (ie neamhbhásmhaireacht indíreach). Is minic a chuimseodh na fo-spriocanna chuige sin:

• Marthanach, trí rochtain a fháil ar bhia agus uisce, ag fás mór agus láidir, ag foghlaim conas tú féin a chosaint nó ag infheistiú i gcineálacha éagsúla cosanta, etc. 
• Maité a mhealladh, trí oibriú amach, pearsantacht mhealltach a fhorbairt, gléasadh go stylish, etc.
• Sliocht a thabhairt, trí oideachas a fháil, post ardíocaíochta a thabhairt i dtír, gaiscí shaol na meánaicme a cheannach, etc.

Don chuid is mó againn, beidh muid ag sclábhaíocht ar shiúl trí na fo-spriocanna seo go léir, agus go leor eile, le súil go mbainfidh muid amach sa deireadh an sprioc deiridh seo de atáirgeadh.

Ach dá gcuirfí an sprioc deiridh seo, nó fiú aon cheann de na fo-spriocanna is tábhachtaí i mbaol, dhéanfadh go leor againn bearta cosantacha lasmuigh dár gcriosanna sóláis morálta - lena n-áirítear caimiléireacht, goid, nó fiú marú.

Mar an gcéanna, i ríocht na n-ainmhithe, lasmuigh de theorainneacha na moráltachta daonna, ní smaoineodh go leor ainmhithe faoi dhó ar aon rud a mharú a bhí ina bhagairt orthu féin nó ar a sliocht.

Ní bheidh aon difríocht idir ASI sa todhchaí.

Ach in ionad an tsliocht, díreoidh an ASI ar an mbunsprioc a cruthaíodh dó, agus le linn dó an sprioc seo a bhaint amach, má aimsíonn sé go bhfuil grúpa ar leith daoine, nó fiú an daonnacht ar fad, ina chonstaic ar thóir a spriocanna. , ansin ... déanfaidh sé an cinneadh réasúnach.

(Seo an áit ar féidir leat aon chás lae doomsday a bhaineann le AI ar léigh tú faoi sa leabhar nó sa scannán sci-fi is fearr leat a chur isteach.)

Is é seo an cás is measa a bhfuil imní mhór ar thaighdeoirí AI faoi. Ní ghníomhóidh an ASI as fuath ná as olc, ach neamhshuim, mar a chéile nach smaoineoidh criú tógála faoi dhó ar ollscartaire a dhéanamh ar chnoc seangán agus iad ag tógáil túr coisctheach nua.

Nóta taobh. Ag an bpointe seo, b'fhéidir go mbeadh cuid agaibh ag smaoineamh, "Nach bhfuil taighdeoirí AI in ann príomhspriocanna an ASI a chur in eagar tar éis dúinn a fháil amach go bhfuil sé ag gníomhú?"

Níl i ndáiríre.

Nuair a aibíonn ASI, d’fhéadfaí féachaint ar aon iarracht chun a bhunsprioc a chur in eagar mar bhagairt, agus mar cheann a mbeadh gá le gníomhartha foircneacha chun é féin a chosaint ina aghaidh. Ag baint úsáide as an sampla atáirgeadh daonna iomlán ó níos luaithe, tá sé beagnach amhail is dá mba bhagairt ag gadaí leanbh a ghoid ó bhroinn na máthar a bhí ag súil - is féidir leat a bheith cinnte go ndéanfadh an mháthair bearta tromchúiseacha chun a leanbh a chosaint.

Arís, ní ar áireamhán atáimid ag caint anseo, ach duine 'beo', agus duine a éireoidh i bhfad níos cliste ná gach duine ar an bpláinéad le chéile.

An anaithnid

Taobh thiar den scéal Bosca Pandora is fírinne í nach bhfuil mórán aithne uirthi a ndéanann daoine dearmad uirthi go minic: tá sé dosheachanta go n-osclaítear an bosca, mura tusa féin ná ag duine éigin eile é. Tá eolas toirmiscthe ró-thrócaireach chun fanacht faoi ghlas go deo.

Sin an fáth a bhfuiltear ag iarraidh teacht ar chomhaontú domhanda chun stop a chur le gach taighde ar AI a d’fhéadfadh ASI a bheith mar thoradh air—tá an iomarca eagraíochtaí ag obair ar an teicneolaíocht seo go hoifigiúil agus faoi scáth.

I ndeireadh na dála, níl aon leid againn cad a bheidh i gceist leis an eintiteas nua seo, leis an ASI seo don tsochaí, don teicneolaíocht, don pholaitíocht, don tsíocháin agus don chogadh. Táimid daoine ar tí tine a chumadh arís agus arís eile agus ní fios cén áit a stiúrann an cruthú sinn.

Ag dul siar go dtí an chéad chaibidil den tsraith seo, is é an rud amháin atá ar eolas againn go cinnte ná gur cumhacht í an fhaisnéis. Is éard atá i gceist le faisnéis a rialú. Is féidir le daoine cuairt a thabhairt ar na hainmhithe is contúirtí ar domhan ag a zúnna áitiúla ní toisc go bhfuilimid níos láidre go fisiciúil ná na hainmhithe seo, ach toisc go bhfuilimid i bhfad níos cliste.

I bhfianaise na ngeallta a d’fhéadfadh a bheith i gceist, maidir le ASI a úsáideann a intleacht ollmhór chun gníomhartha a dhéanamh a d’fhéadfadh bagairt a dhéanamh go díreach nó go neamhaireach ar mharthanacht an chine dhaonna, tá sé de dhualgas orainn féin iarracht a dhéanamh ar a laghad cosaintí a dhearadh a ligfidh do dhaoine fanacht i dtiomántán an tiománaí. suíochán -seo is ábhar don chéad chaibidil eile.

Sraith todhchaí na hintleachta saorga

C1: Is é Intleacht Shaorga leictreachas an lae amárach

C2: Conas a athróidh an chéad Faisnéise Ginearálta Saorga an tsochaí

C3: Conas a chruthóimid an chéad Maoirseacht Saorga

C5: Conas a chosnóidh daoine in aghaidh Maoirseachta Saorga

C6: An mbeidh daoine ag maireachtáil go síochánta i dtodhchaí atá faoi cheannas hintleachta saorga?