Njẹ Alabojuto Oríkĕ kan yoo pa eniyan run bi? Ọjọ iwaju ti itetisi atọwọda P4

Nibẹ ni o wa awọn inventions orilẹ-ède lọ gbogbo ni lori. Iwọnyi jẹ awọn idasilẹ nibiti ohun gbogbo da lori jijẹ akọkọ, ati pe ohunkohun ti o kere si le tumọ si ilana ilana ati eewu iku si iwalaaye orilẹ-ede kan.

Awọn wọnyi ni itan asọye inventions ko ba wa ni ayika igba, sugbon nigba ti won se, aye duro ati ki o kan asọtẹlẹ ojo iwaju di ha.

Awọn ti o kẹhin iru kiikan emerged nigba ti buru ti WWII. Lakoko ti awọn Nazis ti n gba ilẹ ni gbogbo awọn iwaju ni agbaye atijọ, ni agbaye tuntun, ni pataki ni inu ipilẹ ogun aṣiri kan ni ita Los Alamos, awọn Allies jẹ lile ni iṣẹ lori ohun ija lati pari gbogbo awọn ohun ija.

Ise agbese na kere ni akọkọ, ṣugbọn lẹhinna dagba lati gba awọn eniyan 130,000 lati AMẸRIKA, UK, ati Canada, pẹlu ọpọlọpọ awọn ero ti o tobi julo ni agbaye ni akoko naa. Codenamed awọn Manhattan Project ati ki o fifun ni ailopin isuna — aijọju $23 bilionu ni 2018 dọla — yi ogun ti eda eniyan ọgbọn nipari aseyori ni ṣiṣẹda akọkọ iparun bombu. Laipẹ lẹhinna, WWII pari pẹlu awọn bangs atomiki meji.

Àwọn ohun ìjà ọ̀gbálẹ̀gbáràwé wọ̀nyí mú wá sínú sànmánì átọ́míìkì, wọ́n mú orísun agbára tuntun kan jáde, ó sì fún ẹ̀dá ènìyàn ní agbára láti pa ara rẹ̀ run láàárín ìṣẹ́jú díẹ̀—ohun kan tí a yẹra fún láìka Ogun Tútù sí.

Ṣiṣẹda alabojuto atọwọda (ASI) tun jẹ itan-akọọlẹ miiran ti n ṣalaye ẹda ti agbara (mejeeji rere ati iparun) ju bombu iparun lọ.

Ni ipin ti o kẹhin ti ojo iwaju ti jara oye oye Artificial, a ṣawari kini ASI jẹ ati bii awọn oniwadi ṣe gbero lati kọ ọkan ni ọjọ kan. Ninu ori yii, a yoo wo kini awọn ajo ti n ṣe iwadii itetisi atọwọda (AI), kini ASI yoo fẹ ni kete ti o ba ni imọ-jinlẹ ti eniyan, ati bii o ṣe le ṣe idẹruba ẹda eniyan ti a ko ba ṣakoso tabi ti ẹnikan ba ṣubu labẹ ipa ti eniyan. ko-ki-dara awọn ijọba.

Tani n ṣiṣẹ lati kọ oye alamọdaju kan?

Fi fun bawo ni ẹda ti ASI ṣe pataki si itan-akọọlẹ eniyan ati bii iwọn anfani ti yoo fun ẹlẹda rẹ, ko yẹ ki o jẹ iyalẹnu lati gbọ pe ọpọlọpọ awọn ẹgbẹ n ṣiṣẹ laiṣe taara lori iṣẹ akanṣe yii.

(Ni aiṣe-taara, a tumọ si ṣiṣẹ lori iwadii AI ti yoo ṣẹda akọkọ itetisi gbogboogbo atọwọda (AGI), iyẹn funrararẹ yoo yorisi ASI akọkọ laipẹ lẹhin.)

Lati bẹrẹ, nigbati o ba de si awọn akọle, awọn oludari ti o han gbangba ni iwadii AI ilọsiwaju jẹ awọn ile-iṣẹ imọ-ẹrọ giga ni AMẸRIKA ati China. Ni iwaju AMẸRIKA, eyi pẹlu awọn ile-iṣẹ bii Google, IBM, ati Microsoft, ati ni China, eyi pẹlu awọn ile-iṣẹ bii Tencent, Baidu, ati Alibaba. Ṣugbọn niwọn igba ti iwadii AI jẹ olowo poku ni afiwe si idagbasoke nkan ti ara, bii riakito iparun ti o dara julọ, eyi tun jẹ aaye ti awọn ẹgbẹ kekere le dije ninu daradara, bii awọn ile-ẹkọ giga, awọn ibẹrẹ, ati… awọn ẹgbẹ ojiji (lo awọn oju inu Bond villain rẹ fun Iyen naa).

Ṣugbọn lẹhin awọn iṣẹlẹ, titari gidi lẹhin iwadii AI n wa lati awọn ijọba ati awọn ologun wọn. Ẹbun ọrọ-aje ati ologun ti jije akọkọ lati ṣẹda ASI jẹ nla pupọ (ti a ṣe ilana ni isalẹ) lati ṣe eewu ja bo sile. Ati awọn ewu ti jije kẹhin jẹ itẹwẹgba, o kere si awọn ijọba kan.

Fun awọn ifosiwewe wọnyi, iye owo kekere ti o kere julọ ti iwadii AI, awọn ohun elo iṣowo ailopin ti AI to ti ni ilọsiwaju, ati anfani aje ati ologun ti jije akọkọ lati ṣẹda ASI, ọpọlọpọ awọn oniwadi AI gbagbọ pe ẹda ASI jẹ eyiti ko ṣeeṣe.

Nigbawo ni a yoo ṣẹda oye ti atọwọda

Ninu ori wa nipa awọn AGI, a mẹnuba bii iwadii ti awọn oniwadi AI ti o ga julọ gbagbọ pe a yoo ṣẹda AGI akọkọ ni ireti nipasẹ 2022, ni otitọ nipasẹ 2040, ati pessimistically nipasẹ 2075.

Ati ninu wa kẹhin ipin, A ṣe ilana bi ṣiṣẹda ASI jẹ abajade gbogbogbo ti kikọ AGI lati ṣe ilọsiwaju ararẹ lainidi ati fifun ni awọn ohun elo ati ominira lati ṣe bẹ.

Fun idi eyi, lakoko ti AGI le tun gba to awọn ọdun diẹ lati ṣe ẹda, ṣiṣẹda ASI le gba ọdun diẹ diẹ sii.

Aaye yii jẹ iru si imọran ti 'iṣiro overhang' kan, ti a daba ni iwe kan, àjọ-kọ nipasẹ asiwaju AI ero Luke Muehlhauser ati Nick Bostrom. Ni ipilẹ, ti o ba jẹ pe ẹda AGI tẹsiwaju lati duro lẹhin ilọsiwaju lọwọlọwọ ni agbara iširo, ti o ni agbara nipasẹ Ofin Moore, lẹhinna nipasẹ akoko ti awọn oniwadi ṣe ipilẹṣẹ AGI kan, agbara iširo olowo poku yoo wa pe AGI yoo ni agbara. o nilo lati yara yara fo si ipele ASI.

Ni awọn ọrọ miiran, nigbati o nipari ka awọn akọle ti n kede pe diẹ ninu awọn ile-iṣẹ imọ-ẹrọ ṣe ipilẹṣẹ AGI otitọ akọkọ, lẹhinna reti ikede ti ASI akọkọ ko pẹ lẹhin.

Inu inu ti oye oye atọwọda?

O dara, nitorinaa a ti fi idi rẹ mulẹ pe ọpọlọpọ awọn oṣere nla pẹlu awọn sokoto ti o jinlẹ n ṣe iwadii AI. Ati lẹhinna lẹhin ti AGI akọkọ ti ṣẹda, a yoo rii awọn ijọba agbaye (awọn ọmọ ogun) ti n tan ina alawọ ewe si ASI laipẹ lẹhinna lati jẹ akọkọ lati ṣẹgun ere-ije ohun ija AI (ASI) kariaye.

Ṣugbọn ni kete ti a ti ṣẹda ASI yii, bawo ni yoo ṣe ronu? Kini yoo fẹ?

Awọn ore aja, awọn abojuto erin, awọn wuyi roboti-bi eda eniyan, a ni a habit ti gbiyanju lati relate si ohun nipasẹ anthropologizing wọn, ie a to eda eniyan abuda si ohun ati eranko. Ti o ni idi ti adayeba akọkọ arosinu eniyan ni nigba ti lerongba nipa ohun ASI ni wipe ni kete ti o bakan jèrè aiji, o yoo ro ki o si huwa bakanna si wa.

O dara, kii ṣe dandan.

Iro. Fun ọkan, ohun ti julọ ṣọ lati gbagbe ni wipe Iro jẹ ojulumo. Awọn ọna ti a ronu jẹ apẹrẹ nipasẹ agbegbe wa, nipasẹ awọn iriri wa, ati paapaa nipasẹ isedale wa. Akọkọ salaye ni ipin meta ti wa Ojo iwaju ti Human Evolution jara, ro apẹẹrẹ ti ọpọlọ wa:

O jẹ ọpọlọ wa ti o ṣe iranlọwọ fun wa lati ni oye ti aye ti o wa ni ayika wa. Ati pe kii ṣe eyi nipa lilefoofo loke awọn ori wa, wiwo ni ayika, ati ṣiṣakoso wa pẹlu oludari Xbox kan; Ó ń ṣe èyí nípa dídi sínú àpótí kan (àwọn ọ̀rọ̀ wa) àti sísọ̀rọ̀ ìwífún èyíkéyìí tí a bá fún láti inú àwọn ẹ̀yà ara wa—ojú wa, imú, etí, abbl.

Ṣùgbọ́n gẹ́gẹ́ bí adití tàbí afọ́jú ṣe ń gbé ìgbésí ayé tí ó kéré gan-an ní ìfiwéra pẹ̀lú àwọn abarapá ọkùnrin, nítorí àwọn ààlà àìlera wọn lórí bí wọ́n ṣe lè róye ayé, ohun kan náà ni a lè sọ fún gbogbo ènìyàn nítorí àwọn ààlà ti ipilẹ wa. ṣeto ti ifarako ara.

Gbé èyí yẹ̀ wò: Ojú wa kò tó ìdá mẹ́wàá ìdá mẹ́wàá ìgbì ìmọ́lẹ̀. A ko le ri awọn egungun gamma. A ko le ri x-ray. A ko le ri ina ultraviolet. Ati pe maṣe jẹ ki n bẹrẹ lori infurarẹẹdi, microwaves, ati awọn igbi redio!

Gbogbo ṣiṣere ni apakan, fojuinu kini igbesi aye rẹ yoo dabi, bawo ni o ṣe le woye agbaye, bawo ni ọkan rẹ ṣe le ṣiṣẹ ti o ba le rii diẹ sii ju ina kekere ti ina oju rẹ gba laaye lọwọlọwọ. Mọdopolọ, yí nukun homẹ tọn do pọ́n lehe a na mọnukunnujẹ aihọn lọ mẹ eyin numọtolanmẹ owán tọn towe do sọzẹn hẹ avún de tọn kavi eyin nugopipe otọ́ towe tọn sọzẹn hẹ numọtolanmẹ erin tọn.

Gẹgẹbi eniyan, a rii ni pataki agbaye nipasẹ peephole, ati pe iyẹn han ninu awọn ọkan ti a ti dagba lati ni oye ti iwoye to lopin yẹn.

Nibayi, ASI akọkọ yoo bi inu ti supercomputer kan. Dipo awọn ara-ara, awọn igbewọle ti yoo wọle pẹlu awọn ipilẹ data nla, o ṣee ṣe (o ṣeeṣe) paapaa iwọle si Intanẹẹti funrararẹ. Awọn oniwadi le fun ni iwọle si awọn kamẹra CCTV ati awọn microphones ti gbogbo ilu kan, data ifarako lati awọn drones ati awọn satẹlaiti, ati paapaa fọọmu ti ara ti ara robot tabi awọn ara.

Bi o ṣe le fojuinu, ọkan ti a bi inu ti supercomputer kan, pẹlu iraye si Intanẹẹti taara, si awọn miliọnu awọn oju itanna ati awọn etí ati gbogbo ibiti o ti awọn sensọ ilọsiwaju miiran kii yoo ronu yatọ si wa nikan, ṣugbọn ọkan ti o le ni oye. ti gbogbo awọn igbewọle ifarako wọnyẹn yoo ni lati ni ailopin ga ju wa lọ pẹlu. Eyi jẹ ọkan ti yoo jẹ ajeji patapata si tiwa ati si eyikeyi iru igbesi aye miiran lori ile aye.

afojusun. Ohun miiran ti eniyan ro ni pe ni kete ti ASI ba de ipele oye alabojuto, yoo rii lẹsẹkẹsẹ ifẹ lati wa pẹlu awọn ibi-afẹde ati awọn ibi-afẹde tirẹ. Ṣugbọn iyẹn kii ṣe otitọ paapaa.

Ọpọlọpọ awọn oniwadi AI gbagbọ pe oye ti ASI kan ati awọn ibi-afẹde rẹ jẹ “orthogonal,” iyẹn ni, laibikita bawo ni o ṣe gbọn, awọn ibi-afẹde ASI yoo duro kanna. 

Nitorinaa boya a ṣẹda AI ni akọkọ lati ṣe apẹrẹ iledìí ti o dara julọ, mu awọn ipadabọ pọ si lori ọja iṣura, tabi ṣe ilana awọn ọna lati ṣẹgun ọta ni oju ogun, ni kete ti o ba de ipele ASI, ibi-afẹde atilẹba kii yoo yipada; kini yoo yipada ni imunadoko ASI lati de ọdọ awọn ibi-afẹde wọnyẹn.

Ṣugbọn ninu eyi ni ewu naa wa. Ti ASI kan ti o mu ararẹ dara si ibi-afẹde kan pato, lẹhinna a dara julọ ni idaniloju pe o mu ki ibi-afẹde kan ti o ni ibamu pẹlu awọn ibi-afẹde eniyan. Bibẹẹkọ, awọn abajade le di apaniyan.

Ṣe oye alabojuto atọwọda ṣe eewu ayeraye si ẹda eniyan bi?

Nitorinaa kini ti o ba jẹ ki ASI tu silẹ lori agbaye? Ti o ba jẹ ki o jẹ gaba lori ọja iṣura tabi rii daju pe agbara ologun AMẸRIKA, ṣe ASI ko ni ni ararẹ laarin awọn ibi-afẹde kan pato yẹn?

O ṣeeṣe.

Titi di isisiyi a ti jiroro lori bawo ni ASI yoo ṣe jẹ ifẹ afẹju pẹlu ibi-afẹde ti a ti yàn ni ipilẹṣẹ ati pe o jẹ alaiṣedeede aiṣedeede ni ilepa awọn ibi-afẹde yẹn. Apeja ni pe aṣoju onipin yoo lepa awọn ibi-afẹde rẹ ni awọn ọna ti o munadoko julọ ti o ṣeeṣe ayafi ti a ba fun ni idi kan lati ma ṣe.

Fun apẹẹrẹ, aṣoju onipin yoo wa pẹlu ọpọlọpọ awọn ibi-afẹde abẹlẹ (ie awọn ibi-afẹde, awọn ibi-afẹde ohun-elo, awọn okuta didẹ) ti yoo ṣe iranlọwọ fun u ni ọna rẹ lati ṣaṣeyọri ibi-afẹde ipari rẹ. Fun awọn eniyan, ibi-afẹde koko koko wa ni ẹda, gbigbe lori awọn jiini rẹ (ie aiku aiṣe-taara). Awọn ibi-afẹde si opin yẹn le nigbagbogbo pẹlu:

• Iwalaaye, nipa iraye si ounjẹ ati omi, dagba nla ati lagbara, kikọ ẹkọ lati daabobo ararẹ tabi idoko-owo ni ọpọlọpọ awọn ọna aabo, ati bẹbẹ lọ. 
• Fifamọra a mate, nipa ṣiṣẹ jade, sese ohun lowosi eniyan, Wíwọ ara, ati be be lo.
• Ifarada ọmọ, nipa gbigba ẹkọ, ibalẹ iṣẹ isanwo giga, rira awọn idẹkùn ti igbesi aye arin, ati bẹbẹ lọ.

Fun ọpọlọpọ ninu wa, a yoo ṣe ẹrú nipasẹ gbogbo awọn ibi-afẹde wọnyi, ati ọpọlọpọ awọn miiran, pẹlu ireti pe ni ipari, a yoo ṣaṣeyọri ibi-afẹde ipari ti ẹda.

Ṣugbọn ti o ba jẹ pe ibi-afẹde ti o ga julọ yii, tabi paapaa eyikeyi awọn ibi-afẹde kekere ti o ṣe pataki julọ,, ni a halẹ, ọpọlọpọ wa yoo ṣe awọn iṣe igbeja ni ita awọn agbegbe itunu ti iwa-eyi ti o ni jijẹ, jija, tabi pipa paapaa.

Bakanna, ni awọn ẹranko, ni ita awọn aala ti awọn iwa eda eniyan, ọpọlọpọ awọn eranko yoo ko ro lemeji nipa pipa ohunkohun ti o ewu ara wọn tabi ọmọ wọn.

ASI iwaju kii yoo yatọ.

Ṣugbọn dipo awọn ọmọ, ASI yoo dojukọ ibi-afẹde atilẹba ti o ṣẹda fun, ati ni ilepa ibi-afẹde yii, ti o ba rii ẹgbẹ kan pato ti eniyan, tabi paapaa gbogbo eniyan, jẹ idiwọ ni ilepa awọn ibi-afẹde rẹ. , lẹhinna ... o yoo ṣe awọn onipin ipinnu.

(Eyi ni ibiti o ti le pulọọgi sinu AI eyikeyi ti o ni ibatan, oju iṣẹlẹ ọjọ doomsday ti o ti ka nipa ninu iwe sci-fi ayanfẹ rẹ tabi fiimu.)

Eyi ni ọran ọran ti o buru julọ ti awọn oniwadi AI ṣe aniyan nipa gaan. ASI kii yoo ṣe lati ikorira tabi ibi, o kan aibikita, bakanna bii bii awọn atukọ ikole yoo ko ronu lẹẹmeji nipa bulldozing òke ant kan ninu ilana ti kikọ ile-iṣọ apingbe titun kan.

Akọsilẹ ẹgbẹ. Ni aaye yii, diẹ ninu awọn ti o le ṣe iyalẹnu, "Ṣe awọn oluwadi AI ko le ṣatunkọ awọn ibi-afẹde pataki ti ASI lẹhin otitọ ti a ba rii pe o n ṣiṣẹ?"

Be ko.

Ni kete ti ASI ba dagba, eyikeyi igbiyanju lati ṣatunkọ ibi-afẹde atilẹba rẹ ni a le rii bi irokeke, ati ọkan ti yoo nilo awọn iṣe to gaju lati daabobo ararẹ lodi si. Lilo gbogbo apẹẹrẹ ẹda eniyan lati iṣaaju, o fẹrẹ dabi ẹni pe olè kan halẹ lati ji ọmọ lati inu ile-ọdọmọ ti iya ti n reti-o le ni idaniloju ni idaniloju pe iya yoo gbe awọn igbese to gaju lati daabobo ọmọ rẹ.

Lẹẹkansi, a ko sọrọ nipa ẹrọ iṣiro kan nibi, ṣugbọn ẹda 'alaaye' kan, ati ọkan ti yoo ni ijafafa ni ọjọ kan ju gbogbo eniyan ti o wa lori ile aye lọ ni apapọ.

Awọn aimọ

Sile awọn fable ti Apoti Pandora jẹ otitọ ti a mọ diẹ ti awọn eniyan nigbagbogbo gbagbe: ṣiṣi apoti jẹ eyiti ko ṣee ṣe, ti kii ba ṣe nipasẹ rẹ ju ti ẹlomiran lọ. Imọ eewọ jẹ idanwo pupọ lati wa ni titiipa kuro lailai.

Eyi ni idi ti igbiyanju lati de adehun agbaye kan lati da gbogbo iwadi sinu AI ti o le ja si ASI jẹ asan-o kan ọpọlọpọ awọn ajo ti n ṣiṣẹ lori imọ-ẹrọ yii ni ifowosi ati ni awọn ojiji.

Ni ipari, a ko ni oye kini nkan tuntun yii, ASI yii yoo tumọ si awujọ, si imọ-ẹrọ, si iṣelu, alaafia ati ogun. A eniyan ni o wa nipa lati pilẹ ina gbogbo lori lẹẹkansi ati ibi ti yi ẹda nyorisi wa ni o šee igbọkanle aimọ.

Ni wiwa pada si ori akọkọ ti jara yii, ohun kan ti a mọ ni idaniloju ni pe oye jẹ agbara. Imọye jẹ iṣakoso. Awọn eniyan le ṣabẹwo si awọn ẹranko ti o lewu julọ ni agbaye ni awọn ọgba-ọsin agbegbe wọn kii ṣe nitori ti ara wa lagbara ju awọn ẹranko wọnyi lọ, ṣugbọn nitori pe a jẹ ọlọgbọn ni pataki.

Fi fun awọn ipa ti o pọju ti o kan, ti ASI ti nlo ọgbọn nla rẹ lati ṣe awọn iṣe ti o le ṣe idẹruba iwalaaye iran eniyan ni taara tabi lairotẹlẹ, a jẹ fun ara wa lati gbiyanju o kere ju lati ṣe apẹrẹ awọn aabo ti yoo gba eniyan laaye lati duro si awakọ awakọ. ijoko -yi ni koko ti tókàn ipin.

Future of Oríkĕ jara

Q1: Oríkĕ oye ni ọla ká ina

Q2: Bawo ni oye Gbogbogbo Artificial akọkọ yoo yi awujọ pada

Q3: Bii a ṣe le ṣẹda Alabojuto Artificial akọkọ

Q5: Bii eniyan yoo ṣe daabobo lodi si Alabojuto Oríkĕ

Q6: Njẹ awọn eniyan yoo gbe ni alaafia ni ọjọ iwaju ti awọn oye atọwọda jẹ gaba lori bi?