Ці будуць людзі жыць мірна ў будучыні, дзе будзе панаваць штучны інтэлект? - Будучыня штучнага інтэлекту P6

Калі справа даходзіць да чалавецтва, давайце проста скажам, што ў нас няма лепшага вопыту, калі справа даходзіць да сумеснага жыцця з «іншым». Няхай гэта будзе генацыд яўрэяў у Германіі або тутсі ў Руандзе, заняволенне афрыканцаў заходнімі краінамі або рабы ў Паўднёва-Усходняй Азіі у цяперашні час праца ў краінах Персідскага заліва на Блізкім Усходзе, ці нават цяперашні пераслед мексіканцаў у ЗША або сірыйскіх бежанцаў у некаторых краінах ЕС. Увогуле, наш інстынктыўны страх перад тымі, каго мы лічым іншымі, можа прывесці нас да дзеянняў, якія альбо кантралююць, альбо (у крайнім выпадку) знішчаюць тых, каго мы баімся.

Ці можна чакаць чагосьці іншага, калі штучны інтэлект стане сапраўды падобным да чалавека?

Ці будзем мы жыць у будучыні, дзе будзем суіснаваць з незалежнымі істотамі-робатамі з штучным інтэлектам, як у сазе "Зорныя войны", ці замест гэтага мы будзем пераследваць і занявольваць істот з штучным інтэлектам, як паказана ў франшызе "Бегучага па Блейдэру"? (Калі вы яшчэ не бачылі ні аднаго з гэтых асноўных прадуктаў поп-культуры, чаго вы чакаеце?)

Гэта пытанні ў заключным раздзеле Будучыня штучнага інтэлекту серыя спадзяецца адказаць. Гэта важна, таму што калі прагнозы вядучых даследчыкаў штучнага інтэлекту слушныя, то да сярэдзіны стагоддзя мы, людзі, будзем дзяліць наш свет з вялікай колькасцю разнастайных істот штучнага інтэлекту, таму нам лепш знайсці спосаб мірна жыць побач з імі.

Ці могуць людзі калі-небудзь канкурыраваць са штучным інтэлектам?

Верце ці не, але мы можам.

Сярэдні чалавек (у 2018 годзе) ужо пераўзыходзіць нават самы прасунуты ІІ. Як паказана ў нашым адкрыццё главы, сучасны штучны вузкі інтэлект (ШІ) нашмат лепшы за чалавека ў канкрэтны задачы, для якіх яны былі распрацаваны, але безнадзейныя, калі іх папрасілі ўзяць на сябе задачу па-за межамі гэтай канструкцыі. Людзі, з іншага боку, разам з большасцю іншых жывёл на планеце, вылучаюцца сваёй здольнасцю прыстасоўвацца да дасягнення мэтаў у шырокім дыяпазоне асяроддзяў-а вызначэнне інтэлекту, якую адстойвалі інфарматыкі Маркус Хатэр і Шэйн Лег.

Гэтая рыса універсальнай адаптыўнасці не здаецца вялікай праблемай, але яна патрабуе здольнасці ацэньваць перашкоды на шляху да мэты, планаваць эксперымент па пераадоленні гэтай перашкоды, прымаць меры для выканання эксперыменту, вучыцца на выніках, а затым працягваць дамагацца мэты. Усё жывое на планеце інстынктыўна выконвае гэты цыкл адаптацыі ад тысяч да мільёнаў разоў кожны дзень, і пакуль штучны інтэлект не навучыцца рабіць тое ж самае, яны застануцца безжыццёвымі прыладамі працы.

Але я ведаю, пра што вы думаеце: уся гэтая серыя пра будучыню штучнага інтэлекту прагназуе, што праз дастаткова часу суб'екты штучнага інтэлекту ў рэшце рэшт стануць такімі ж разумнымі, як людзі, а неўзабаве пасля гэтага і значна разумнейшымі за людзей.

Гэты раздзел не будзе аспрэчваць гэтую магчымасць.

Але пастка, у якую трапляюць многія каментатары, заключаецца ў тым, што, паколькі эвалюцыі спатрэбіліся мільёны гадоў, каб стварыць біялагічны мозг, яна будзе безнадзейна пераўзыдзена, калі штучны інтэлект дасягне кропкі, калі яны змогуць удасканальваць сваё апаратнае і праграмнае забеспячэнне за кароткія цыклы, як гады, месяцы , магчыма, нават дні.

На шчасце, у эвалюцыі засталося трохі змагацца, часткова дзякуючы нядаўнім дасягненням геннай інжынерыі.

Упершыню разглядаецца ў нашай серыі на будучыню эвалюцыі чалавека, вызначылі генетыкі 69 асобных генаў якія ўплываюць на інтэлект, але разам яны ўплываюць толькі на IQ менш чым на восем працэнтаў. Гэта азначае, што могуць існаваць сотні ці тысячы генаў, якія ўплываюць на інтэлект, і нам трэба будзе не толькі выявіць іх усе, але і навучыцца прадказальна маніпуляваць усімі імі разам, перш чым мы зможам нават падумаць пра ўмяшанне ў плод. ДНК. 

Але да сярэдзіны 2040-х гадоў поле геномікі саспее да кропкі, калі геном плёну можна будзе дакладна адлюстраваць, а праўкі яго ДНК можна змадэляваць на камп'ютэры, каб дакладна прадказаць, як змены ў геноме плёну паўплываюць на яго будучы фізічны, эмацыйны , і самае важнае для гэтай дыскусіі, яго атрыбуты інтэлекту.

Іншымі словамі, да сярэдзіны стагоддзя, прыкладна тады, калі большасць даследчыкаў штучнага інтэлекту лічаць, што штучны інтэлект дасягне і, магчыма, перасягне ўзровень інтэлекту чалавека, мы атрымаем магчымасць генетычна мадыфікаваць цэлыя пакаленні чалавечых немаўлят, каб яны былі значна разумнейшымі за пакаленні папярэдніх іх.

Мы рухаемся да будучыні, дзе звышразумныя людзі будуць жыць побач са звышразумным штучным інтэлектам.

Уплыў свету, напоўненага звышразумнымі людзьмі

Такім чынам, наколькі разумны мы тут гаворым? Для кантэксту, IQ Альберта Эйнштэйна і Стывена Хокінга склаў каля 160 балаў. Як толькі мы раскрыем сакрэты геномных маркераў, якія кантралююць інтэлект, мы патэнцыйна можам убачыць людзей, якія нарадзіліся з IQ, які перавышае 1,000.

Гэта важна, таму што такія розумы, як Эйнштэйн і Хокінг, дапамаглі выклікаць навуковыя адкрыцці, якія цяпер ляжаць у аснове нашага сучаснага свету. Напрыклад, толькі мізэрная частка насельніцтва свету што-небудзь разумее ў фізіцы, але значны працэнт сусветнага ВУП залежыць ад яе знаходак — такія тэхналогіі, як смартфон, сучасная тэлекамунікацыйная сістэма (Інтэрнэт) і GPS, не могуць існаваць без квантавай механікі. .

Улічваючы гэты ўплыў, якія дасягненні магло б дасягнуць чалавецтва, калі б мы нарадзілі цэлае пакаленне геніяў? Сотні мільёнаў Эйнштэйна?

Адказ немагчыма адгадаць, бо такой канцэнтрацыі супергеніяў свет яшчэ не бачыў.

Якімі ўвогуле будуць гэтыя людзі?

Каб паспрабаваць, проста разгледзім выпадак з самым разумным чалавекам, Уільям Джэймс Сідзіс (1898-1944), які меў IQ каля 250. У два гады ён умеў чытаць. Да шасці гадоў ён размаўляў на васьмі мовах. Ён быў прыняты ў Гарвардскі ўніверсітэт у 11 гадоў. І Сідзіс толькі на чвэрць разумнейшы таго, чым, паводле тэорыі біёлагаў, калісьці могуць стаць людзі з генетычным рэдагаваннем.

(Заўвага: тут мы гаворым толькі пра інтэлект, мы нават не закранаем генетычнае рэдагаванне, якое можа зрабіць нас фізічна звышлюдзьмі. Больш падрабязна тут.)

Насамрэч, цалкам магчыма, што людзі і штучны інтэлект могуць развівацца разам, ствараючы своеасаблівую пятлю станоўчай зваротнай сувязі, дзе ўдасканалены штучны інтэлект дапамагае генетыкам асвоіць геном чалавека для стварэння ўсё больш разумных людзей, людзей, якія потым будуць працаваць над стварэннем усё больш разумнага штучнага інтэлекту, і таму на. Такім чынам, так, як і прадказваюць даследчыкі штучнага інтэлекту, у сярэдзіне стагоддзя Зямля цалкам можа перажыць выбух інтэлекту, але, зыходзячы з нашага абмеркавання да гэтага часу, людзі (а не толькі штучны інтэлект) выйграюць ад гэтай рэвалюцыі.

Кібаргі сярод нас

Справядлівая крытыка гэтага аргументу аб звышразумных людзях заключаецца ў тым, што нават калі мы асвоім генетычнае рэдагаванне да сярэдзіны стагоддзя, спатрэбіцца яшчэ 20-30 гадоў, перш чым новае пакаленне людзей вырасце да такой ступені, што зможа ўнесці значны прагрэс у наша развіццё. грамадства і выраўнаваць інтэлектуальнае гульнявое поле разам з ІІ. Ці не дасць гэтае адставанне значную фору супраць чалавецтва, калі яны вырашылі стаць «злымі»?

Вось чаму ў якасці моста паміж сённяшнімі людзьмі і заўтрашнімі звышлюдзьмі, пачынаючы з 2030-х гадоў, мы ўбачым пачатак новага класа людзей: кібаргаў, гібрыда чалавека і машыны.

(Па праўдзе кажучы, у залежнасці ад таго, як вы вызначаеце кібаргаў, яны тэхнічна ўжо існуюць - у прыватнасці, людзі з пратэзамі канечнасцяў у выніку ваенных ран, няшчасных выпадкаў або генетычных дэфектаў пры нараджэнні. Але, каб заставацца засяроджаным на кантэксце гэтага раздзела, мы Буду засяроджаны на пратэзах, прызначаных для павышэння нашага розуму і інтэлекту.)

Упершыню абмяркоўваецца ў нашы Будучыня кампутараў серыі, даследчыкі ў цяперашні час распрацоўваюць сферу біяэлектронікі пад назвай Інтэрфейс мозг-кампутар (BCI). Гэта ўключае ў сябе выкарыстанне прылады для сканавання мозгу або імплантата для маніторынгу вашых мазгавых хваль, пераўтварэння іх у код, а затым звязвання іх з камандамі для кіравання ўсім, што кіруе кампутарам.

Мы ўсё яшчэ ў пачатку, але з дапамогай BCI людзі з ампутаванымі конечносцямі цяпер тэставанне рабатызаваных канечнасцяў кіруецца непасрэдна іх розумам, а не праз датчыкі, прымацаваныя да іх пня. Сапраўды гэтак жа зараз ёсць людзі з цяжкімі абмежаванымі магчымасцямі (напрыклад, людзі з квадриплегией). выкарыстоўваючы BCI для кіравання сваімі матарызаванымі інваліднымі каляскамі і маніпуляваць рабатызаванымі рукамі. Але дапамагаць інвалідам і людзям з абмежаванымі магчымасцямі весці больш незалежнае жыццё - гэта не тое, на што здольны BCI.

Тое, што ў 2030-х гадах будзе выглядаць як шлем або павязка для валасоў, у канчатковым выніку саступіць месца мазгавым імплантатам (у канцы 2040-х гадоў), якія звяжуць наш розум з лічбавым воблакам (Інтэрнэтам). У рэшце рэшт, гэты пратэз мозгу будзе дзейнічаць як трэцяе паўшар'е для нашага розуму - такім чынам, у той час як наша левае і правае паўшар'і кіруюць нашай творчасцю і лагічнымі здольнасцямі, гэта новае лічбавае паўшар'е, якое жыве ў воблаку, будзе садзейнічаць амаль імгненнаму доступу да інфармацыі і паляпшаць кагнітыўныя здольнасці. атрыбуты, у якіх людзі часта не дасягаюць сваіх аналагаў ІІ, а менавіта хуткасць, паўтарэнне і дакладнасць.

І хаця гэтыя мазгавыя імплантаты неабавязкова павысяць наш інтэлект, яны зробяць нас значна больш здольнымі і незалежнымі, як гэта робяць нашы смартфоны сёння.

Будучыня, напоўненая рознымі інтэлектамі

Усе гэтыя размовы пра штучны інтэлект, кібаргаў і звышразумных людзей адкрываюць яшчэ адзін момант для разгляду: у будучыні будзе значна больш багатая разнастайнасць інтэлекту, чым мы калі-небудзь бачылі ў гісторыі чалавека ці нават Зямлі.

Падумайце аб гэтым, да канца гэтага стагоддзя мы гаворым пра будучы свет, напоўнены:

• Інтэлект насякомых
• Інтэлект жывёл
• Чалавечы інтэлект
• Кібернетычна пашыраны інтэлект чалавека
• Штучны агульны інтэлект (AGI)
• Штучны звышінтэлект (Як)
• Суперразум чалавека
• Кібернетычна пашыраны звышразум чалавека
• Віртуальны гібрыд чалавека і штучнага інтэлекту
• Яшчэ некалькі прамежкавых катэгорый, якія мы прапануем чытачам абдумаць і падзяліцца імі ў раздзеле каментарыяў.

Іншымі словамі, наш свет ужо з'яўляецца домам для разнастайных відаў, кожны са сваімі унікальнымі тыпамі інтэлекту, але ў будучыні мы ўбачым яшчэ большую разнастайнасць інтэлекту, на гэты раз пашырыўшы вышэйшы канец кагнітыўнай лесвіцы. Такім чынам, як сённяшняе пакаленне вучыцца дзяліцца нашым светам з насякомымі і жывёламі, якія ўносяць свой уклад у нашу экасістэму, будучыя пакаленні павінны будуць навучыцца мець зносіны і супрацоўнічаць з самымі разнастайнымі інтэлектамі, якія мы сёння наўрад ці можам сабе ўявіць.

Вядома, гісторыя кажа нам, што "абмен" ніколі не быў моцным бокам для людзей. Сотні ці тысячы відаў вымерлі з-за чалавечай экспансіі, гэтак жа сотні менш развітых цывілізацый зніклі пад заваяваннем пашыраючыхся імперый.

Гэтыя трагедыі абумоўлены чалавечай патрэбай у рэсурсах (харчаванне, вада, сыравіна і г.д.) і часткова страхам і недаверам паміж замежнымі цывілізацыямі або народамі. Іншымі словамі, трагедыі мінулага і сучаснасці абумоўлены такімі ж старымі прычынамі, як сама цывілізацыя, і яны будуць толькі пагаршацца з увядзеннем усіх гэтых новых класаў інтэлекту.

Культурны ўплыў свету, напоўненага рознымі інтэлектамі

Здзіўленне і жах - гэта дзве эмоцыі, якія лепш за ўсё абагульнілі б супярэчлівыя эмоцыі, якія людзі будуць адчуваць, калі ўсе гэтыя новыя тыпы інтэлекту з'явяцца ў свеце.

«Здзіўляюся» чалавечай вынаходлівасці, якая выкарыстоўвалася для стварэння ўсіх гэтых новых чалавечых інтэлектуальных здольнасцяў і ІІ, а таксама магчымасцям, якія яны могуць стварыць. І тады «страх» ад недахопу разумення і знаёмства цяперашніх пакаленняў людзей з будучымі пакаленнямі гэтых «палепшаных» істот.

Такім чынам, як свет жывёл цалкам па-за межамі разумення сярэдняга насякомага, а свет людзей цалкам па-за разуменнем звычайнай жывёлы, свет штучнага інтэлекту і нават суперразумных людзей будзе далёка за межамі сучаснага сярэдні чалавек зможа зразумець.

І хаця будучыя пакаленні змогуць мець зносіны з гэтымі новымі вышэйшымі інтэлектамі, у нас не будзе шмат агульнага. У раздзелах, якія прадстаўляюць AGI і ASI, мы патлумачылі, чаму спрабаваць разглядаць інтэлект ІІ як чалавечы інтэлект было б памылкай.

Карацей кажучы, інстынктыўныя эмоцыі, якія кіруюць чалавечай думкай, - гэта эвалюцыйная біялагічная спадчына некалькіх тысячагоддзяў чалавечых пакаленняў, якія актыўна шукалі рэсурсы, партнёраў для спарвання, сацыяльныя сувязі, выжыванне і г.д. Будучы штучны інтэлект не будзе мець нічога з гэтага эвалюцыйнага багажу. Замест гэтага гэтыя лічбавыя інтэлекты будуць мець цалкам унікальныя мэты, спосабы мыслення і сістэмы каштоўнасцяў.

Сапраўды гэтак жа, як сучасныя людзі навучыліся падаўляць некаторыя аспекты сваіх натуральных чалавечых жаданняў дзякуючы нашаму інтэлекту (напрыклад, мы абмяжоўваем нашых сэксуальных партнёраў, калі знаходзімся ў адданых адносінах; мы рызыкуем сваім жыццём за незнаёмцаў з-за ўяўных паняццяў гонару і цноты і г.д.) , будучыя звышлюдзі могуць цалкам пераадолець гэтыя першабытныя інстынкты. Калі гэта магчыма, значыць, мы сапраўды маем справу з іншапланецянамі, а не проста з новым класам людзей.

Ці будзе мір паміж будучымі супергонкамі і намі?

Мір прыходзіць ад даверу, а давер прыходзіць ад знаёмства і агульных мэтаў. Мы можам адмовіцца ад знаёмства, бо мы ўжо абмяркоўвалі, як людзі без паляпшэння маюць мала агульнага ў кагнітыўным плане з гэтымі звышінтэлектамі.

У адным са сцэнарыяў гэты выбух інтэлекту будзе азначаць рост зусім новай формы няроўнасці, якая стварае сацыяльныя класы, заснаваныя на інтэлекце, з якіх прадстаўнікам ніжэйшых класаў будзе амаль немагчыма падняцца. І гэтак жа, як пашырэнне эканамічнага разрыву паміж багатымі і беднымі сёння выклікае беспарадкі, прорва паміж рознымі класамі/папуляцыямі інтэлекту можа выклікаць дастатковую колькасць страху і крыўды, якія потым могуць выліцца ў розныя формы пераследу або ўсеагульнай вайны. Іншым чытачам коміксаў гэта можа нагадаць вам класічную перадгісторыю пераследу з франшызы Marvel «Людзі Ікс».

Альтэрнатыўны сцэнар палягае ў тым, што гэтыя будучыя звышразумнікі проста прыдумаюць спосабы эмацыйна маніпуляваць простымі масамі, каб яны прынялі іх у сваё грамадства - ці, прынамсі, да такой ступені, каб пазбегнуць гвалту. 

Такім чынам, які сцэнар пераможа? 

Па ўсёй верагоднасці, мы ўбачым, што нешта разыграецца пасярэдзіне. На пачатку гэтай рэвалюцыі інтэлекту мы ўбачым звычайнае 'тэхнапаніка», які спецыяліст па тэхналагічным заканадаўстве і палітыцы Адам Тыерэр апісвае як прытрымліванне звычайнай сацыяльнай мадэлі:

• Адрозненні пакаленняў, якія прыводзяць да страху перад новым, асабліва тых, якія парушаюць сацыяльныя норавы або ліквідуюць працоўныя месцы (прачытайце пра ўплыў штучнага інтэлекту ў нашай Будучыня працы серыя);
• «Гіпернастальгія» па старых добрых часах, якія насамрэч ніколі не былі такімі добрымі;
• Стымул для рэпарцёраў і экспертаў да таго, каб нагнятаць страх аб новых тэхналогіях і тэндэнцыях у абмен на клікі, прагляды і продажы рэкламы;
• Асаблівыя інтарэсы, якія падштурхоўваюць адзін аднаго за дзяржаўныя грошы або дзеянні ў залежнасці ад таго, як гэтая новая тэхналогія ўплывае на іх групу;
• Элітарнае стаўленне акадэмічных і культурных крытыкаў, якія баяцца новых тэхналогій, якія прымае масавая грамадскасць;
• Людзі, якія праецыруюць маральныя і культурныя дэбаты ўчора і сёння на новыя тэхналогіі заўтрашняга дня.

Але, як і да любога новага прагрэсу, людзі прызвычаяцца. Што яшчэ больш важна, хаця два віды могуць не думаць аднолькава, мір можна знайсці праз агульныя інтарэсы або мэты.

Напрыклад, гэты новы штучны інтэлект можа ствараць новыя тэхналогіі і сістэмы для паляпшэння нашага жыцця. І ўзамен, фінансаванне і дзяржаўная падтрымка будуць працягваць прасоўваць інтарэсы штучнага інтэлекту ў цэлым, асабліва дзякуючы актыўнай канкурэнцыі паміж праграмамі штучнага інтэлекту Кітая і ЗША.

Сапраўды гэтак жа, калі справа даходзіць да стварэння звышлюдзей, рэлігійныя фракцыі ў многіх краінах будуць супраціўляцца тэндэнцыі генетычнага ўмяшання ў сваіх дзяцей. Аднак практычнасць і нацыянальныя інтарэсы паступова разбураць гэты бар'ер. Для першых бацькоў узнікне спакуса выкарыстаць тэхналогію генетычнага рэдагавання, каб пераканацца, што іх дзеці нараджаюцца хворымі і без дэфектаў, але першапачатковая мэта - гэта слізкі шлях да больш інвазіўнага генетычнага паляпшэння. Сапраўды гэтак жа, калі Кітай пачне генетычна павялічваць цэлыя пакаленні свайго насельніцтва, ЗША будуць мець стратэгічны імператыў рушыць услед іх прыкладу або рызыкуюць назаўжды адстаць праз два дзесяцігоддзі — як і ўвесь астатні свет.

Нягледзячы на ​​інтэнсіўнасць уся гэтая глава, мы павінны памятаць, што ўсё гэта будзе паступовым працэсам. Гэта зробіць наш свет зусім іншым і вельмі дзіўным. Але мы прывыкнем, і гэта стане нашай будучыняй.

Серыял «Будучыня штучнага інтэлекту».

Штучны інтэлект - гэта электраэнергія заўтрашняга дня: серыя P1 аб будучыні штучнага інтэлекту

Як першы штучны інтэлект зменіць грамадства: Будучыня штучнага інтэлекту, серыя P2

Як мы створым першы штучны звышінтэлект: будучыня штучнага інтэлекту P3

Ці знішчыць чалавецтва штучны звышінтэлект? Будучыня штучнага інтэлекту P4

Як людзі будуць абараняцца ад штучнага звышінтэлекту: будучыня штучнага інтэлекту P5