Quantumrun

КРЕДИТ ЗА ИЗОБРАЖЕНИЕ: Quantumrun

Ще живеят ли хората мирно в бъдеще, доминирано от изкуствен интелект? - Бъдещето на изкуствения интелект P6

Дейвид Тал, издател, футурист
@DavidTalПише
LinkedIn

вт., 09 г. - 15:2020 ч

Що се отнася до човечеството, нека просто кажем, че нямаме най-добрите резултати, когато става въпрос за съжителство с „другия“. Независимо дали става въпрос за геноцида на евреите в Германия или тутси в Руанда, поробването на африканци от западните нации или наемните роби от Югоизточна Азия сега работа в страните от Персийския залив в Близкия изток или дори настоящото преследване, преживяно от мексиканците в САЩ или сирийските бежанци в избрани страни от ЕС. Като цяло нашият инстинктивен страх от онези, които възприемаме като различни от нас, може да ни накара да предприемем действия, които или контролират, или (в крайни случаи) унищожават тези, от които се страхуваме.

Можем ли да очакваме нещо различно, когато изкуственият интелект стане наистина подобен на човека?

Ще живеем ли в бъдеще, в което съжителстваме с независими AI-роботски същества, както се вижда в сагата Междузвездни войни, или вместо това ще преследваме и поробваме AI същества, както е описано във франчайза Bladerunner? (Ако не сте виждали нито една от тези основни попкултури, какво чакате?)

Това са въпросите в последната глава на Бъдещето на изкуствения интелект серия се надява да отговори. Има значение, защото ако прогнозите, направени от водещи изследователи на ИИ, са верни, тогава до средата на века ние, хората, ще споделяме света си с изобилие от различни същества с ИИ – така че е по-добре да измислим начин да живеем заедно с тях в мир.

Могат ли хората някога да се конкурират с изкуствения интелект?

Вярвате или не, можем.

Средният човек (през 2018 г.) вече превъзхожда дори най-напредналия AI. Както е посочено в нашия начална глава, днешните изкуствени тесни интелекти (ANI) са изключително по-добри от хората в специфичен задачи, за които са създадени, но безнадеждни, когато бъдат помолени да поемат задача извън този дизайн. Хората, от друга страна, заедно с повечето други животни на планетата, се отличават с нашата адаптивност да преследваме цели в широк спектър от среди – дефиниция на интелигентността, застъпена от компютърните учени Маркъс Хътър и Шейн Лег.

Тази черта на универсална адаптивност не изглежда като голяма работа, но изисква способността да се оцени препятствието пред целта, да се планира експеримент за преодоляване на това препятствие, да се предприемат действия за изпълнение на експеримента, да се учи от резултатите и след това да се продължи да преследвам целта. Целият живот на планетата инстинктивно изпълнява този цикъл на адаптивност хиляди до милиони пъти всеки ден и докато AI не се научи да прави същото, те ще останат безжизнени работни инструменти.

Но знам какво си мислите: цялата тази поредица за бъдещето на изкуствения интелект прогнозира, че след достатъчно време субектите с изкуствен интелект в крайна сметка ще станат също толкова умни, колкото хората, а малко след това и много по-умни от хората.

Тази глава няма да оспори тази възможност.

Но капанът, в който много коментатори попадат, е да мислят, че тъй като еволюцията отне милиони години, за да създаде биологични мозъци, тя ще бъде безнадеждно надмината, щом ИИ достигнат точка, в която могат да подобрят собствения си хардуер и софтуер в цикли от години, месеци , може би дори дни.

За щастие еволюцията има още малко битка, отчасти благодарение на скорошния напредък в генното инженерство.

За първи път в нашата поредица за бъдещето на човешката еволюция, установиха генетиците 69 отделни гена които влияят на интелигентността, но заедно те влияят на IQ само с по-малко от осем процента. Това означава, че може да има стотици или хиляди гени, които влияят върху интелигентността, и ще трябва не само да ги открием всички, но и да се научим как предсказуемо да ги манипулираме заедно, преди дори да помислим за манипулиране на плода. ДНК.

Но до средата на 2040 г. областта на геномиката ще узрее до точка, в която геномът на плода може да бъде напълно картографиран и редакциите на неговата ДНК могат да бъдат компютърно симулирани, за да се предскаже точно как промените в неговия геном ще повлияят на бъдещото му физическо, емоционално , и най-важното за тази дискусия, неговите интелигентни атрибути.

С други думи, до средата на века, когато повечето изследователи на ИИ вярват, че ИИ ще достигне и вероятно ще надмине интелигентността на човешко ниво, ние ще придобием способността да модифицираме генетично цели поколения човешки бебета, за да бъдат значително по-умни от поколенията, които предхождат тях.

Вървим към бъдеще, в което супер интелигентни хора ще живеят заедно със суперинтелигентен AI.

Въздействие на свят, изпълнен със супер интелигентни хора

И така, за колко умни говорим тук? За контекст, коефициентите на интелигентност на Алберт Айнщайн и Стивън Хокинг достигнаха около 160. След като разкрием тайните зад геномните маркери, които контролират интелигентността, потенциално бихме могли да видим хора, родени с коефициент на интелигентност, надхвърлящ 1,000.

Това има значение, тъй като умове като Айнщайн и Хокинг помогнаха да предизвикат научните открития, които сега са в основата на нашия модерен свят. Например, само малка част от световното население разбира нещо от физика, но значителен процент от световния БВП зависи от нейните открития – технологии като смартфона, модерната телекомуникационна система (Интернет) и GPS не могат да съществуват без квантовата механика .

Като се има предвид това въздействие, какъв напредък би могло да изпита човечеството, ако родим цяло поколение гении? Стотици милиони на Айнщайн?

Отговорът е невъзможно да се познае, тъй като светът никога не е виждал такава концентрация на супер гении.

Какви изобщо ще бъдат тези хора?

За вкус, просто помислете за случая с най-умния записан човек, Уилям Джеймс Сидис (1898-1944), който имаше IQ около 250. Той можеше да чете на две години. Говори осем езика на шест години. Той беше приет в Харвардския университет на 11. И Сидис е само една четвърт по-умен от това, което биолозите теоретизират, че хората могат да станат един ден с генетично редактиране.

(Странична бележка: тук говорим само за интелигентност, дори не засягаме генетичното редактиране, което може да ни направи физически свръхчовеци. Прочетете повече тук.)

Всъщност е много възможно хората и AI да се развиват съвместно чрез създаване на един вид положителна обратна връзка, където усъвършенстваният AI помага на генетиците да овладеят човешкия геном, за да създават все по-умни хора, хора, които след това ще работят за създаването на все по-интелигентен AI, и така На. Така че, да, както прогнозират изследователите на AI, Земята може да преживее интелектуална експлозия в средата на века, но въз основа на нашата дискусия досега, хората (не само AI) ще се възползват от тази революция.

Киборги сред нас

Справедлива критика към този аргумент за супер интелигентните хора е, че дори и да овладеем генетичното редактиране до средата на века, ще са необходими още 20 до 30 години, преди това ново поколение хора да узреят до точка, в която могат да допринесат значителен напредък в нашата общество и изравняване на интелектуалното игрално поле заедно с AI. Няма ли това забавяне да даде значителна преднина на ИИ срещу човечеството, ако решат да станат „зли“?

Ето защо, като мост между днешните хора и утрешните свръхчовеци, започвайки през 2030 г., ще видим началото на нов клас хора: киборгът, хибрид на човек и машина.

(За да бъда честен, в зависимост от това как дефинирате киборгите, те технически вече съществуват - по-специално хора с протези на крайниците в резултат на военни рани, злополуки или генетични дефекти при раждането. Но за да останем фокусирани върху контекста на тази глава, ние ще се съсредоточи върху протези, предназначени да увеличат нашите умове и интелигентност.)

Първо се обсъжда в нашия Бъдещето на компютрите серия, изследователите в момента разработват област на биоелектрониката, наречена Brain-Computer Interface (BCI). Това включва използване на устройство за сканиране на мозъка или имплант за наблюдение на вашите мозъчни вълни, преобразуването им в код и след това свързването им с команди за управление на всичко, което се управлява от компютър.

Все още сме в началото, но чрез използването на BCI хората с ампутирани крайници са вече тестване на роботизирани крайници контролирани директно от умовете им, вместо чрез сензори, прикрепени към пънчето им. По същия начин хората с тежки увреждания (като хора с квадриплегия) са сега използвайки BCI за управление на своите моторизирани инвалидни колички и манипулиране на роботизирани ръце. Но подпомагането на хората с ампутирани крачки и хората с увреждания да водят по-независим живот не е степента на това, на което BCI ще бъде способен.

Това, което през 2030 г. ще изглежда като шлем или лента за коса, в крайна сметка ще отстъпи място на мозъчни импланти (края на 2040 г.), които ще свържат умовете ни с цифровия облак (Интернет). В крайна сметка тази мозъчна протеза ще действа като трето полукълбо за умовете ни - така че докато лявото и дясното полукълбо управляват нашата креативност и логически способности, това ново, захранвано от облак, цифрово полукълбо ще улесни почти мигновен достъп до информация и ще подобри когнитивните способности атрибути, при които хората често не достигат до своите AI колеги, а именно скорост, повторение и точност.

И докато тези мозъчни импланти няма непременно да повишат нашата интелигентност, те ще ни направят много по-способни и независими, точно както правят нашите смартфони днес.

Бъдеще, изпълнено с различни интелекти

Всички тези разговори за ИИ, киборги и супер интелигентни хора отварят още една точка за разглеждане: Бъдещето ще види много по-богато разнообразие от интелекти, отколкото някога сме виждали в човешката или дори в историята на Земята.

Помислете за това, преди края на този век ние говорим за бъдещ свят, изпълнен с:

Интелигентност на насекомите
Интелигентност на животните
Човешки интелекти
Кибернетично подобрен човешки интелект
Изкуствен общ интелект (AGI)
Изкуствени суперинтелекти (ASI)
Човешки супер интелигентности
Кибернетично подобрен човешки супер интелект
Виртуални хибридни умове човек-AI
Още няколко междинни категории, които насърчаваме читателите да обмислят и споделят в секцията за коментари.

С други думи, нашият свят вече е дом на разнообразна гама от видове, всеки със свои собствени уникални типове интелигентност, но в бъдеще ще видим още по-голямо разнообразие от интелигентности, този път разширявайки по-високия край на когнитивната стълба. Така че точно както днешното поколение се учи да споделя нашия свят с насекомите и животните, които допринасят за нашата екосистема, бъдещите поколения ще трябва да се научат как да общуват и да си сътрудничат с голямо разнообразие от интелекти, които едва ли можем да си представим днес.

Разбира се, историята ни казва, че „споделянето“ никога не е било силна страна за хората. Стотици до хиляди видове са изчезнали поради човешката експанзия, както и стотици по-малко напреднали цивилизации са изчезнали под завладяването на разширяващите се империи.

Тези трагедии се дължат на човешката нужда от ресурси (храна, вода, суровини и т.н.) и отчасти на страха и недоверието между чужди цивилизации или народи. С други думи, трагедиите на миналото и настоящето се дължат на причини, стари като самата цивилизация, и те само ще се влошат с въвеждането на всички тези нови класове разум.

Културно въздействие на свят, изпълнен с различни интелекти

Удивлението и страхът са двете емоции, които най-добре биха обобщили противоречивите емоции, които хората ще изпитат, след като всички тези нови видове интелект навлязат в света.

„Чудете се“ на човешката изобретателност, използвана за създаването на всички тези нови човешки и AI интелекти и възможностите, които те могат да създадат. И тогава „ужас“ от липсата на разбиране и познаване на настоящите поколения хора с бъдещите поколения на тези „подобрени“ същества.

Така че точно както светът на животните е напълно извън разбирането на средното насекомо, а светът на хората е изцяло извън разбирането на средностатистическото животно, светът на ИИ и дори на супер интелигентните хора ще бъде далеч извън обхвата на днешното средният човек ще може да разбере.

И въпреки че бъдещите поколения ще могат да общуват с тези нови висши интелигентности, не е като да имаме много общи неща. В главите, представящи AGI и ASI, ние обяснихме защо да се опитваме да мислим за AI интелект като човешки интелект би било грешка.

Накратко, инстинктивните емоции, които движат човешката мисъл, са еволюционното биологично наследство от няколко хилядолетия на човешки поколения, които активно търсеха ресурси, партньори за чифтосване, социални връзки, оцеляване и т.н. Бъдещият AI няма да има нищо от този еволюционен багаж. Вместо това, тези цифрови интелигентности ще имат цели, начини на мислене, ценностни системи, изцяло уникални за тях самите.

По същия начин, точно както съвременните хора са се научили да потискат аспекти на своите естествени човешки желания благодарение на нашия интелект (напр. ограничаваме сексуалните си партньори, когато сме в обвързани отношения; рискуваме живота си за непознати поради въображаеми концепции за чест и добродетел и т.н.) , бъдещите свръхчовеци могат напълно да преодолеят тези първични инстинкти. Ако това е възможно, тогава наистина имаме работа с извънземни, а не просто с нов клас хора.

Ще има ли мир между бъдещите супер раси и останалите от нас?

Мирът идва от доверието, а доверието идва от познанството и споделените цели. Можем да премахнем познаването от масата, тъй като вече обсъдихме как неподобрените хора имат малко общо когнитивно с тези супер интелекти.

В един сценарий тази експлозия на интелигентността ще представлява възхода на изцяло нова форма на неравенство, която създава базирани на интелигентността социални класи, от които ще бъде почти невъзможно за хората от по-ниските класи да се издигнат. И точно както разширяващата се икономическа пропаст между богатите и бедните причинява безпокойство днес, пропастта между различните класи/популации от интелигентност може да генерира достатъчно страх и негодувание, които след това да прераснат в различни форми на преследване или всеобща война. За другите читатели на комикси това може да ви напомни за класическата предистория на преследването от франчайза X-men на Marvel.

Алтернативният сценарий е, че тези бъдещи супер интелекти просто ще измислят начини да манипулират емоционално по-простите маси да ги приемат в обществото си - или поне до точка, която избягва всякакво насилие.

И така, кой сценарий ще спечели?

По всяка вероятност ще видим нещо да се разиграе по средата. В началото на тази революция в разузнаването ще видим обичайното 'технопаника“, който специалистът по технологично право и политика Адам Тиерер описва като следващ обичайния социален модел:

Различията между поколенията, които водят до страх от новото, особено тези, които нарушават социалните нрави или премахват работни места (прочетете за въздействието на ИИ в нашия Бъдеще на работата серия);
„Хиперносталгия“ по добрите стари времена, които в действителност никога не са били толкова добри;
Стимулът за репортери и експерти да се страхуват за нови технологии и тенденции в замяна на кликвания, гледания и продажби на реклами;
Специални интереси, които се натискат един друг за държавни пари или действия в зависимост от това как тяхната група е повлияна от тази нова технология;
Елитарни нагласи от страна на академични и културни критици, страхуващи се от новите технологии, които масовата общественост приема;
Хора, които проектират моралните и културни дебати от вчера и днес върху новите технологии на утрешния ден.

Но като всеки нов напредък, хората ще свикнат с него. По-важното е, че макар два вида да не мислят еднакво, мирът може да бъде намерен чрез взаимно споделени интереси или цели.

Например, този нов AI може да създаде нови технологии и системи, за да подобри живота ни. И в замяна финансирането и правителствената подкрепа ще продължат да насърчават интересите на ИИ като цяло, особено благодарение на активната конкуренция между китайските и американските програми за ИИ.

По същия начин, когато става въпрос за създаване на свръхчовеци, религиозните фракции в много страни ще се противопоставят на тенденцията за генетично манипулиране на техните деца. Практичността и националният интерес обаче постепенно ще разрушат тази бариера. За първото родителите ще бъдат изкушени да използват технология за генетично редактиране, за да гарантират, че децата им се раждат без болести и дефекти, но тази първоначална цел е хлъзгав наклон към по-инвазивно генетично подобрение. По същия начин, ако Китай започне генетично да подобрява цели поколения от населението си, САЩ ще имат стратегически императив да последват примера или рискуват да изостанат завинаги две десетилетия по-късно – както и останалият свят.

Колкото и интензивна да е цялата тази глава, трябва да помним, че всичко това ще бъде постепенен процес. Това ще направи нашия свят много различен и много странен. Но ще свикнем и това ще стане нашето бъдеще.