Quantumrun

KREDIT ZA SLIKO: Quantumrun

Bomo ljudje živeli mirno v prihodnosti, v kateri bo vladala umetna inteligenca? - Prihodnost umetne inteligence P6

David Tal, založnik, futurist
@DavidTalPiše
LinkedIn

Torek, 09 - 15:2020

Ko gre za človečnost, recimo, da nimamo najboljših izkušenj, ko gre za sobivanje z 'drugim'. Naj gre za genocid nad Judi v Nemčiji ali Tutsijev v Ruandi, zasužnjevanje Afričanov s strani zahodnih držav ali podjetniških sužnjev jugovzhodne Azije. zdaj delo v državah Zaliva na Bližnjem vzhodu ali celo trenutno preganjanje, ki ga doživljajo Mehičani v ZDA ali sirski begunci v izbranih državah EU. Skratka, naš instinktivni strah pred tistimi, ki jih dojemamo kot drugačne od nas, nas lahko privede do dejanj, ki nadzirajo ali (v skrajnih primerih) uničijo tiste, ki se jih bojimo.

Ali lahko pričakujemo kaj drugega, ko bo umetna inteligenca zares podobna človeku?

Bomo živeli v prihodnosti, kjer bomo sobivali z neodvisnimi bitji AI-robotov, kot jih vidimo v sagi Vojna zvezd, ali pa bomo namesto tega preganjali in zasužnjevali bitja AI, kot je prikazano v franšizi Bladerunner? (Če še niste videli nobene od teh sponk pop kulture, kaj čakate?)

To so vprašanja v tem zadnjem poglavju Prihodnost umetne inteligence serija upa odgovoriti. Pomembno je, ker če so napovedi vodilnih raziskovalcev umetne inteligence pravilne, potem bomo do sredine stoletja ljudje delili svoj svet z obilico različnih bitij umetne inteligence – zato je bolje, da najdemo način, kako mirno živeti z njimi.

Ali se lahko ljudje kdaj kosamo z umetno inteligenco?

Verjeli ali ne, lahko.

Povprečen človek (leta 2018) je že boljši od celo najnaprednejše umetne inteligence. Kot je opisano v našem uvodno poglavje, so današnje umetne ozke inteligence (ANI) neizmerno boljše od ljudi specifična naloge, za katere so bili zasnovani, vendar brezupni, ko so pozvani, da prevzamejo nalogo zunaj tega načrta. Po drugi strani pa se ljudje, skupaj z večino drugih živali na planetu, odlikujejo po svoji prilagodljivosti za doseganje ciljev v najrazličnejših okoljih – opredelitev inteligence, ki sta jo zagovarjala računalničarja Marcus Hutter in Shane Legg.

Ta lastnost univerzalne prilagodljivosti se ne zdi nič posebnega, vendar zahteva sposobnost oceniti oviro za cilj, načrtovati poskus za premagovanje te ovire, ukrepati za izvedbo poskusa, se učiti iz rezultatov in nato nadaljevati slediti cilju. Vse življenje na planetu instinktivno izvede to prilagodljivo zanko na tisoče do milijonkrat vsak dan in dokler se AI tega ne nauči, bodo ostala delovna orodja brez življenja.

Vendar vem, kaj mislite: cela serija o prihodnosti umetne inteligence napoveduje, da bodo entitete AI, če bo dovolj časa, sčasoma postale prav tako pametne kot ljudje in kmalu zatem veliko pametnejše od ljudi.

To poglavje ne bo oporekalo tej možnosti.

Toda past, v katero se ujame veliko komentatorjev, je razmišljanje, da ker je evolucija potrebovala milijone let, da je proizvedla biološke možgane, bo brezupno premagana, ko bo umetna inteligenca dosegla točko, ko bo lahko izboljšala svojo lastno strojno in programsko opremo v ciklih, ki so kratki, kot so leta, meseci , morda celo dni.

Na srečo ima evolucija še nekaj boja, delno zaradi nedavnega napredka v genskem inženirstvu.

Prvič v naši seriji o prihodnost človeške evolucije, so ugotovili genetiki 69 ločenih genov ki vplivajo na inteligenco, skupaj pa na IQ vplivajo le za manj kot osem odstotkov. To pomeni, da lahko obstaja na stotine ali tisoče genov, ki vplivajo na inteligenco, in ne le, da jih bomo morali odkriti vse, ampak se tudi naučiti, kako predvidljivo manipulirati z vsemi skupaj, preden sploh pomislimo na poseganje v plod. DNK.

Toda do sredine 2040-ih bo področje genomike dozorelo do točke, ko bo mogoče temeljito preslikati genom zarodka in računalniško simulirati popravke njegove DNK, da se natančno napove, kako bodo spremembe njegovega genoma vplivale na njegovo prihodnje fizično in čustveno stanje. in najpomembnejše za to razpravo, njegove inteligenčne lastnosti.

Z drugimi besedami, do sredine stoletja, ko večina raziskovalcev umetne inteligence verjame, da bo umetna inteligenca dosegla in morda presegla človeško inteligenco, bomo pridobili sposobnost genskega spreminjanja celih generacij človeških dojenčkov, da bodo bistveno pametnejši od generacij pred tem. njim.

Gremo proti prihodnosti, kjer bodo super inteligentni ljudje živeli skupaj s superinteligentno umetno inteligenco.

Vpliv sveta, polnega super inteligentnih ljudi

Torej, o kako pametnem govorimo tukaj? Za kontekst, IQ Alberta Einsteina in Stephena Hawkinga je dosegel približno 160. Ko odkrijemo skrivnosti za genomskimi označevalci, ki nadzorujejo inteligenco, bi lahko videli ljudi, rojene z IQ, ki presega 1,000.

To je pomembno, ker so umi, kot sta Einstein in Hawking, pomagali sprožiti znanstvene dosežke, ki so zdaj temelj našega sodobnega sveta. Na primer, le majhen del svetovnega prebivalstva ne razume ničesar o fiziki, vendar je precejšen odstotek svetovnega BDP odvisen od njenih ugotovitev – tehnologije, kot so pametni telefon, sodobni telekomunikacijski sistem (internet) in GPS, ne morejo obstajati brez kvantne mehanike. .

Glede na ta vpliv, kakšen napredek bi lahko doživelo človeštvo, če bi rodili celotno generacijo genijev? Na stotine milijonov Einsteinovih?

Odgovor je nemogoče uganiti, saj svet še ni videl takšne koncentracije super genijev.

Kakšni bodo sploh ti ljudje?

Za pokušino si oglejte primer najpametnejšega zabeleženega človeka, William James Sidis (1898-1944), ki je imel IQ približno 250. Pri dveh letih je znal brati. Pri šestih letih je govoril osem jezikov. Na univerzo Harvard so ga sprejeli do 11. In Sidis je le četrtino toliko pameten, kolikor biologi po teoriji biologije lahko ljudje nekega dne postanejo z genskim urejanjem.

(Opomba ob strani: tukaj govorimo samo o inteligenci, niti se ne dotikamo genetskega urejanja, zaradi katerega lahko postanemo fizično nadčloveki. Preberite več.)

Pravzaprav je zelo možno, da se lahko ljudje in umetna inteligenca razvijata skupaj z ustvarjanjem nekakšne pozitivne povratne zanke, kjer napredna umetna inteligenca pomaga genetikom pri obvladovanju človeškega genoma, da ustvarijo vedno pametnejše ljudi, ljudi, ki bodo nato delali na ustvarjanju vedno pametnejšega umetne inteligence, in tako na. Torej, da, tako kot napovedujejo raziskovalci umetne inteligence, bi lahko Zemlja sredi stoletja zelo dobro doživela eksplozijo inteligence, toda na podlagi naše dosedanje razprave bodo ljudje (ne samo umetna inteligenca) imeli koristi od te revolucije.

Kiborgi med nami

Poštena kritika tega argumenta o super inteligentnih ljudeh je, da tudi če obvladamo gensko urejanje do sredine stoletja, bo trajalo še 20 do 30 let, preden bo ta nova generacija ljudi dozorela do točke, ko bo lahko prispevala pomemben napredek k našemu družbe in izenačiti intelektualno igralno polje skupaj z AI. Ali ne bi ta zaostanek dal umetni inteligenci pomembne prednosti pred človeštvom, če bi se odločili, da postanejo "zli"?

Zato bomo kot most med današnjimi ljudmi in jutrišnjimi nadljudi od leta 2030 dalje priča začetkom novega razreda ljudi: kiborga, hibrida človeka in stroja.

(Po pravici povedano, odvisno od tega, kako definirate kiborge, ti tehnično že obstajajo – natančneje, ljudje z protetičnimi okončinami zaradi vojnih ran, nesreč ali genetskih okvar ob rojstvu. Da pa ostanemo osredotočeni na kontekst tega poglavja, Osredotočil se bom na protetiko, ki naj bi povečala naš um in inteligenco.)

Prvič obravnavan v našem Prihodnost računalnikov serije raziskovalci trenutno razvijajo področje bioelektronike, imenovano Brain-Computer Interface (BCI). Vključuje uporabo naprave za skeniranje možganov ali vsadka za spremljanje vaših možganskih valov, njihovo pretvorbo v kodo in njihovo povezavo z ukazi za nadzor vsega, kar poganja računalnik.

Še vedno smo na začetku, a z uporabo BCI so amputiranci zdaj testiranje robotskih udov nadzoruje neposredno njihov um, namesto prek senzorjev, pritrjenih na njihov panj. Podobno so zdaj ljudje s hudimi motnjami (kot so ljudje s tetraplegijo). uporabljajo BCI za krmiljenje svojih motoriziranih invalidskih vozičkov in manipulirati z robotskimi rokami. Toda pomoč amputirancem in invalidom pri bolj neodvisnem življenju ni tisto, kar bo BCI zmogel.

Kar bo v 2030-ih izgledalo kot čelada ali trak za lase, bo sčasoma umaknilo prostor možganskim vsadkom (pozno v 2040-ih), ki bodo naše misli povezali z digitalnim oblakom (internetom). Sčasoma bo ta možganska proteza delovala kot tretja hemisfera za naš um – tako da medtem ko naša leva in desna hemisfera upravljata našo ustvarjalnost in logične sposobnosti, bo ta nova digitalna hemisfera, hranjena v oblaku, olajšala skoraj takojšen dostop do informacij in izboljšala kognitivne sposobnosti. lastnosti, pri katerih ljudje pogosto zaostajajo za svojimi AI, in sicer hitrostjo, ponavljanjem in natančnostjo.

In čeprav ti možganski vsadki ne bodo nujno povečali naše inteligence, nas bodo naredili veliko bolj sposobne in neodvisne, tako kot to počnejo naši pametni telefoni danes.

Prihodnost, polna različnih inteligenc

Ves ta govor o AI, kiborgih in super inteligentnih ljudeh odpira še eno točko za razmislek: prihodnost bo priča veliko bogatejši raznolikosti inteligenc, kot smo jih kdaj videli v človeški ali celo zgodovini Zemlje.

Pomislite, pred koncem tega stoletja govorimo o prihodnjem svetu, polnem:

Inteligence žuželk
Živalske inteligence
Človeške inteligence
Kibernetsko izboljšana človeška inteligenca
Umetne splošne inteligence (AGI)
Umetne superinteligence (Kot je)
Človeške super inteligence
Kibernetsko izboljšana človeška super inteligenca
Virtualni hibridni um človek-AI
Še nekaj vmesnih kategorij, o katerih bralce spodbujamo, da razmislijo in jih delijo v razdelku za komentarje.

Z drugimi besedami, naš svet je že dom različnim vrstam, vsaka s svojo edinstveno vrsto inteligence, vendar bo prihodnost priča še večji raznolikosti inteligenc, ki bo tokrat razširila višji del kognitivne lestvice. Tako kot se današnja generacija uči deliti naš svet z žuželkami in živalmi, ki prispevajo k našemu ekosistemu, se bodo prihodnje generacije morale naučiti komunicirati in sodelovati s široko paleto inteligenc, ki si jih danes komaj predstavljamo.

Seveda nam zgodovina pove, da 'deljenje' nikoli ni bilo močna stran ljudi. Na stotine do tisoče vrst je izumrlo zaradi človeške ekspanzije, prav tako je na stotine manj razvitih civilizacij izginilo pod osvajanjem rastočih imperijev.

Te tragedije so posledica človeških potreb po virih (hrana, voda, surovine itd.) in deloma strahu in nezaupanja med tujimi civilizacijami ali ljudstvi. Z drugimi besedami, tragedije preteklosti in sedanjosti so posledica razlogov, starih toliko kot civilizacija sama, in se bodo z uvedbo vseh teh novih razredov inteligenc le še poslabšale.

Kulturni vpliv sveta, polnega različnih inteligenc

Čudenje in groza sta dve čustvi, ki bi najbolje povzeli nasprotujoča si čustva, ki jih bodo ljudje doživeli, ko bodo na svet prišle vse te nove vrste inteligenc.

Čudite se nad človeško iznajdljivostjo, uporabljeno za ustvarjanje vseh teh novih človeških in umetne inteligence, ter nad možnostmi, ki bi jih lahko ustvarile. In potem 'strah' zaradi pomanjkanja razumevanja in poznavanja prihodnjih generacij teh 'izboljšanih' bitij, ki jih bodo imele sedanje generacije ljudi.

Torej, tako kot svet živali povsem presega razumevanje povprečne žuželke in svet ljudi povsem onkraj razumevanja povprečne živali, bo svet umetne inteligence in celo super inteligentnih ljudi daleč onkraj obsega današnjega povprečen človek bo lahko razumel.

In čeprav bodo prihodnje generacije lahko komunicirale s temi novimi višjimi inteligencami, ni tako, da bomo imeli veliko skupnega. V poglavjih, ki predstavljajo AGI in ASI, smo razložili, zakaj bi bilo napačno razmišljati o inteligenci AI kot o človeški inteligenci.

Na kratko, instinktivna čustva, ki poganjajo človeško misel, so evolucijska biološka zapuščina večtisočletnih človeških generacij, ki so aktivno iskale vire, partnerje za parjenje, družbene vezi, preživetje itd. Prihodnji AI ne bo imel nič od te evolucijske prtljage. Namesto tega bodo imele te digitalne inteligence cilje, načine razmišljanja, vrednostne sisteme, ki so povsem edinstveni zase.

Podobno, tako kot smo se sodobni ljudje naučili zatreti vidike svojih naravnih človeških želja zahvaljujoč našemu intelektu (npr. omejujemo naše spolne partnerje, ko smo v predanih odnosih; tvegamo svoja življenja za tujce zaradi namišljenih konceptov časti in kreposti itd.) , lahko prihodnji nadljudje v celoti premagajo te prvobitne instinkte. Če je to mogoče, potem imamo res opravka z nezemljani, ne le z novim razredom ljudi.

Ali bo mir med prihodnjimi super dirkami in nami ostalimi?

Mir prihaja iz zaupanja, zaupanje pa iz domačnosti in skupnih ciljev. Poznavanja lahko umaknemo, saj smo že razpravljali o tem, da imajo neizboljšani ljudje malo skupnega, kognitivno, s temi super intelekti.

Po enem scenariju bo ta eksplozija inteligence predstavljala vzpon povsem nove oblike neenakosti, ki ustvarja na inteligenci temelječe družbene razrede, iz katerih se bo tistim iz nižjih razredov skoraj nemogoče dvigniti. In tako kot vse večji gospodarski prepad med bogatimi in revnimi danes povzroča nemire, lahko prepad med različnimi razredi/populacijami inteligence povzroči dovolj strahu in zamere, ki bi lahko nato zavrela v različne oblike preganjanja ali vsesplošne vojne. Za kolege bralce stripov vas bo to morda spomnilo na klasično zgodbo o preganjanju iz Marvelove franšize Možje X.

Alternativni scenarij je, da bodo ti prihodnji super intelekti le ugotovili načine, kako čustveno manipulirati s preprostejšimi množicami, da jih sprejmejo v svojo družbo - ali vsaj do točke, ki se izogne vsakemu nasilju.

Torej, kateri scenarij bo zmagal?

Po vsej verjetnosti bomo videli, da se bo nekaj odigralo vmes. Na začetku te obveščevalne revolucije bomo videli običajno 'tehnopanika,« ki ga strokovnjak za tehnološko pravo in politiko Adam Thierer opisuje kot sledenje običajnemu družbenemu vzorcu:

Generacijske razlike, ki vodijo v strah pred novim, zlasti tiste, ki motijo družbene običaje ali ukinjajo delovna mesta (preberite o vplivu umetne inteligence v našem Prihodnost dela serije);
»Hipernostalgija« po dobrih starih časih, ki v resnici nikoli niso bili tako dobri;
Spodbuda za novinarje in poznavalce, da se bojijo nove tehnologije in trendov v zameno za klike, oglede in prodajo oglasov;
Posebni interesi, ki se borijo za vladni denar ali dejanja, odvisno od tega, kako ta nova tehnologija vpliva na njihovo skupino;
Elitistično stališče akademskih in kulturnih kritikov, ki se bojijo novih tehnologij, ki jih sprejema množična javnost;
Ljudje, ki projicirajo moralne in kulturne debate včeraj in danes na nove tehnologije jutrišnjega dne.

Toda kot na vsak nov napredek se bodo ljudje nanj navadili. Kar je še pomembneje, medtem ko dve vrsti morda ne razmišljata enako, je mir mogoče najti prek skupnih interesov ali ciljev.

Ta nova umetna inteligenca lahko na primer ustvari nove tehnologije in sisteme za izboljšanje naših življenj. In v zameno bosta financiranje in vladna podpora še naprej podpirala interese umetne inteligence na splošno, zlasti zaradi aktivne konkurence med kitajskimi in ameriškimi programi umetne inteligence.

Podobno se bodo verske frakcije v mnogih državah uprle trendu genetskega poseganja v svoje otroke, ko gre za ustvarjanje nadčlovekov. Vendar pa bosta praktičnost in nacionalni interes postopoma podrla to oviro. Pri prvem bodo starši v skušnjavi, da bi uporabili tehnologijo za urejanje genov, da bi zagotovili, da se bodo njihovi otroci rodili brez bolezni in brez napak, toda ta začetni cilj je spolzka pot proti bolj invazivnemu genskemu izboljšanju. Podobno, če bo Kitajska začela genetsko krepiti celotne generacije svojega prebivalstva, bodo imele ZDA strateški imperativ slediti zgledu ali tvegati, da bodo dve desetletji pozneje trajno zaostajale – in tako bo tudi preostali svet.

Čeprav je to celotno poglavje intenzivno, se moramo spomniti, da bo vse to postopen proces. Zaradi tega bo naš svet zelo drugačen in zelo čuden. Toda navadili se bomo in to bo naša prihodnost.