Quantumrun

KREDIT ZA SLIKE: Quantumrun

Hoće li ljudi živjeti mirno u budućnosti kojom će dominirati umjetna inteligencija? - Budućnost umjetne inteligencije P6

David Tal, izdavač, futurist
@DavidTalPiše
LinkedIn

Uto, 09 / 15 / 2020 - 13: 10

Kad je riječ o čovječanstvu, recimo samo da nemamo najbolje rezultate kada je u pitanju suživot s 'onim drugim'. Bilo da se radi o genocidu nad Židovima u Njemačkoj ili Tutsima u Ruandi, porobljavanju Afrikanaca od strane zapadnih naroda ili robovima jugoistočne Azije sada rad u zemljama Zaljeva na Bliskom istoku ili čak trenutni progon koji doživljavaju Meksikanci u SAD-u ili sirijske izbjeglice u odabranim zemljama EU-a. Sve u svemu, naš instinktivni strah od onih koje doživljavamo kao drugačije od nas može nas navesti da poduzmemo radnje koje ili kontroliraju ili (u ekstremnim slučajevima) uništavaju one kojih se bojimo.

Možemo li očekivati nešto drugačije kada umjetna inteligencija postane istinski slična ljudskoj?

Hoćemo li živjeti u budućnosti u kojoj ćemo koegzistirati s neovisnim AI-robotskim bićima, kao što se vidi u sagi Star Wars, ili ćemo umjesto toga progoniti i porobljavati AI bića kao što je prikazano u franšizi Bladerunner? (Ako još niste vidjeli nijednu od ovih pop-kulturnih namirnica, što čekate?)

Ovo su pitanja u ovom završnom poglavlju Budućnost umjetne inteligencije serija se nada odgovoriti. To je važno jer ako su predviđanja vodećih istraživača umjetne inteligencije točna, tada ćemo do sredine stoljeća mi ljudi dijeliti naš svijet s obiljem različitih bića umjetne inteligencije - stoga je bolje da smislimo način da mirno živimo s njima.

Mogu li se ljudi ikada natjecati s umjetnom inteligencijom?

Vjerovali ili ne, možemo.

Prosječan čovjek (u 2018.) već je superiorniji čak i od najnaprednije AI. Kao što je navedeno u našem uvodno poglavlje, današnja umjetna uska inteligencija (ANI) neizmjerno je bolja od ljudi na specifičan zadatke za koje su dizajnirani, ali beznadni kada se traži da preuzmu zadatak izvan tog dizajna. Ljudi, s druge strane, zajedno s većinom drugih životinja na planetu, ističu se svojom prilagodljivošću za postizanje ciljeva u širokom rasponu okruženja—a definicija inteligencije koju su zagovarali računalni znanstvenici Marcus Hutter i Shane Legg.

Ova osobina univerzalne prilagodljivosti ne izgleda kao velika stvar, ali zahtijeva sposobnost procjene prepreke cilju, planiranja eksperimenta za prevladavanje te prepreke, poduzimanja radnji za izvođenje eksperimenta, učenja iz rezultata, zatim nastavka slijediti cilj. Sav život na planetu instinktivno izvršava ovu petlju prilagodljivosti tisuće do milijune puta svaki dan, i sve dok umjetna inteligencija ne nauči raditi isto, ostat će beživotni radni alati.

Ali znam što mislite: cijela ova serija o budućnosti umjetne inteligencije predviđa da će, uz dovoljno vremena, AI entiteti na kraju postati jednako pametni kao ljudi, a nedugo nakon toga i mnogo pametniji od ljudi.

Ovo poglavlje neće osporiti tu mogućnost.

Ali zamka u koju mnogi komentatori upadaju je mišljenje da će, budući da su evoluciji bili potrebni milijuni godina za proizvodnju bioloških mozgova, biti beznadno nadmašena kada umjetna inteligencija dosegne točku u kojoj može poboljšati vlastiti hardver i softver u ciklusima kratkim godinama, mjesecima , možda čak i danima.

Srećom, evolucija ima još malo borbe, djelomično zahvaljujući nedavnom napretku u genetičkom inženjeringu.

Prvo obrađeno u našoj seriji o budućnost ljudske evolucije, identificirali su genetičari 69 odvojenih gena koji utječu na inteligenciju, ali zajedno utječu na IQ samo za manje od osam posto. To znači da bi moglo postojati stotine ili tisuće gena koji utječu na inteligenciju, a mi ćemo morati ne samo otkriti sve njih, već i naučiti kako predvidljivo manipulirati svima njima zajedno prije nego što uopće možemo razmotriti diranje u fetus. DNK.

No do sredine 2040-ih polje genomike sazrijet će do točke u kojoj se genom fetusa može temeljito mapirati, a izmjene njegove DNK moći će se računalno simulirati kako bi se točno predvidjelo kako će promjene u njegovom genomu utjecati na njegovu buduću fizičku, emocionalnu , i što je najvažnije za ovu raspravu, njegove inteligencijske osobine.

Drugim riječima, do sredine stoljeća, otprilike kada većina istraživača umjetne inteligencije vjeruje da će umjetna inteligencija dosegnuti i možda nadmašiti ljudsku inteligenciju, dobit ćemo sposobnost genetski modificirati čitave generacije ljudske dojenčadi da budu znatno pametnija od generacija koje su prethodile ih.

Idemo prema budućnosti u kojoj će superinteligentni ljudi živjeti uz superinteligentnu umjetnu inteligenciju.

Utjecaj svijeta punog super inteligentnih ljudi

Dakle, o koliko pametnom ovdje govorimo? Konteksta radi, IQ Alberta Einsteina i Stephena Hawkinga iznosio je oko 160. Nakon što otkrijemo tajne iza genomskih markera koji kontroliraju inteligenciju, potencijalno bismo mogli vidjeti ljude rođene s IQ-om većim od 1,000.

To je važno jer su umovi poput Einsteina i Hawkinga pomogli u poticanju znanstvenih otkrića koja sada čine temelj našeg modernog svijeta. Na primjer, samo mali dio svjetske populacije razumije bilo što o fizici, ali značajan postotak svjetskog BDP-a ovisi o njezinim otkrićima — tehnologije poput pametnog telefona, modernog telekomunikacijskog sustava (Internet) i GPS ne mogu postojati bez kvantne mehanike .

S obzirom na ovaj utjecaj, kakav napredak bi čovječanstvo moglo doživjeti ako bismo rodili cijelu generaciju genija? Stotine milijuna Einsteinovih?

Odgovor je nemoguće pogoditi jer svijet nikada nije vidio toliku koncentraciju supergenijalaca.

Kakvi će ti ljudi uopće biti?

Za okus, samo razmislite o slučaju najpametnijeg zabilježenog čovjeka, William James Sidis (1898.-1944.), koji je imao IQ oko 250. Znao je čitati s dvije godine. Sa šest godina govorio je osam jezika. Primljen je na Sveučilište Harvard s 11 godina. A Sidis je samo četvrtinu pametniji od onoga što biolozi teoretiziraju da bi ljudi jednog dana mogli postati s genetskim uređivanjem.

(Napomena s druge strane: ovdje govorimo samo o inteligenciji, čak se i ne dotičemo genetskog uređivanja koje nas može učiniti fizički nadljudima. Pročitajte više ovdje.)

Zapravo, vrlo je moguće da se ljudi i umjetna inteligencija mogu zajedno razvijati stvaranjem neke vrste pozitivne povratne sprege, gdje napredna umjetna inteligencija pomaže genetičarima da ovladaju ljudskim genomom kako bi stvorili sve pametnije ljude, ljude koji će zatim raditi na stvaranju sve pametnije AI, i tako na. Dakle, da, baš kao što istraživači umjetne inteligencije predviđaju, Zemlja bi mogla doživjeti eksploziju inteligencije sredinom stoljeća, ali na temelju naše dosadašnje rasprave, ljudi (ne samo umjetna inteligencija) će imati koristi od te revolucije.

Kiborzi među nama

Poštena kritika ovom argumentu o superinteligentnim ljudima je da čak i ako ovladamo genetskim uređivanjem do sredine stoljeća, trebat će još 20 do 30 godina prije nego što ova nova generacija ljudi sazrije do točke u kojoj može pridonijeti značajnom napretku našem društvo i izjednačiti intelektualno igralište uz AI. Ne bi li ovo zaostajanje dalo AI-ima značajnu prednost u odnosu na čovječanstvo ako odluče postati 'zli'?

Zbog toga ćemo, kao most između današnjih ljudi i nadljudi sutrašnjice, počevši od 2030-ih, vidjeti početke nove klase ljudi: kiborga, hibrida čovjeka i stroja.

(Da budemo pošteni, ovisno o tome kako definirate kiborge, oni tehnički već postoje - točnije, ljudi s protetskim udovima kao rezultat ratnih rana, nesreća ili genetskih defekata pri rođenju. Ali kako bismo ostali usredotočeni na kontekst ovog poglavlja, mi Usredotočit ćemo se na protetiku namijenjenu povećanju našeg uma i inteligencije.)

Prvo raspravljano u našem Budućnost računala Istraživači trenutno razvijaju polje bioelektronike pod nazivom Brain-Computer Interface (BCI). To uključuje korištenje uređaja za skeniranje mozga ili implantata za praćenje moždanih valova, njihovo pretvaranje u kod i njihovo povezivanje s naredbama za kontrolu svega što pokreće računalo.

Još smo u ranim danima, ali korištenjem BCI-a amputirci su sada testiranje robotskih udova kontrolirani izravno njihovim umom, umjesto kroz senzore pričvršćene na njihov panj. Isto tako, osobe s teškim invaliditetom (kao što su osobe s kvadriplegijom) sada jesu koristeći BCI za upravljanje svojim motoriziranim invalidskim kolicima i manipulirati robotskim rukama. Ali pomaganje amputircima i osobama s invaliditetom da vode neovisniji život nije opseg onoga za što će BCI biti sposoban.

Ono što će 2030-ih izgledati kao kaciga ili traka za kosu s vremenom će ustupiti mjesto moždanim implantatima (kasne 2040-ih) koji će povezivati naše umove s digitalnim oblakom (Internet). Na kraju će ova moždana proteza djelovati kao treća hemisfera za naše umove—pa dok naša lijeva i desna hemisfera upravljaju našom kreativnošću i logičkim sposobnostima, ova nova, digitalna hemisfera hranjena oblakom omogućit će gotovo trenutni pristup informacijama i poboljšati kognitivne sposobnosti atribute u kojima ljudi često zaostaju u odnosu na svoje AI kolege, a to su brzina, ponavljanje i točnost.

I dok ovi moždani implantati neće nužno povećati našu inteligenciju, učinit će nas mnogo sposobnijima i neovisnijima, baš kao što to danas čine naši pametni telefoni.

Budućnost ispunjena različitim inteligencijama

Sva ova priča o umjetnoj inteligenciji, kiborzima i super inteligentnim ljudima otvara još jednu točku za razmatranje: budućnost će vidjeti puno bogatiju raznolikost inteligencija nego što smo ikada vidjeli u ljudskoj ili čak povijesti Zemlje.

Razmislite o tome, prije kraja ovog stoljeća, govorimo o budućem svijetu ispunjenom:

Inteligencija insekata
Životinjske inteligencije
Ljudske inteligencije
Kibernetički poboljšana ljudska inteligencija
Umjetne opće inteligencije (AGI)
Umjetne superinteligencije (Kao što je)
Ljudske super inteligencije
Kibernetički poboljšane ljudske super inteligencije
Hibridni umovi virtualnog čovjeka i umjetne inteligencije
Još nekoliko međukategorija o kojima potičemo čitatelje da razmišljaju i podijele ih u odjeljku s komentarima.

Drugim riječima, naš svijet već je dom raznolikom rasponu vrsta, svaka sa svojim jedinstvenim tipovima inteligencije, ali budućnost će vidjeti još veću raznolikost inteligencija, ovaj put šireći viši kraj kognitivne ljestvice. Dakle, baš kao što današnja generacija uči dijeliti naš svijet s kukcima i životinjama koje pridonose našem ekosustavu, buduće generacije će morati naučiti kako komunicirati i surađivati s velikom raznolikošću inteligencija koje danas jedva možemo zamisliti.

Naravno, povijest nam govori da 'dijeljenje' ljudima nikada nije bilo jača strana. Stotine do tisuće vrsta izumrle su zbog ljudske ekspanzije, kao što su stotine manje naprednih civilizacija nestale pod osvajanjem carstava koja su se širila.

Te su tragedije uzrokovane ljudskom potrebom za resursima (hranom, vodom, sirovinama itd.), a djelomično i zbog straha i nepovjerenja među stranim civilizacijama ili narodima. Drugim riječima, tragedije prošlosti i sadašnjosti posljedica su razloga starih koliko i sama civilizacija, a samo će se pogoršati uvođenjem svih ovih novih klasa inteligencije.

Kulturni utjecaj svijeta ispunjenog raznolikom inteligencijom

Čuđenje i strah dvije su emocije koje bi najbolje sažele proturječne emocije koje će ljudi iskusiti kada sve ove nove vrste inteligencije uđu u svijet.

'Čudim se' ljudskom genijalnošću koja je korištena za stvaranje svih ovih novih ljudskih i AI inteligencija, te mogućnostima koje bi one mogle stvoriti. A zatim 'strah' zbog nedostatka razumijevanja i bliskosti koje će sadašnje generacije ljudi imati s budućim generacijama ovih 'poboljšanih' bića.

Dakle, baš kao što je svijet životinja u potpunosti izvan shvaćanja prosječnog kukca, a svijet ljudi u potpunosti izvan shvaćanja prosječne životinje, svijet umjetne inteligencije, pa čak i super inteligentnih ljudi bit će daleko izvan opsega onoga što je danas prosječan čovjek će moći razumjeti.

I iako će buduće generacije moći komunicirati s tim novim višim inteligencijama, nije da ćemo imati puno toga zajedničkog. U poglavljima koja uvode AGI i ASI, objasnili smo zašto bi bilo pogrešno razmišljati o AI inteligenciji kao o ljudskoj inteligenciji.

Ukratko, instinktivne emocije koje pokreću ljudsku misao evolucijsko su biološko naslijeđe od nekoliko tisućljeća ljudskih generacija koje su aktivno tražile resurse, partnere za parenje, društvene veze, preživljavanje itd. Buduća umjetna inteligencija neće imati ništa od te evolucijske prtljage. Umjesto toga, te će digitalne inteligencije imati ciljeve, načine razmišljanja, sustave vrijednosti potpuno jedinstvene za sebe.

Isto tako, baš kao što su moderni ljudi naučili potisnuti aspekte svojih prirodnih ljudskih želja zahvaljujući našem intelektu (npr. ograničavamo naše seksualne partnere kada smo u posvećenim vezama; riskiramo svoje živote zbog stranaca zbog imaginarnih koncepata časti i vrline, itd.) , budući nadljudi mogli bi u potpunosti nadvladati te iskonske instinkte. Ako je to moguće, onda stvarno imamo posla s vanzemaljcima, a ne samo s novom klasom ljudi.

Hoće li biti mira između budućih super utrka i nas ostalih?

Mir dolazi iz povjerenja, a povjerenje dolazi iz bliskosti i zajedničkih ciljeva. Možemo skinuti familijarnost sa stola jer smo već raspravljali o tome kako ljudi koji nisu poboljšani imaju malo toga zajedničkog, kognitivno, s ovim super intelektima.

Prema jednom scenariju, ova eksplozija inteligencije predstavljat će porast potpuno novog oblika nejednakosti, onog koji stvara društvene klase temeljene na inteligenciji iz kojih će onima iz nižih klasa biti gotovo nemoguće izdići se. I baš kao što sve veći ekonomski jaz između bogatih i siromašnih danas uzrokuje nemire, jaz između različitih klasa/populacija inteligencije mogao bi proizvesti dovoljno straha i ogorčenosti koji bi zatim mogli proključati u razne oblike progona ili sveopćeg rata. Za kolege čitatelje stripova, ovo bi vas moglo podsjetiti na klasičnu priču o progonu iz Marvelove X-men franšize.

Alternativni scenarij je da će ti budući super intelekti samo smisliti načine kako emocionalno manipulirati jednostavnijim masama da ih prihvate u svoje društvo - ili barem do točke koja izbjegava svako nasilje.

Dakle, koji će scenarij pobijediti?

Po svoj prilici, vidjet ćemo da se nešto odigra u sredini. Na početku ove obavještajne revolucije vidjet ćemo uobičajeno 'tehnopanika,' taj stručnjak za tehnološko pravo i politiku, Adam Thierer, opisuje kao slijedeći uobičajeni društveni obrazac:

Generacijske razlike koje dovode do straha od novog, posebno onih koje narušavaju društvene običaje ili ukidaju radna mjesta (pročitajte o utjecaju umjetne inteligencije u našem Budućnost rada niz);
"Hipernostalgija" za dobrim starim vremenima koja, u stvarnosti, nikad nisu bila tako dobra;
Poticaj za novinare i stručnjake da se plaše novih tehnologija i trendova u zamjenu za klikove, preglede i prodaju oglasa;
Posebni interesi koji se bore jedni druge za vladin novac ili djelovanje ovisno o tome kako ova nova tehnologija utječe na njihovu grupu;
Elitistički stavovi akademskih i kulturnih kritičara koji se boje novih tehnologija koje masovna javnost prihvaća;
Ljudi koji projiciraju moralne i kulturne rasprave jučer i danas na nove tehnologije sutrašnjice.

Ali kao i na svaki novi napredak, ljudi će se naviknuti. Što je još važnije, iako dvije vrste možda ne misle jednako, mir se može pronaći kroz zajedničke interese ili ciljeve.

Na primjer, ova nova umjetna inteligencija može stvoriti nove tehnologije i sustave za poboljšanje naših života. A zauzvrat, financiranje i potpora vlade nastavit će unaprijediti interese umjetne inteligencije u cjelini, posebno zahvaljujući aktivnom natjecanju između kineskih i američkih programa umjetne inteligencije.

Isto tako, kada je riječ o stvaranju nadljudi, vjerske frakcije u mnogim će se zemljama oduprijeti trendu genetskog diranja u njihovu djecu. Međutim, praktičnost i nacionalni interes postupno će srušiti ovu prepreku. Što se tiče prvih, roditelji će biti u iskušenju da koriste tehnologiju genetskog uređivanja kako bi osigurali da se njihova djeca rađaju bez bolesti i nedostataka, ali taj početni cilj je sklizak nagib prema invazivnijem genetskom poboljšanju. Isto tako, ako Kina počne genetski unapređivati čitave generacije svog stanovništva, SAD će imati strateški imperativ slijediti taj primjer ili riskirati trajno zaostajanje dva desetljeća kasnije - a isto će učiniti i ostatak svijeta.

Koliko god ovo cijelo poglavlje bilo intenzivno, moramo zapamtiti da će sve to biti postupan proces. To će naš svijet učiniti vrlo drugačijim i vrlo čudnim. Ali naviknut ćemo se na to, i to će postati naša budućnost.