Quantumrun

KREDIT ZA SLIKU: Quantumrun

Hoće li ljudi živjeti mirno u budućnosti u kojoj će dominirati umjetna inteligencija? - Budućnost vještačke inteligencije P6

David Tal, izdavač, futurist
@DavidTalWrites
LinkedIn

Uto, 09 - 15:2020

Kada je u pitanju čovječanstvo, recimo da nemamo najbolje rezultate kada je u pitanju suživot sa 'drugim'. Bilo da se radi o genocidu nad Židovima u Njemačkoj ili Tutsijima u Ruandi, porobljavanju Afrikanaca od strane zapadnih nacija ili robovima u jugoistočnoj Aziji sada rad u zemljama Zaljeva na Bliskom istoku, ili čak trenutni progon koji su iskusili Meksikanci u SAD-u ili sirijske izbjeglice u odabranim zemljama EU. Sve u svemu, naš instinktivni strah od onih koje smatramo drugačijima od nas može nas navesti da preduzmemo radnje koje kontroliraju ili (u ekstremnim slučajevima) uništavaju one kojih se bojimo.

Možemo li očekivati nešto drugačije kada umjetna inteligencija postane istinski slična čovjeku?

Hoćemo li živjeti u budućnosti u kojoj koegzistiramo sa nezavisnim AI robotskim bićima, kao što se vidi u sagi o Ratovima zvijezda, ili ćemo umjesto toga progoniti i porobiti AI bića kao što je prikazano u franšizi Bladerunner? (Ako niste vidjeli nijednu od ovih pop kulture, šta čekate?)

Ovo su pitanja ovog završnog poglavlja Budućnost umjetne inteligencije serija se nada da će odgovoriti. To je važno jer ako su prognoze vodećih istraživača umjetne inteligencije tačne, onda ćemo sredinom stoljeća mi ljudi dijeliti svoj svijet s obiljem različitih bića umjetne inteligencije – tako da je bolje da smislimo način da živimo zajedno s njima u miru.

Mogu li se ljudi ikada takmičiti s umjetnom inteligencijom?

Vjerovali ili ne, možemo.

Prosječan čovjek (2018.) već je superiorniji čak i od najnaprednije AI. Kao što je navedeno u našoj otvaranje poglavlja, današnje umjetne uske inteligencije (ANI) su neizmjerno bolje od ljudi u specifičan zadatke za koje su dizajnirani, ali beznadežni kada se od njih traži da preuzmu zadatak izvan tog dizajna. Ljudi, s druge strane, zajedno s većinom drugih životinja na planeti, ističu se u našoj prilagodljivosti da slijedimo ciljeve u širokom rasponu okruženja – a definicija inteligencije koju zagovaraju kompjuterski naučnici Marcus Hutter i Shane Legg.

Ova osobina univerzalne prilagodljivosti ne izgleda kao velika stvar, ali zahtijeva sposobnost da se procijeni prepreka za postizanje cilja, planira eksperiment da se prevlada ta prepreka, poduzme radnja za izvođenje eksperimenta, uči se iz rezultata, a zatim se nastavi slijediti cilj. Čitav život na planeti instinktivno izvršava ovu petlju prilagodljivosti hiljade do milion puta svaki dan, i dok AI ne nauči da radi isto, oni će ostati beživotni radni alati.

Ali znam šta mislite: cijela ova serija o budućnosti vještačke inteligencije predviđa da će, uz dovoljno vremena, AI entiteti na kraju postati jednako pametni kao ljudi, a ubrzo nakon toga i mnogo pametniji od ljudi.

Ovo poglavlje neće osporiti tu mogućnost.

Ali zamka u koju mnogi komentatori upadaju je mišljenje da će evoluciji biti potrebni milioni godina da proizvede biološki mozak, da će biti beznadežno nadmašen kada AI dostigne tačku u kojoj mogu poboljšati svoj hardver i softver u ciklusima kraćim od godina, mjeseci , možda čak i danima.

Srećom, evolucija ima još neke borbe, dijelom zahvaljujući nedavnom napretku u genetskom inženjeringu.

Prvo obrađeno u našoj seriji o budućnost ljudske evolucije, identifikovali su genetičari 69 odvojenih gena koji utiču na inteligenciju, ali zajedno utiču samo na IQ za manje od osam procenata. To znači da bi mogle postojati stotine ili hiljade gena koji utiču na inteligenciju, i moraćemo ne samo da ih otkrijemo, već i da naučimo kako da predvidivo manipulišemo njima zajedno pre nego što uopšte budemo mogli da razmislimo o petljanju u fetus. DNK.

Ali do sredine 2040-ih, polje genomike će sazreti do tačke u kojoj se genom fetusa može detaljno mapirati, a izmene njegove DNK mogu se kompjuterski simulirati kako bi se tačno predvidelo kako će promene njegovog genoma uticati na njegov budući fizički, emocionalni , i što je najvažnije za ovu raspravu, njegovi atributi inteligencije.

Drugim riječima, do sredine stoljeća, kada većina istraživača umjetne inteligencije vjeruje da će AI dostići i možda nadmašiti inteligenciju na ljudskom nivou, mi ćemo steći sposobnost da genetski modificiramo čitave generacije ljudskih novorođenčadi kako bismo bili znatno pametniji od generacija koje su prethodile njima.

Idemo prema budućnosti u kojoj će super inteligentni ljudi živjeti zajedno sa superinteligentnom umjetnom inteligencijom.

Utjecaj svijeta ispunjenog super inteligentnim ljudima

Dakle, o kojoj pameti mi ovde pričamo? Za kontekst, koeficijent inteligencije Alberta Einsteina i Stephena Hawkinga postigao je oko 160. Kada otkrijemo tajne iza genomskih markera koji kontrolišu inteligenciju, potencijalno bismo mogli vidjeti ljude rođene s IQ-om koji prelazi 1,000.

Ovo je važno jer su umovi poput Einsteina i Hawkinga pomogli pokrenuti naučna otkrića koja sada postavljaju temelj našeg modernog svijeta. Na primjer, samo mali dio svjetske populacije razumije bilo šta o fizici, ali značajan postotak svjetskog BDP-a ovisi o njenim otkrićima - tehnologijama poput pametnog telefona, modernog telekomunikacijskog sistema (Interneta) i GPS-a ne može postojati bez kvantne mehanike. .

S obzirom na ovaj uticaj, kakav napredak bi čovečanstvo moglo da doživi ako bismo izrodili čitavu generaciju genija? Stotine miliona Ajnštajnovih?

Odgovor je nemoguće pogoditi jer svijet nikada nije vidio toliku koncentraciju super genijalaca.

Kakvi će ti ljudi uopće biti?

Za ukus, samo razmislite o slučaju najpametnijeg zabilježenog čovjeka, William James Sidis (1898-1944), koji je imao IQ od oko 250. Znao je čitati do druge godine. Do šeste godine je govorio osam jezika. Sa 11 godina primljen je na Univerzitet Harvard. A Sidis je samo četvrtinu pametniji od onoga što biolozi teoretiziraju da ljudi mogu jednog dana postati s genetskim uređivanjem.

(Napomena: ovdje govorimo samo o inteligenciji, ne dotičemo se čak ni genetskog uređivanja koje nas može učiniti fizički nadljudskim. Pročitajte više ovdje.)

U stvari, vrlo je moguće da ljudi i AI mogu zajedno evoluirati stvaranjem neke vrste pozitivne povratne sprege, gdje napredna AI pomaže genetičarima da ovladaju ljudskim genomom kako bi stvorili sve pametnije ljude, ljude koji će onda raditi na stvaranju sve pametnije AI, i tako on. Dakle, da, baš kao što istraživači AI predviđaju, Zemlja bi mogla doživjeti eksploziju inteligencije sredinom stoljeća, ali na osnovu naše dosadašnje rasprave, ljudi (ne samo AI) će imati koristi od te revolucije.

Kiborzi među nama

Ispravna kritika ovom argumentu o super inteligentnim ljudima je da čak i ako ovladamo genetskim uređivanjem do sredine stoljeća, trebat će još 20 do 30 godina prije nego što ova nova generacija ljudi sazrije do tačke u kojoj mogu doprinijeti značajnom napretku našem društvo i izjednačiti intelektualno polje za igru uz AI. Ne bi li ovo zaostajanje dalo AI značajnu prednost protiv čovječanstva ako odluče da se okrenu 'zlu'?

Zato ćemo, kao most između današnjih ljudi i sutrašnjih nadljudi, počevši od 2030-ih, vidjeti početke nove klase ljudi: kiborga, hibrida čovjeka i mašine.

(Da budemo pošteni, ovisno o tome kako definirate kiborge, oni tehnički već postoje – konkretno, ljudi s protetskim udovima kao rezultat ratnih rana, nesreća ili genetskih defekata pri rođenju. Ali da bismo ostali fokusirani na kontekst ovog poglavlja, mi fokusirat ćemo se na protetiku koja ima za cilj da poveća naš um i inteligenciju.)

Prvo se raspravljalo u našoj Budućnost kompjutera serije, istraživači trenutno razvijaju polje bioelektronike pod nazivom Brain-Computer Interface (BCI). To uključuje korištenje uređaja za skeniranje mozga ili implantata za praćenje vaših moždanih valova, pretvaranje ih u kod, a zatim povezivanje s komandama za kontrolu svega što pokreće kompjuter.

Još smo u ranim danima, ali korištenjem BCI-a, sada su amputirani testiranje robotskih udova kontrolišu direktno njihovi umovi, umjesto preko senzora pričvršćenih za njihov panj. Isto tako, sada su ljudi sa teškim invaliditetom (kao što su ljudi sa kvadriplegijom). koristeći BCI za upravljanje motorizovanim invalidskim kolicima i manipulisati robotskim rukama. Ali pomaganje amputiracima i osobama s invaliditetom da vode samostalniji život nije mjera za koju će BCI biti sposoban.

Ono što će 2030-ih izgledati kao kaciga ili traka za kosu na kraju će ustupiti mjesto moždanim implantatima (kasne 2040-te) koji će povezati naše umove s digitalnim oblakom (Internetom). Na kraju će ova moždana proteza djelovati kao treća hemisfera za naše umove – tako da dok naša lijeva i desna hemisfera upravljaju našom kreativnošću i logičkim sposobnostima, ova nova digitalna hemisfera hranjena oblakom olakšat će skoro trenutni pristup informacijama i poboljšati kognitivne sposobnosti. atributi u kojima ljudi često zaostaju za svojim AI kolegama, a to su brzina, ponavljanje i tačnost.

I dok ovi moždani implantati neće nužno povećati našu inteligenciju, oni će nas učiniti daleko sposobnijima i neovisnijima, baš kao što to čine naši pametni telefoni danas.

Budućnost puna različitih inteligencija

Sva ova priča o AI, kiborzima i super inteligentnim ljudima otvara još jednu stvar za razmatranje: budućnost će vidjeti mnogo bogatiju raznolikost inteligencija nego što smo ikada vidjeli u ljudskoj ili čak Zemljinoj istoriji.

Razmislite o tome, prije kraja ovog stoljeća, govorimo o budućem svijetu ispunjenom:

Inteligencije insekata
Životinjske inteligencije
Ljudske inteligencije
Kibernetički poboljšane ljudske inteligencije
Umjetna opća inteligencija (AGI)
Veštačke superinteligencije (Kao što je)
Ljudske super inteligencije
Kibernetički poboljšane ljudske super inteligencije
Virtualni hibridni umovi ljudi i AI
Još nekoliko kategorija između kojih potičemo čitatelje da razmisle i podijele ih u odjeljku za komentare.

Drugim riječima, naš svijet je već dom raznolikog spektra vrsta, od kojih svaka ima svoje jedinstvene tipove inteligencije, ali budućnost će vidjeti još veću raznolikost inteligencije, ovaj put proširivši viši kraj kognitivne ljestvice. Dakle, baš kao što današnja generacija uči dijeliti naš svijet sa insektima i životinjama koji doprinose našem ekosistemu, buduće generacije će morati naučiti kako komunicirati i sarađivati sa širokim spektrom inteligencija koje danas jedva možemo zamisliti.

Naravno, istorija nam govori da 'dijeljenje' nikada nije bila jaka strana za ljude. Stotine do hiljade vrsta su izumrle zbog ljudske ekspanzije, samo su stotine manje naprednih civilizacija nestale pod osvajanjem sve širih imperija.

Ove tragedije nastaju zbog ljudske potrebe za resursima (hrana, voda, sirovine, itd.), a dijelom i zbog straha i nepovjerenja među stranim civilizacijama ili narodima. Drugim riječima, tragedije prošlosti i sadašnjosti uzrokovane su razlozima starim koliko i sama civilizacija, a samo će se pogoršati uvođenjem svih ovih novih klasa inteligencije.

Kulturni uticaj sveta ispunjenog različitim inteligencijama

Čuđenje i užas su dvije emocije koje bi najbolje sumirale konfliktne emocije koje će ljudi doživjeti kada sve ove nove vrste inteligencije uđu u svijet.

'Čudite se' ljudskoj domišljatosti koja je korištena za stvaranje svih ovih novih ljudskih i AI inteligencije i mogućnosti koje bi one mogle stvoriti. A onda 'strah' od nedostatka razumijevanja i poznavanja koje će sadašnje generacije ljudi imati sa budućim generacijama ovih 'poboljšanih' bića.

Dakle, kao što je svijet životinja potpuno izvan shvaćanja prosječnog insekta, a svijet ljudi potpuno je izvan shvaćanja prosječne životinje, svijet AI, pa čak i super inteligentnih ljudi, bit će daleko izvan okvira onoga što danas prosečan čovek će moći da razume.

I iako će buduće generacije moći komunicirati sa ovim novim višim inteligencijama, nije da ćemo imati puno toga zajedničkog. U poglavljima koja uvode AGI i ASI objasnili smo zašto bi pokušaj razmišljanja o AI inteligenciji kao što je ljudska inteligencija bila greška.

Ukratko, instinktivne emocije koje pokreću ljudsku misao su evolucijsko biološko naslijeđe od nekoliko milenijuma vrijednih ljudskih generacija koje su aktivno tražile resurse, partnere za parenje, društvene veze, opstanak, itd. Buduća AI neće imati ništa od tog evolucijskog prtljaga. Umjesto toga, ove digitalne inteligencije će imati ciljeve, načine razmišljanja, sisteme vrijednosti potpuno jedinstvene za sebe.

Isto tako, kao što su moderni ljudi naučili potisnuti aspekte svojih prirodnih ljudskih želja zahvaljujući našem intelektu (npr. ograničavamo svoje seksualne partnere kada smo u predanim vezama; rizikujemo svoje živote za strance zbog imaginarnih koncepata časti i vrline, itd.) , budući nadljudi mogu u potpunosti nadvladati ove iskonske instinkte. Ako je to moguće, onda zaista imamo posla sa vanzemaljcima, a ne samo sa novom klasom ljudi.

Hoće li biti mira između budućih super rasa i nas ostalih?

Mir dolazi iz povjerenja, a povjerenje dolazi iz bliskosti i zajedničkih ciljeva. Možemo da skinemo familijarnost sa stola jer smo već raspravljali o tome kako ljudi koji nisu poboljšani imaju malo zajedničkog, kognitivno, sa ovim super intelektima.

U jednom scenariju, ova eksplozija inteligencije će predstavljati uspon potpuno novog oblika nejednakosti, one koja stvara društvene klase zasnovane na inteligenciji iz kojih će onima iz nižih klasa biti gotovo nemoguće da se uzdignu. I baš kao što rastući ekonomski jaz između bogatih i siromašnih danas izaziva nemire, jaz između različitih klasa/populacija inteligencije mogao bi izazvati dovoljno straha i ogorčenosti koji bi se onda mogli pretvoriti u različite oblike progona ili sveopšteg rata. Za kolege koji čitaju stripove, ovo bi vas moglo podsjetiti na klasičnu pozadinu progona iz Marvelove X-men franšize.

Alternativni scenario je da će ovi budući super intelekti samo smisliti načine da emocionalno manipulišu jednostavnijim masama da ih prihvate u svoje društvo – ili barem do tačke koja izbegava svako nasilje.

Dakle, koji scenario će pobijediti?

Po svoj prilici, videćemo da se nešto odigra u sredini. Na početku ove obavještajne revolucije, vidjet ćemo uobičajeno 'technopanic', stručnjak za tehnološko pravo i politiku, Adam Thierer, opisuje kako slijedi uobičajeni društveni obrazac:

Generacijske razlike koje dovode do straha od novog, posebno onih koje narušavaju društvene običaje ili ukidaju poslove (pročitajte o utjecaju AI u našim Budućnost rada serija);
"Hipernostalgija" za stara dobra vremena koja, u stvarnosti, nikada nisu bila tako dobra;
Podsticaj novinarima i stručnjacima da se plaše novih tehnologija i trendova u zamjenu za klikove, preglede i prodaju oglasa;
Posebni interesi koji se međusobno hvataju za državni novac ili akciju u zavisnosti od toga kako na njihovu grupu utiče ova nova tehnologija;
Elitistički stavovi akademskih i kulturnih kritičara koji se plaše novih tehnologija koje masovna javnost usvaja;
Ljudi koji projiciraju moralne i kulturne debate od juče i danas na nove tehnologije sutrašnjice.

Ali kao i na svaki novi napredak, ljudi će se naviknuti. Što je još važnije, iako dvije vrste možda ne razmišljaju isto, mir se može pronaći kroz zajedničke interese ili ciljeve.

Na primjer, ova nova umjetna inteligencija može stvoriti nove tehnologije i sisteme za poboljšanje naših života. A zauzvrat, finansiranje i podrška vlade nastaviće da unapređuju interese AI sveukupno, posebno zahvaljujući aktivnoj konkurenciji između kineskih i američkih AI programa.

Isto tako, kada je riječ o stvaranju nadljudi, vjerske frakcije u mnogim zemljama će se oduprijeti trendu genetskog petljanja u njihovu djecu. Međutim, praktičnost i nacionalni interes postepeno će srušiti ovu barijeru. U prvom slučaju, roditelji će biti u iskušenju da koriste tehnologiju genetskog uređivanja kako bi osigurali da njihova djeca budu rođena bez bolesti i defekata, ali taj početni cilj je klizav nagib ka invazivnijem genetskom poboljšanju. Isto tako, ako Kina počne genetski unapređivati čitave generacije svoje populacije, SAD će imati strateški imperativ da slijede njihov primjer ili riskiraju da trajno zaostanu dvije decenije kasnije – a isto će i ostatak svijeta.

Koliko god intenzivno čitalo ovo poglavlje, moramo imati na umu da će sve ovo biti postepen proces. To će naš svijet učiniti veoma drugačijim i vrlo čudnim. Ali mi ćemo se naviknuti na to i to će postati naša budućnost.