Quantumrun

BILLEDKREDIT: Quantumrun

Vil mennesker leve fredeligt i en fremtid domineret af kunstig intelligens? - Fremtiden for kunstig intelligens P6

David Tal, udgiver, fremtidsforsker
@DavidTalWrites
LinkedIn

Tue, 09 / 15 / 2020 - 13: 10

Når det kommer til menneskeheden, så lad os bare sige, at vi ikke har den største track record, når det kommer til at bo sammen med 'den anden'. Det være sig folkedrabet på jøderne i Tyskland eller tutsierne i Rwanda, slaveri af afrikanere af vestlige nationer eller de sydøstasiatiske kontraktslaver nu arbejder i mellemøstlige Golfnationer, eller endda den nuværende forfølgelse, som mexicanere i USA oplever eller syriske flygtninge i udvalgte EU-lande. I det hele taget kan vores instinktive frygt for dem, vi opfatter som anderledes end os, få os til at foretage handlinger, der enten kontrollerer eller (i ekstreme tilfælde) ødelægger dem, vi frygter.

Kan vi forvente noget anderledes, når kunstig intelligens bliver virkelig menneskelignende?

Vil vi leve i en fremtid, hvor vi sameksisterer med uafhængige AI-robotvæsener, som det ses i Star Wars-sagaen, eller vil vi i stedet forfølge og slavebinde AI-væsener som afbildet i Bladerunner-serien? (Hvis du ikke har set nogen af disse popkulturer, hvad venter du så på?)

Dette er spørgsmålene i dette afsluttende kapitel af Fremtiden for kunstig intelligens serie håber at svare. Det betyder noget, for hvis forudsigelserne lavet af førende AI-forskere er korrekte, vil vi mennesker i midten af århundredet dele vores verden med en overflod af forskellige AI-væsener – så vi må hellere finde ud af en måde at leve fredeligt sammen med dem på.

Kan mennesker nogensinde konkurrere med kunstig intelligens?

Tro det eller ej, men vi kan.

Det gennemsnitlige menneske (i 2018) er allerede overlegent i forhold til selv den mest avancerede AI. Som beskrevet i vores indledende kapitel, er nutidens kunstige smalle intelligenser (ANI'er) umådeligt bedre end mennesker ved specifikke opgaver, de var designet til, men håbløse, når de blev bedt om at påtage sig en opgave uden for dette design. Mennesker på den anden side, sammen med de fleste andre dyr på planeten, udmærker sig i vores tilpasningsevne til at forfølge mål på tværs af en bred vifte af miljøer - en definition efterretningsvæsen, som datalogerne Marcus Hutter og Shane Legg fortaler for.

Denne egenskab af universel tilpasningsevne virker ikke som en stor sag, men det kræver evnen til at vurdere en forhindring for et mål, planlægge et eksperiment for at overvinde den forhindring, tage en handling for at udføre eksperimentet, lære af resultaterne og derefter fortsætte at forfølge målet. Alt liv på planeten udfører instinktivt denne tilpasningssløjfe tusinder til millioner af gange hver dag, og indtil AI kan lære at gøre det samme, vil de forblive livløse arbejdsredskaber.

Men jeg ved, hvad du tænker: Hele denne serie om fremtiden for kunstig intelligens-prognoser, der givet nok tid, vil AI-enheder i sidste ende blive lige så smarte som mennesker, og kort efter det, meget klogere end mennesker.

Dette kapitel vil ikke bestride denne mulighed.

Men fælden, som mange kommentatorer falder i, er at tænke, at fordi evolutionen tog millioner af år at producere biologiske hjerner, vil den blive håbløst udkonkurreret, når AI'er når et punkt, hvor de kan forbedre deres egen hardware og software i cyklusser så korte som år, måneder , måske endda dage.

Heldigvis har evolutionen noget kamp tilbage i sig, delvist takket være de seneste fremskridt inden for genteknologi.

Først dækket i vores serie om fremtiden for menneskelig evolution, har genetikere identificeret 69 separate gener som påvirker intelligensen, men tilsammen påvirker de kun IQ med mindre end otte procent. Det betyder, at der kan være hundredvis eller tusindvis af gener, der påvirker intelligensen, og vi bliver nødt til ikke blot at opdage dem alle, men også lære at forudsigeligt manipulere dem alle sammen, før vi overhovedet kan overveje at manipulere med et foster. DNA.

Men i midten af 2040'erne vil genomforskningsområdet modnes til et punkt, hvor et fosters genom kan kortlægges grundigt, og redigeringer af dets DNA kan computersimuleres for præcist at forudsige, hvordan ændringer i dets genom vil påvirke dets fremtidige fysiske, følelsesmæssige , og vigtigst for denne diskussion, dens intelligensegenskaber.

Med andre ord, i midten af århundredet, omkring hvor de fleste AI-forskere tror, at AI vil nå og muligvis overgå intelligens på menneskeligt niveau, vil vi opnå evnen til genetisk at modificere hele generationer af menneskelige spædbørn til at være betydeligt klogere end de generationer, der gik forud. dem.

Vi er på vej mod en fremtid, hvor super intelligente mennesker vil leve sammen med superintelligent AI.

Virkningen af en verden fyldt med super intelligente mennesker

Så hvor smart taler vi om her? Til sammenhæng scorede Albert Einsteins og Stephen Hawkings IQ'er til omkring 160. Når vi først har låst op for hemmelighederne bag de genomiske markører, der styrer intelligens, kunne vi potentielt se mennesker født med IQ'er, der overstiger 1,000.

Dette betyder noget, fordi hjerner som Einstein og Hawking var med til at sætte gang i de videnskabelige gennembrud, der nu ligger i bunden af vores moderne verden. For eksempel er det kun en lille brøkdel af verdens befolkning, der forstår noget om fysik, men en betydelig procentdel af verdens BNP er afhængig af dens resultater - teknologier som smartphonen, moderne telekommunikationssystem (internet) og GPS'en kan ikke eksistere uden kvantemekanik .

Givet denne påvirkning, hvilken slags fremskridt kunne menneskeheden opleve, hvis vi fødte en hel generation af genier? Hundredvis af millioner af Einsteins?

Svaret er umuligt at gætte, da verden aldrig har set sådan en koncentration af supergenier.

Hvordan vil disse mennesker overhovedet være?

For en smagsprøve skal du bare overveje tilfældet med det smarteste registrerede menneske, William James Sidis (1898-1944), som havde en IQ på omkring 250. Han kunne læse i en alder af to. Han talte otte sprog i en alder af seks. Han blev optaget på Harvard University 11. Og Sidis er kun en fjerdedel så klog, som biologen teoretiserer, at mennesker en dag kan blive med genetisk redigering.

(Sidebemærkning: vi taler kun om intelligens her, vi rører ikke engang ved genetisk redigering, der kan gøre os fysisk overmenneskelige. Læs mere her.)

Faktisk er det meget muligt, at mennesker og AI kan udvikle sig sammen ved at skabe en slags positiv feedback-loop, hvor avanceret AI hjælper genetikere med at mestre det menneskelige genom til at skabe stadigt klogere mennesker, mennesker, der så vil arbejde for at skabe stadig smartere AI, og så på. Så ja, ligesom AI-forskere forudsiger, kunne Jorden meget vel opleve en intelligenseksplosion i midten af århundredet, men baseret på vores diskussion indtil videre, vil mennesker (ikke kun AI) drage fordel af den revolution.

Cyborgs blandt os

En rimelig kritik af dette argument om super intelligente mennesker er, at selvom vi mestrer genetisk redigering i midten af århundredet, ville det tage yderligere 20 til 30 år, før denne nye generation af mennesker modnes til et punkt, hvor de kan bidrage med betydelige fremskridt til vores samfundet og udligner de intellektuelle spilleregler ved siden af AI. Ville denne forsinkelse ikke give AI'er et betydeligt forspring mod menneskeheden, hvis de besluttede at blive 'onde'?

Dette er grunden til, at vi, som en bro mellem nutidens mennesker og morgendagens supermennesker, starter i 2030'erne, vil se begyndelsen på en ny klasse af mennesker: cyborgen, en hybrid af menneske og maskine.

(For at være retfærdig, afhængigt af hvordan du definerer cyborgs, eksisterer de teknisk set allerede – specifikt mennesker med protetiske lemmer som følge af krigssår, ulykker eller genetiske defekter ved fødslen. Men for at forblive fokuseret på konteksten af dette kapitel, vi vil fokusere på proteser beregnet til at øge vores sind og intelligens.)

Først diskuteret i vores Computernes fremtid serie udvikler forskere i øjeblikket et bioelektronikfelt kaldet Brain-Computer Interface (BCI). Det involverer at bruge en hjernescanningsenhed eller et implantat til at overvåge dine hjernebølger, konvertere dem til kode og derefter forbinde dem med kommandoer til at styre alt, der køres af en computer.

Vi er stadig i de tidlige dage, men ved at bruge BCI er amputerede nu test af robotlemmer styret direkte af deres sind, i stedet for gennem sensorer knyttet til deres stump. Ligeledes er mennesker med svære handicap (såsom personer med quadriplegi) nu bruge BCI til at styre deres motoriserede kørestole og manipulere robotarme. Men at hjælpe amputerede og personer med handicap med at føre mere selvstændige liv er ikke omfanget af, hvad BCI vil være i stand til.

Hvad der i 2030'erne vil ligne en hjelm eller hårbånd, vil i sidste ende vige for hjerneimplantater (sen af 2040'erne), som vil forbinde vores sind med den digitale sky (internet). Til sidst vil denne hjerneprotese fungere som en tredje halvkugle for vores sind - så mens vores venstre og højre hjernehalvdel styrer vores kreativitet og logiske evner, vil denne nye, skyforsynede, digitale halvkugle lette næsten øjeblikkelig adgang til information og forbedre det kognitive egenskaber, hvor mennesker ofte mangler deres AI-modstykker, nemlig hastighed, gentagelse og nøjagtighed.

Og selvom disse hjerneimplantater ikke nødvendigvis vil booste vores intelligens, vil de gøre os langt mere dygtige og uafhængige, ligesom vores smartphones gør i dag.

En fremtid fyldt med forskellige intelligenser

Al denne snak om AI'er, cyborgs og super intelligente mennesker åbner op for et andet punkt at overveje: Fremtiden vil se en meget rigere mangfoldighed af intelligenser, end vi nogensinde har set i menneskets eller endda Jordens historie.

Tænk over det, inden udgangen af dette århundrede taler vi om en fremtidig verden fyldt med:

Insekts intelligenser
Dyrenes intelligenser
Menneskelige intelligenser
Cybernetisk forbedrede menneskelige intelligenser
Kunstig generel intelligens (AGI'er)
Kunstig superintelligens (ASI'er)
Menneskelige super intelligenser
Cybernetisk forbedrede menneskelige superintelligenser
Virtuelle menneske-AI hybrid sind
Et par flere mellemkategorier, som vi opfordrer læserne til at brainstorme og dele i kommentarfeltet.

Med andre ord er vores verden allerede hjemsted for en mangfoldig række af arter, hver med deres egne unikke typer af intelligenser, men fremtiden vil se en endnu større mangfoldighed af intelligenser, denne gang udvider den højere ende af den kognitive stige. Så ligesom nutidens generation lærer at dele vores verden med de insekter og dyr, der bidrager til vores økosystem, bliver fremtidige generationer nødt til at lære at kommunikere og samarbejde med en bred mangfoldighed af intelligenser, som vi næsten ikke kan forestille os i dag.

Selvfølgelig fortæller historien os, at 'deling' aldrig har været en stærk dragt for mennesker. Hundredvis til tusindvis af arter er uddøde på grund af menneskelig ekspansion, bare er hundredvis af mindre avancerede civilisationer forsvundet under erobringen af ekspanderende imperier.

Disse tragedier skyldes det menneskelige behov for ressourcer (mad, vand, råvarer osv.) og til dels frygten og mistilliden mellem fremmede civilisationer eller folk. Med andre ord skyldes fortidens og nutidens tragedier grunde lige så gamle som civilisationen selv, og de vil kun forværres med indførelsen af alle disse nye klasser af intelligenser.

Kulturelle virkninger af en verden fyldt med forskellige intelligenser

Forundring og frygt er de to følelser, der bedst opsummerer de modstridende følelser, folk vil opleve, når alle disse nye typer intelligens kommer ind i verden.

'Forundret' over den menneskelige opfindsomhed, der blev brugt til at skabe alle disse nye menneskelige og AI-intelligenser, og de muligheder, de måtte skabe. Og så 'frygte' for den manglende forståelse og fortrolighed nuværende generationer af mennesker vil have med fremtidige generationer af disse 'forstærkede' væsener.

Så ligesom dyrenes verden er helt uden for det gennemsnitlige insekts forståelse, og menneskers verden er helt udenfor det gennemsnitlige dyrs forståelse, vil verden af AI'er og endda superintelligente mennesker være langt uden for rækkevidden af hvad nutidens det gennemsnitlige menneske vil være i stand til at forstå.

Og selvom fremtidige generationer vil være i stand til at kommunikere med disse nye højere intelligenser, er det ikke sådan, at vi vil have en hel masse til fælles. I kapitlerne, der introducerede AGI'er og ASI'er, forklarede vi, hvorfor det ville være en fejl at prøve at tænke på AI-intelligens som menneskelig intelligens.

Kort sagt, de instinktive følelser, der driver menneskelig tankegang, er den evolutionære biologiske arv fra flere årtusinder af menneskelige generationer, som aktivt søgte efter ressourcer, parringspartnere, sociale bånd, overlevelse osv. Fremtidig AI vil ikke have noget af den evolutionære bagage. I stedet vil disse digitale intelligenser have mål, tænkemåder, værdisystemer, der er helt unikke for dem selv.

Ligeledes, ligesom moderne mennesker har lært at undertrykke aspekter af deres naturlige menneskelige ønsker takket være vores intellekt (f.eks. begrænser vi vores seksuelle partnere, når de er i forpligtede forhold; vi risikerer vores liv for fremmede på grund af imaginære begreber om ære og dyd osv.) , kan fremtidige supermennesker fuldstændigt overvinde disse oprindelige instinkter. Hvis dette er muligt, så har vi virkelig at gøre med rumvæsener, ikke kun en ny klasse af mennesker.

Vil der være fred mellem de fremtidige superløb og os andre?

Fred kommer fra tillid og tillid kommer fra fortrolighed og fælles mål. Vi kan tage fortroligheden af bordet, da vi allerede har diskuteret, hvordan ikke-forstærkede mennesker med kognitivt ikke har meget til fælles med disse superintellekter.

I et scenarie vil denne intelligenseksplosion repræsentere fremkomsten af en helt ny form for ulighed, en der skaber intelligensbaserede sociale klasser, som vil være næsten umulige for dem fra de lavere klasser at rejse sig fra. Og ligesom den voksende økonomiske kløft mellem rig og fattig i dag forårsager uroligheder, kan kløften mellem de forskellige klasser/populationer af efterretninger generere nok frygt og vrede, som så kan koge ind i forskellige former for forfølgelse eller omfattende krig. For de andre tegneserielæsere derude, kan dette minde dig om den klassiske forfølgelseshistorie fra Marvels X-men-franchise.

Det alternative scenarie er, at disse fremtidige superintellekter bare vil finde ud af måder at følelsesmæssigt manipulere de simplere masser til at acceptere dem i deres samfund – eller i det mindste til et punkt, der undgår al vold.

Så hvilket scenarie vil vinde?

Efter al sandsynlighed vil vi se noget udspille sig i midten. Ved begyndelsen af denne efterretningsrevolution vil vi se det sædvanlige 'technopanic,' som specialist i teknologilov og politik, Adam Thierer, beskriver som følger det sædvanlige sociale mønster:

Generationsforskelle, der fører til frygt for det nye, især dem, der forstyrrer sociale skikke eller eliminerer arbejdspladser (læs om AIs indflydelse i vores Fremtid for arbejde serie);
"Hypernostalgi" for de gode gamle dage, der i virkeligheden aldrig var så gode;
Incitamentet for journalister og eksperter til at frygte om ny teknologi og trends i bytte for klik, visninger og annoncesalg;
Særlige interesser, der albuer hinanden for statslige penge eller handling, afhængigt af hvordan deres gruppe påvirkes af denne nye teknologi;
Elitiske holdninger fra akademiske og kulturkritikere, der er bange for nye teknologier, som massepublikummet vedtager;
Mennesker, der projicerer gårsdagens og nutidens moralske og kulturelle debatter over på morgendagens nye teknologier.

Men som ethvert nyt fremskridt, vil folk vænne sig til det. Endnu vigtigere, mens to arter måske ikke tænker ens, kan fred findes gennem gensidigt fælles interesser eller mål.

For eksempel kan disse nye AI skabe nye teknologier og systemer til at forbedre vores liv. Og til gengæld vil finansiering og statsstøtte fortsætte med at fremme AI's interesser generelt, især takket være den aktive konkurrence mellem kinesiske og amerikanske AI-programmer.

Ligeledes, når det kommer til at skabe supermennesker, vil religiøse fraktioner i mange lande modstå tendensen til genetisk at manipulere med deres spædbørn. Praktisk og national interesse vil dog gradvist nedbryde denne barriere. For førstnævnte vil forældre blive fristet til at bruge genetisk redigeringsteknologi for at sikre, at deres børn bliver født sygdomsfri og defekter, men det oprindelige mål er en glidebane mod mere invasiv genetisk forbedring. Ligeledes, hvis Kina begynder at genetisk forbedre hele generationer af deres befolkning, vil USA have et strategisk krav om at følge trop eller risikere at sakke permanent bagud to årtier senere – og det vil resten af verden også.

Så intenst som hele dette kapitel lyder, skal vi huske, at det hele vil være en gradvis proces. Det vil gøre vores verden meget anderledes og meget mærkelig. Men vi vil vænne os til det, og det bliver vores fremtid.