Quantumrun

BILDKREDIT: Quantumrun

Kommer människor att leva fredligt i en framtid som domineras av artificiell intelligens? - Framtiden för artificiell intelligens P6

David Tal, Förläggare, Futurist
@DavidTalWrites
LinkedIn

Tis, 09 / 15 / 2020 - 13: 10

När det kommer till mänskligheten, låt oss bara säga att vi inte har den bästa meritlistan när det gäller att sambo med "den andre". Oavsett om det är folkmordet på judarna i Tyskland eller tutsierna i Rwanda, förslavandet av afrikaner av västerländska nationer eller de sydostasiatiska kontrakterade slavarna nu arbetar i Mellanöstern viken-nationer, eller till och med den nuvarande förföljelsen av mexikaner i USA eller syriska flyktingar i utvalda EU-länder. Sammantaget kan vår instinktuella rädsla för dem vi uppfattar som annorlunda än oss leda till att vi vidtar åtgärder som antingen kontrollerar eller (i extrema fall) förstör dem vi fruktar.

Kan vi förvänta oss något annorlunda när artificiell intelligens blir riktigt människoliknande?

Kommer vi att leva i en framtid där vi samexisterar med oberoende AI-robotvarelser, som vi ser i Star Wars-sagan, eller kommer vi istället att förfölja och förslava AI-varelser som avbildas i Bladerunner-serien? (Om du inte har sett någon av dessa popkulturhäftklamrar, vad väntar du på?)

Dessa är frågorna detta avslutande kapitel av Framtid för konstgjord intelligens serie hoppas kunna svara. Det är viktigt för om prognoserna som gjorts av ledande AI-forskare är korrekta, kommer vi människor i mitten av seklet att dela vår värld med ett överflöd av olika AI-varelser – så det är bättre att hitta ett sätt att leva fredligt tillsammans med dem.

Kan människor någonsin konkurrera med artificiell intelligens?

Tro det eller ej, vi kan.

Den genomsnittliga människan (2018) är redan överlägsen även den mest avancerade AI. Som beskrivs i vår inledande kapitel, dagens artificiella smala intelligenser (ANI) är oerhört bättre än människor på specifik uppgifter de var designade för, men hopplösa när de ombads ta på sig en uppgift utanför den designen. Människor, å andra sidan, tillsammans med de flesta andra djur på planeten, utmärker sig i vår anpassningsförmåga att sträva efter mål i ett brett spektrum av miljöer – en definition av intelligens som förespråkas av datavetarna Marcus Hutter och Shane Legg.

Denna egenskap av universell anpassningsförmåga verkar inte vara en stor sak, men det kräver förmågan att bedöma ett hinder för ett mål, planera ett experiment för att övervinna det hindret, vidta en åtgärd för att utföra experimentet, lära av resultaten och sedan fortsätta att sträva efter målet. Allt liv på planeten utför instinktivt denna anpassningsslinga tusentals till miljontals gånger varje dag, och tills AI kan lära sig att göra detsamma kommer de att förbli livlösa arbetsredskap.

Men jag vet vad du tänker: hela den här serien om framtiden för prognoser för artificiell intelligens som ger tillräckligt med tid kommer AI-enheter så småningom att bli lika smarta som människor, och kort efter det, mycket smartare än människor.

Det här kapitlet kommer inte att ifrågasätta den möjligheten.

Men fällan som många kommentatorer faller i är att tro att eftersom evolutionen tog miljontals år att producera biologiska hjärnor, kommer den att bli hopplöst överträffad när AI:er når en punkt där de kan förbättra sin egen hårdvara och mjukvara i cykler så korta som år, månader , kanske till och med dagar.

Tack och lov har evolutionen en del kamp kvar i sig, delvis tack vare de senaste framstegen inom genteknik.

Först behandlas i vår serie om mänsklig evolutions framtid, har genetiker identifierat 69 separata gener som påverkar intelligensen, men tillsammans påverkar de bara IQ med mindre än åtta procent. Det betyder att det kan finnas hundratals eller tusentals gener som påverkar intelligensen, och vi måste inte bara upptäcka dem alla, utan också lära oss hur vi förutsägbart manipulerar dem alla tillsammans innan vi ens kan överväga att manipulera ett foster. DNA.

Men i mitten av 2040-talet kommer genomikområdet att mogna till en punkt där ett fosters genom kan kartläggas grundligt, och redigeringar av dess DNA kan datorsimuleras för att exakt förutsäga hur förändringar i dess genom kommer att påverka dess framtida fysiska, känslomässiga , och viktigast för denna diskussion, dess intelligensattribut.

Med andra ord, vid mitten av århundradet, när de flesta AI-forskare tror att AI kommer att nå och möjligen överträffa intelligens på mänsklig nivå, kommer vi att få förmågan att genetiskt modifiera hela generationer av mänskliga spädbarn för att vara betydligt smartare än de generationer som föregick dem.

Vi är på väg mot en framtid där superintelligenta människor kommer att leva tillsammans med superintelligent AI.

Effekten av en värld fylld av superintelligenta människor

Så, hur smarta pratar vi om här? För sammanhanget fick Albert Einsteins och Stephen Hawkings IQ-värden runt 160. När vi väl har låst upp hemligheterna bakom de genomiska markörerna som kontrollerar intelligens, kan vi potentiellt se människor födas med IQ som överstiger 1,000 XNUMX.

Detta är viktigt eftersom sinnen som Einstein och Hawking hjälpte till att sätta igång de vetenskapliga genombrotten som nu kantar grunden för vår moderna värld. Till exempel är det bara en liten bråkdel av världens befolkning som förstår någonting om fysik, men en betydande procent av världens BNP är beroende av dess resultat – teknologier som smarttelefonen, modernt telekommunikationssystem (Internet) och GPS kan inte existera utan kvantmekanik .

Med tanke på denna påverkan, vilken typ av framsteg skulle mänskligheten kunna uppleva om vi födde en hel generation genier? Hundra miljoner av Einsteins?

Svaret är omöjligt att gissa eftersom världen aldrig har sett en sådan koncentration av supergenier.

Hur kommer dessa människor ens att vara?

För ett smakprov, överväg bara fallet med den smartaste registrerade människan, William James Sidis (1898-1944), som hade ett IQ på cirka 250. Han kunde läsa vid två års ålder. Han talade åtta språk vid sex års ålder. Han antogs till Harvard University vid 11. Och Sidis är bara en fjärdedel så smart som vad biologer teoretiserar människor en dag kan bli med genetisk redigering.

(Sidoanteckning: vi pratar bara om intelligens här, vi rör inte ens genetisk redigering som kan göra oss fysiskt övermänskliga. Läs mer här.)

Faktum är att det är mycket möjligt att människor och AI kan utvecklas samtidigt genom att skapa en slags positiv feedback-loop, där avancerad AI hjälper genetiker att bemästra det mänskliga genomet för att skapa allt smartare människor, människor som sedan kommer att arbeta för att skapa allt smartare AI, och så på. Så, ja, precis som AI-forskare förutspår, skulle jorden mycket väl kunna uppleva en intelligensexplosion i mitten av seklet, men baserat på vår diskussion hittills kommer människor (inte bara AI) att dra nytta av den revolutionen.

Cyborgs bland oss

En rättvis kritik mot detta argument om superintelligenta människor är att även om vi behärskar genetisk redigering i mitten av seklet, skulle det ta ytterligare 20 till 30 år innan denna nya generation av människor mognar till en punkt där de kan bidra med betydande framsteg till vår samhället och jämna ut den intellektuella spelplanen vid sidan av AI. Skulle inte denna fördröjning ge AI:er ett betydande försprång mot mänskligheten om de bestämde sig för att göra "onda"?

Det är därför vi, som en bro mellan dagens människor och morgondagens övermänniskor, från och med 2030-talet, kommer att se början på en ny klass av människor: cyborgen, en hybrid av människa och maskin.

(För att vara rättvis, beroende på hur du definierar cyborgs, så existerar de tekniskt sett redan – närmare bestämt människor med proteser som ett resultat av krigssår, olyckor eller genetiska defekter vid födseln. Men för att fortsätta fokusera på sammanhanget i detta kapitel, vi kommer att fokusera på proteser som är avsedda att förstärka våra sinnen och intelligens.)

Först diskuterades i vår Datorernas framtid serie utvecklar forskare för närvarande ett bioelektronikfält som kallas Brain-Computer Interface (BCI). Det innebär att du använder en hjärnskanningsenhet eller ett implantat för att övervaka dina hjärnvågor, konvertera dem till kod och sedan associera dem med kommandon för att styra allt som körs av en dator.

Vi är fortfarande i början, men genom att använda BCI är amputerade nu testa robotiska lemmar kontrolleras direkt av deras sinnen, istället för genom sensorer fästa på deras stubbe. Likaså personer med allvarliga funktionshinder (som personer med quadriplegi) är nu använder BCI för att styra sina motoriserade rullstolar och manipulera robotarmar. Men att hjälpa amputerade och personer med funktionsnedsättning att leva mer självständiga liv är inte omfattningen av vad BCI kommer att kunna.

Det som på 2030-talet kommer att se ut som en hjälm eller hårband kommer så småningom att ge vika för hjärnimplantat (sent 2040-tal) som kommer att koppla våra sinnen till det digitala molnet (Internet). Så småningom kommer denna hjärnprotes att fungera som en tredje hjärnhalva för våra sinnen – så medan vår vänstra och högra hjärnhalva hanterar vår kreativitet och logiska förmågor, kommer denna nya, molnmatade, digitala hemisfär att underlätta nästan omedelbar tillgång till information och förbättra det kognitiva attribut där människor ofta saknar sina AI-motsvarigheter, nämligen hastighet, upprepning och noggrannhet.

Och även om dessa hjärnimplantat inte nödvändigtvis kommer att öka vår intelligens, kommer de att göra oss mycket mer kapabla och oberoende, precis som våra smartphones gör idag.

En framtid fylld av olika intelligenser

Allt detta tal om AI: er, cyborgs och superintelligenta människor öppnar upp för en annan punkt att överväga: Framtiden kommer att se en mycket rikare mångfald av intelligenser än vi någonsin har sett i människans eller till och med jordens historia.

Tänk på det, före slutet av detta århundrade talar vi om en framtida värld fylld av:

Insekts intelligenser
Djurens intelligenser
Mänskliga intelligenser
Cybernetiskt förbättrade mänskliga intelligenser
Artificiella allmänna intelligenser (AGI)
Artificiell superintelligens (I befintligt skick)
Mänskliga superintelligenser
Cybernetiskt förbättrade mänskliga superintelligenser
Virtuella mänskliga-AI-hybridhjärnor
Några fler mellankategorier som vi uppmuntrar läsarna att brainstorma och dela i kommentarsavsnittet.

Med andra ord, vår värld är redan hem för en mångfald av arter, var och en med sina egna unika typer av intelligenser, men framtiden kommer att se en ännu större mångfald av intelligenser, denna gång utöka den högre delen av den kognitiva stegen. Så precis som dagens generation lär sig att dela vår värld med de insekter och djur som bidrar till vårt ekosystem, kommer framtida generationer att behöva lära sig hur man kommunicerar och samarbetar med en bred mångfald av intelligenser som vi knappt kan föreställa oss idag.

Naturligtvis säger historien att "delning" aldrig har varit en stark färg för människor. Hundra till tusen arter har dött ut på grund av mänsklig expansion, bara har hundratals mindre avancerade civilisationer försvunnit under erövringen av expanderande imperier.

Dessa tragedier beror på det mänskliga behovet av resurser (mat, vatten, råvaror, etc.) och delvis på rädslan och misstroendet mellan främmande civilisationer eller folk. Med andra ord, tragedierna i det förflutna och nuet beror på skäl lika gamla som civilisationen själv, och de kommer bara att förvärras med införandet av alla dessa nya klasser av intelligenser.

Kulturella effekter av en värld fylld av olika intelligenser

Förundran och skräck är de två känslor som bäst skulle sammanfatta de motstridiga känslor som människor kommer att uppleva när alla dessa nya typer av intelligenser kommer in i världen.

"Förundran" över den mänskliga uppfinningsrikedom som användes för att skapa alla dessa nya mänskliga och AI-intelligenser, och de möjligheter de kan skapa. Och sedan "frukta" för bristen på förståelse och förtrogenhet nuvarande generationer av människor kommer att ha med framtida generationer av dessa "förbättrade" varelser.

Så precis som djurvärlden är helt bortom den genomsnittliga insektens förståelse, och människors värld är helt bortom begripligheten för det genomsnittliga djuret, kommer världen av AIs och till och med superintelligenta människor att vara långt bortom räckvidden för vad dagens den genomsnittliga människan kommer att kunna förstå.

Och även om framtida generationer kommer att kunna kommunicera med dessa nya högre intelligenser, är det inte så att vi kommer att ha en hel del gemensamt. I kapitlen som introducerade AGI:er och ASI:er förklarade vi varför det skulle vara ett misstag att försöka tänka på AI-intelligens som mänsklig intelligens.

Kortfattat, de instinktuella känslorna som driver mänskligt tänkande är det evolutionära biologiska arvet från flera årtusenden av mänskliga generationer som aktivt letade efter resurser, parningspartners, sociala band, överlevnad, etc. Framtida AI kommer inte att ha något av det evolutionära bagaget. Istället kommer dessa digitala intelligenser att ha mål, sätt att tänka, värdesystem helt unika för dem själva.

Likaså, precis som moderna människor har lärt sig att undertrycka aspekter av sina naturliga mänskliga begär tack vare våra intellekt (t.ex. vi begränsar våra sexuella partners när de är i engagerade relationer; vi riskerar våra liv för främlingar på grund av imaginära begrepp om heder och dygd, etc.) , framtida övermänniskor kan övervinna dessa primala instinkter helt och hållet. Om detta är möjligt så har vi verkligen att göra med utomjordingar, inte bara en ny klass av människor.

Kommer det att bli fred mellan de framtida superloppen och oss andra?

Fred kommer från tillit och tillit kommer från förtrogenhet och gemensamma mål. Vi kan ta förtrogenhet från bordet eftersom vi redan diskuterat hur icke-förstärkta människor med har lite gemensamt, kognitivt, med dessa superintellekt.

I ett scenario kommer denna intelligensexplosion att representera uppkomsten av en helt ny form av ojämlikhet, en som skapar intelligensbaserade sociala klasser som kommer att vara nästan omöjliga för dem från de lägre klasserna att resa sig ur. Och precis som den ökande ekonomiska klyftan mellan de rika och fattiga orsakar oro idag, kan klyftan mellan de olika klasserna/populationerna av intelligens generera tillräckligt med rädsla och förbittring som sedan kan koka in i olika former av förföljelse eller fullständigt krig. För de andra serieläsarna där ute, kan detta påminna dig om den klassiska förföljelsehistorien från Marvels X-men-serie.

Det alternativa scenariot är att dessa framtida superintellekt bara kommer att komma på sätt att känslomässigt manipulera de enklare massorna till att acceptera dem i deras samhälle – eller åtminstone till en punkt som undviker allt våld.

Så vilket scenario kommer att vinna?

Med all sannolikhet kommer vi att se något spela ut i mitten. I början av denna intelligensrevolution kommer vi att se det vanliga 'technopanic,' som specialist på teknologilag och policy, Adam Thierer, beskriver som att följa det vanliga sociala mönstret:

Generationsskillnader som leder till rädsla för det nya, särskilt de som stör sociala seder eller eliminerar jobb (läs om AIs inverkan i vår Framtid för arbetet serier);
"Hypernostalgi" för den gamla goda tiden som i verkligheten aldrig var så bra;
Incitamentet för reportrar och förståsigpåare att rädsla om ny teknik och trender i utbyte mot klick, visningar och annonsförsäljning;
Specialintressen som armbågar varandra för statliga pengar eller åtgärder beroende på hur deras grupp påverkas av denna nya teknik;
Elitiska attityder från akademiska och kulturella kritiker som är rädda för ny teknik som masspubliken antar;
Människor som projicerar gårdagens och dagens moraliska och kulturella debatter på morgondagens nya teknologier.

Men som alla nya framsteg kommer folk att vänja sig vid det. Viktigare, även om två arter kanske inte tänker likadant, kan fred hittas genom ömsesidigt delade intressen eller mål.

Till exempel kan dessa nya AI skapa nya tekniker och system för att förbättra våra liv. Och i gengäld kommer finansiering och statligt stöd att fortsätta att främja AI:s intressen överlag, särskilt tack vare den aktiva konkurrensen mellan kinesiska och amerikanska AI-program.

På samma sätt, när det gäller att skapa övermänniskor, kommer religiösa fraktioner i många länder att motstå trenden att genetiskt manipulera sina spädbarn. Praktiskt och nationellt intresse kommer dock gradvis att bryta ned denna barriär. För de förstnämnda kommer föräldrar att frestas att använda genetisk redigeringsteknik för att säkerställa att deras barn föds sjukdomar och defekter, men det initiala målet är en hal backe mot mer invasiv genetisk förbättring. På samma sätt, om Kina börjar genetiskt förbättra hela generationer av sin befolkning, kommer USA att ha ett strategiskt krav att följa efter eller riskera att hamna på efterkälken permanent två decennier senare – och det kommer resten av världen också att göra.

Så intensivt som hela det här kapitlet lyder, måste vi komma ihåg att allt detta kommer att vara en gradvis process. Det kommer att göra vår värld väldigt annorlunda och väldigt konstig. Men vi kommer att vänja oss vid det, och det kommer att bli vår framtid.