Quantumrun

BEELDKREDIET: Quantumrun

Sal mense vreedsaam lewe in 'n toekoms wat deur kunsmatige intelligensies oorheers word? - Toekoms van kunsmatige intelligensie P6

David Tal, uitgewer, toekomskundige
@DavidTalWrites
LinkedIn

Di, 09 / 15 / 2020 - 13: 10

Wanneer dit by menslikheid kom, kom ons sê net ons het nie die beste rekord wanneer dit kom by saamwoon met 'die ander' nie. Of dit nou die volksmoord op die Jode in Duitsland of die Tutsi's in Rwanda is, die verslawing van Afrikane deur Westerse nasies of die Suidoos-Asiatiese ingekontrakteerde slawe nou werk in Midde-Ooste Golf nasies, of selfs die huidige vervolging ervaar deur Meksikane in die VSA of Siriese vlugtelinge in uitgesoekte EU-lande. In totaal kan ons instinktuele vrees vir diegene wat ons as anders as ons beskou, daartoe lei dat ons aksies neem wat diegene wat ons vrees óf beheer óf (in uiterste gevalle) vernietig.

Kan ons iets anders verwag wanneer kunsmatige intelligensie werklik mensagtig word?

Sal ons in 'n toekoms leef waar ons saam met onafhanklike KI-robotwesens bestaan, soos gesien in die Star Wars-sage, of sal ons eerder KI-wesens vervolg en verslaaf soos uitgebeeld in die Bladerunner-franchise? (As jy nog nie een van hierdie popkultuur stapelvoedsel gesien het nie, waarvoor wag jy?)

Dit is die vrae wat hierdie slothoofstuk van die Toekoms van kunsmatige intelligensie reeks hoop om te antwoord. Dit maak saak, want as die voorspellings wat deur vooraanstaande KI-navorsers gemaak is korrek is, sal ons mense teen die middel van die eeu ons wêreld met 'n oorvloed diverse KI-wesens deel - daarom moet ons beter 'n manier vind om vreedsaam langs hulle te lewe.

Kan mense ooit met kunsmatige intelligensies meeding?

Glo dit of nie, ons kan.

Die gemiddelde mens (in 2018) is reeds beter as selfs die mees gevorderde KI. Soos uiteengesit in ons openingshoofstuk, vandag se kunsmatige nou intelligensies (ANI's) is geweldig beter as mense by die spesifieke take waarvoor hulle ontwerp is, maar hopeloos wanneer hulle gevra word om 'n taak buite daardie ontwerp aan te pak. Mense, aan die ander kant, saam met die meeste ander diere op die planeet, blink uit in ons aanpasbaarheid om doelwitte oor 'n wye verskeidenheid omgewings na te streef—'n definisie van intelligensie wat deur rekenaarwetenskaplikes Marcus Hutter en Shane Legg voorgestaan word.

Hierdie eienskap van universele aanpasbaarheid lyk nie na 'n groot probleem nie, maar dit vereis die vermoë om 'n struikelblok tot 'n doelwit te assesseer, 'n eksperiment te beplan om daardie struikelblok te oorkom, 'n aksie te neem om die eksperiment uit te voer, uit die resultate te leer, en dan voort te gaan om die doel na te streef. Alle lewe op die planeet voer hierdie aanpasbaarheidslus instinktief duisende tot miljoene kere elke dag uit, en totdat KI kan leer om dieselfde te doen, sal hulle lewelose werkgereedskap bly.

Maar ek weet wat jy dink: Hierdie hele reeks oor die toekoms van kunsmatige intelligensie-voorspellings wat genoeg tyd gegee het, KI-entiteite uiteindelik net so slim soos mense sal word, en kort daarna baie slimmer as mense.

Hierdie hoofstuk sal nie daardie moontlikheid betwis nie.

Maar die strik waarin baie kommentators trap, is om te dink dat omdat evolusie miljoene jare geneem het om biologiese breine te produseer, dit hopeloos oortref sal word sodra KI's 'n punt bereik waar hulle hul eie hardeware en sagteware kan verbeter in siklusse so kort soos jare, maande , miskien selfs dae.

Gelukkig het evolusie nog 'n geveg oor, deels te danke aan onlangse vooruitgang in genetiese ingenieurswese.

Eerste gedek in ons reeks oor die toekoms van menslike evolusie, het genetici geïdentifiseer 69 aparte gene wat intelligensie beïnvloed, maar saam beïnvloed hulle IK net met minder as agt persent. Dit beteken dat daar honderde, of duisende, gene kan wees wat intelligensie beïnvloed, en ons sal hulle nie net almal moet ontdek nie, maar ook moet leer hoe om almal voorspelbaar saam te manipuleer voordat ons dit selfs kan oorweeg om met 'n fetus te peuter. DNA.

Maar teen die middel 2040's sal die veld van genomika volwasse word tot 'n punt waar 'n fetus se genoom deeglik gekarteer kan word, en wysigings aan sy DNA kan rekenaarsimuleer word om akkuraat te voorspel hoe veranderinge aan sy genoom sy toekomstige fisiese, emosionele , en die belangrikste vir hierdie bespreking, sy intelligensie-eienskappe.

Met ander woorde, teen die middel van die eeu, ongeveer wanneer die meeste KI-navorsers glo dat KI menslike vlak intelligensie sal bereik en moontlik sal oortref, sal ons die vermoë verkry om hele generasies menslike babas geneties te verander om aansienlik slimmer te wees as die generasies wat voorafgegaan het. hulle.

Ons is op pad na 'n toekoms waar super intelligente mense saam met superintelligente KI sal leef.

Impak van 'n wêreld gevul met super intelligente mense

So, hoe slim praat ons hier? Vir konteks het die IK's van Albert Einstein en Stephen Hawking ongeveer 160 behaal. Sodra ons die geheime ontsluit agter die genomiese merkers wat intelligensie beheer, kan ons moontlik mense sien gebore met IK's wat 1,000 XNUMX oorskry.

Dit maak saak omdat geeste soos Einstein en Hawking gehelp het om die wetenskaplike deurbrake te laat ontstaan wat nou die grondslag van ons moderne wêreld lê. Byvoorbeeld, net 'n klein fraksie van die wêreld se bevolking verstaan enigiets van fisika, maar 'n beduidende persentasie van die wêreld se BBP is afhanklik van die bevindinge daarvan—tegnologieë soos die slimfoon, moderne telekommunikasiestelsel (Internet), en die GPS kan nie sonder kwantummeganika bestaan nie .

Gegewe hierdie impak, watter soort vooruitgang kan die mensdom ervaar as ons geboorte gee aan 'n hele generasie genieë? Honderde miljoene van Einstein s'n?

Die antwoord is onmoontlik om te raai aangesien die wêreld nog nooit so 'n konsentrasie van supergenieë gesien het nie.

Hoe sal hierdie mense selfs wees?

Vir 'n voorsmakie, oorweeg net die geval van die slimste aangetekende mens, William James Sidis (1898-1944), wat 'n IK van ongeveer 250 gehad het. Hy kon lees teen die ouderdom van twee. Hy het op sesjarige ouderdom agt tale gepraat. Hy is teen 11 by Harvard Universiteit toegelaat. En Sidis is net 'n kwart so slim as wat 'n bioloog teoretiseer dat mense eendag met genetiese redigering kan word.

(Kantnota: ons praat hier net van intelligensie, ons raak nie eers aan genetiese redigering wat ons fisies bomenslik kan maak nie. Lees meer hier.)

Trouens, dit is baie moontlik dat mense en KI saam kan ontwikkel deur 'n soort positiewe terugvoerlus te skep, waar gevorderde KI genetici help om die menslike genoom te bemeester om al hoe slimmer mense te skep, mense wat dan sal werk om al hoe slimmer KI te skep, en so. aan. So, ja, net soos KI-navorsers voorspel, kan die Aarde heel moontlik 'n intelligensie-ontploffing in die middel van die eeu ervaar, maar op grond van ons bespreking tot dusver, sal mense (nie net KI nie) baat vind by daardie revolusie.

Cyborgs onder ons

'n Regverdige kritiek op hierdie argument oor superintelligente mense is dat selfs al bemeester ons genetiese redigering teen die middel van die eeu, dit nog 20 tot 30 jaar sal neem voordat hierdie nuwe generasie mense volwasse word tot 'n punt waar hulle aansienlike vordering tot ons samelewing en selfs die intellektuele speelveld langs KI uit. Sou hierdie vertraging nie KI's 'n beduidende voorsprong teen die mensdom gee as hulle besluit om 'boos' te maak nie?

Dit is hoekom ons, as 'n brug tussen vandag se mense en môre se supermense, vanaf die 2030's, die begin van 'n nuwe klas mense sal sien: die kuborg, 'n baster van mens en masjien.

(Om regverdig te wees, afhangende van hoe jy cyborgs definieer, bestaan hulle tegnies reeds - spesifiek mense met prostetiese ledemate as gevolg van oorlogswonde, ongelukke of genetiese defekte by geboorte. Maar om gefokus te bly op die konteks van hierdie hoofstuk, ons sal fokus op prostetika wat bedoel is om ons verstand en intelligensie te versterk.)

Eerste bespreek in ons Toekoms van rekenaars reeks, ontwikkel navorsers tans 'n bio-elektroniese veld genaamd Brain-Computer Interface (BCI). Dit behels die gebruik van 'n breinskanderingstoestel of 'n inplantaat om jou breingolwe te monitor, dit in kode om te skakel en dit dan te assosieer met opdragte om enigiets wat deur 'n rekenaar bestuur word, te beheer.

Ons is nog in die vroeë dae, maar deur die gebruik van BCI, is geamputeerdes nou robotte ledemate te toets direk deur hul verstand beheer word, in plaas van deur sensors wat aan hul stomp geheg is. Net so is mense met ernstige gestremdhede (soos mense met quadriplegie) nou BCI gebruik om hul gemotoriseerde rolstoele te stuur en robotarms manipuleer. Maar om geamputeerdes en persone met gestremdhede te help om meer onafhanklike lewens te lei, is nie die omvang waartoe BCI in staat sal wees nie.

Wat in die 2030's soos 'n helm of haarband sal lyk, sal uiteindelik plek maak vir breininplantings (laat-2040's) wat ons gedagtes met die digitale wolk (Internet) sal verbind. Uiteindelik sal hierdie breinprostese as 'n derde hemisfeer vir ons verstand optree - so terwyl ons linker- en regterhemisfere ons kreatiwiteit en logika-vermoëns bestuur, sal hierdie nuwe, wolkgevoede, digitale halfrond byna onmiddellike toegang tot inligting fasiliteer en die kognitiewe eienskappe waar mense dikwels tekort skiet aan hul KI-eweknieë, naamlik spoed, herhaling en akkuraatheid.

En hoewel hierdie breininplantings nie noodwendig ons intelligensie ’n hupstoot sal gee nie, sal hulle ons baie meer bekwaam en onafhanklik maak, net soos ons slimfone vandag doen.

’n Toekoms gevul met uiteenlopende intelligensies

Al hierdie praatjies van KI's, cyborgs en superintelligente mense maak 'n ander punt oop om te oorweeg: Die toekoms sal 'n baie ryker diversiteit van intelligensies sien as wat ons nog ooit in die mens of selfs Aarde se geskiedenis gesien het.

Dink daaroor, voor die einde van hierdie eeu praat ons van 'n toekomstige wêreld gevul met:

Insek intelligensies
Diere intelligensies
Menslike intelligensies
Kuberneties verbeterde menslike intelligensies
Kunsmatige algemene intelligensies (AGI's)
Kunsmatige superintelligensies (Netso)
Menslike super intelligensies
Kuberneties verbeterde menslike superintelligensies
Virtuele mens-KI hibriede gedagtes
Nog 'n paar tussen-in kategorieë wat ons lesers aanmoedig om te dinkskrum en in die kommentaarafdeling te deel.

Met ander woorde, ons wêreld is reeds die tuiste van 'n diverse reeks spesies, elk met hul eie unieke tipes intelligensies, maar die toekoms sal 'n selfs groter diversiteit van intelligensies sien, wat hierdie keer die hoër kant van die kognitiewe leer uitbrei. So net soos vandag se generasie leer om ons wêreld te deel met die insekte en diere wat bydra tot ons ekosisteem, sal toekomstige generasies moet leer hoe om te kommunikeer en saam te werk met 'n wye verskeidenheid van intelligensies wat ons vandag skaars kan voorstel.

Natuurlik, die geskiedenis vertel ons dat 'deel' nog nooit 'n sterk punt vir mense was nie. Honderde tot duisende spesies het uitgesterf as gevolg van menslike uitbreiding, net het honderde minder gevorderde beskawings verdwyn onder die verowering van groeiende ryke.

Hierdie tragedies is te wyte aan die menslike behoefte aan hulpbronne (voedsel, water, grondstowwe, ens.) en deels aan die vrees en wantroue tussen vreemde beskawings of volke. Met ander woorde, die tragedies van die verlede en van die hede is te wyte aan redes so oud soos die beskawing self, en hulle sal net vererger met die bekendstelling van al hierdie nuwe klasse van intelligensies.

Kulturele impak van 'n wêreld gevul met diverse intelligensies

Wonder en vrees is die twee emosies wat die botsende emosies wat mense sal ervaar, die beste sal opsom sodra al hierdie nuwe tipe intelligensies die wêreld betree.

'Wonder' oor die menslike vindingrykheid wat gebruik word om al hierdie nuwe menslike en KI-intelligensies te skep, en die moontlikhede wat dit kan skep. En dan 'vrees' vir die gebrek aan begrip en vertroudheid wat huidige generasies mense met toekomstige geslagte van hierdie 'versterkte' wesens sal hê.

So net soos die wêreld van diere heeltemal buite die begrip van die gemiddelde insek is, en die wêreld van mense heeltemal buite die begrip van die gemiddelde dier is, sal die wêreld van KI's en selfs super intelligente mense ver buite die bestek wees van wat vandag se gemiddelde mens sal kan verstaan.

En al sal toekomstige geslagte met hierdie nuwe hoër intelligensies kan kommunikeer, is dit nie asof ons 'n hele klomp in gemeen sal hê nie. In die hoofstukke wat AGI's en ASI's bekendstel, het ons verduidelik waarom dit 'n fout sou wees om aan KI-intelligensies soos menslike intelligensies te probeer dink.

Kortliks, die instinktuele emosies wat menslike denke dryf, is die evolusionêre biologiese nalatenskap van etlike millennia se menslike generasies wat aktief gesoek het na hulpbronne, paringsvennote, sosiale bande, oorlewing, ens. Toekomstige KI sal niks van daardie evolusionêre bagasie hê nie. In plaas daarvan sal hierdie digitale intelligensies doelwitte, maniere van dink, waardestelsels hê wat heeltemal uniek aan hulself is.

Net so, net soos moderne mense geleer het om aspekte van hul natuurlike menslike begeertes te onderdruk danksy ons intellekte (bv. ons beperk ons seksmaats wanneer in toegewyde verhoudings; ons waag ons lewens vir vreemdelinge as gevolg van denkbeeldige konsepte van eer en deug, ens.) , kan toekomstige supermense hierdie oerinstinkte heeltemal oorkom. As dit moontlik is, dan het ons regtig te doen met vreemdelinge, nie net 'n nuwe klas mense nie.

Sal daar vrede wees tussen die toekomstige superrasse en die res van ons?

Vrede kom uit vertroue en vertroue kom uit vertroudheid en gedeelde doelwitte. Ons kan vertroudheid van die tafel afhaal aangesien ons reeds bespreek het hoe nie-verbeterde mense kognitief min gemeen het met hierdie superintellekte.

In een scenario sal hierdie intelligensie-ontploffing die opkoms van 'n heeltemal nuwe vorm van ongelykheid verteenwoordig, een wat intelligensie-gebaseerde sosiale klasse skep wat byna onmoontlik sal wees vir diegene uit die laer klasse om uit op te staan. En net soos die groeiende ekonomiese gaping tussen ryk en arm vandag onrus veroorsaak, kan die kloof tussen die verskillende klasse/bevolkings van intelligensies genoeg vrees en wrok veroorsaak wat dan kan opkook in verskeie vorme van vervolging of algehele oorlog. Vir die mede-strokiesprentlesers daar buite, kan dit jou herinner aan die klassieke vervolging-agtergrond van Marvel se X-men-franchise.

Die alternatiewe scenario is dat hierdie toekomstige superintellekte net maniere sal uitvind om die eenvoudiger massas emosioneel te manipuleer om hulle in hul samelewing te aanvaar - of ten minste tot 'n punt wat alle geweld vermy.

So, watter scenario sal wen?

Ons sal na alle waarskynlikheid iets in die middel sien afspeel. Aan die begin van hierdie intelligensie-revolusie, sal ons die gewone sien 'tegnopanies,' daardie tegnologiewet- en beleidspesialis, Adam Thierer, beskryf soos die gewone sosiale patroon volg:

Generasieverskille wat lei tot vrees vir die nuwe, veral dié wat sosiale sedes ontwrig of werksgeleenthede uitskakel (lees oor KI se impak in ons Toekoms van die werk reeks);
"Hipernostalgie" vir die goeie ou dae wat in werklikheid nog nooit so goed was nie;
Die aansporing vir verslaggewers en kenners om bang te wees oor nuwe tegnologie en neigings in ruil vir klikke, kyke en advertensieverkope;
Spesiale belange wat mekaar elmboog vir staatsgeld of optrede, afhangende van hoe hul groep deur hierdie nuwe tegnologie geraak word;
Elitistiese houdings van akademiese en kulturele kritici wat bang is vir nuwe tegnologieë wat die massapubliek aanneem;
Mense projekteer die morele en kulturele debatte van gister en vandag op die nuwe tegnologie van môre.

Maar soos enige nuwe vooruitgang, sal mense gewoond raak daaraan. Nog belangriker, hoewel twee spesies dalk nie eenders dink nie, kan vrede gevind word deur middel van wedersydse gedeelde belange of doelwitte.

Hierdie nuwe KI kan byvoorbeeld nuwe tegnologieë en stelsels skep om ons lewens te verbeter. En in ruil daarvoor sal befondsing en regeringsondersteuning voortgaan om die belange van KI oor die algemeen te bevorder, veral danksy die aktiewe mededinging tussen Chinese en Amerikaanse KI-programme.

Net so, wanneer dit by die skep van bomense kom, sal godsdienstige faksies in baie lande die neiging weerstaan om geneties met hul babas te peuter. Prakties en nasionale belang sal egter hierdie hindernis geleidelik afbreek. Vir eersgenoemde sal ouers in die versoeking kom om genetiese redigeringstegnologie te gebruik om te verseker dat hul kinders siekte en defekvry gebore word, maar daardie aanvanklike doelwit is 'n glybaan na meer indringende genetiese verbetering. Net so, as China begin om hele generasies van hul bevolking geneties te verbeter, sal die VSA 'n strategiese noodsaaklikheid hê om dit te volg of die risiko loop om twee dekades later permanent agter te raak - en so sal die res van die wêreld.

So intens soos hierdie hele hoofstuk lees, moet ons onthou dat dit alles 'n geleidelike proses sal wees. Dit sal ons wêreld baie anders en baie vreemd maak. Maar ons sal gewoond raak daaraan, en dit sal ons toekoms word.