Quantumrun

BEELDKREDIET: Quantumrun

Hoe die eerste kunsmatige algemene intelligensie die samelewing sal verander: toekoms van kunsmatige intelligensie P2

David Tal, uitgewer, toekomskundige
@DavidTalWrites
LinkedIn

Di, 09 / 15 / 2020 - 13: 08

Ons het piramides gebou. Ons het geleer om elektrisiteit in te span. Ons verstaan hoe ons heelal gevorm het na die Oerknal (meestal). En natuurlik, die cliché-voorbeeld, ons het 'n man op die maan gesit. Tog, ten spyte van al hierdie prestasies, bly die menslike brein ver buite die begrip van moderne wetenskap en is dit by verstek die mees komplekse voorwerp in die bekende heelal – of ten minste ons begrip daarvan.

Gegewe hierdie realiteit, behoort dit nie heeltemal skokkend te wees dat ons nog nie 'n kunsmatige intelligensie (KI) op gelyke voet met mense gebou het nie. ’n KI soos Data (Star Trek), Rachael (Blade Runner) en David (Prometheus), of nie-menslike KI soos Samantha (Haar) en TARS (Interstellar), dit is almal voorbeelde van die volgende groot mylpaal in KI-ontwikkeling: kunsmatige algemene intelligensie (AGI, soms ook na verwys as HLMI of Human Level Machine Intelligence).

Met ander woorde, die uitdaging wat KI-navorsers in die gesig staar, is: Hoe kan ons 'n kunsmatige verstand bou wat vergelykbaar is met ons eie as ons nie eers 'n volle begrip het van hoe ons eie verstand werk nie?

Ons sal hierdie vraag ondersoek, tesame met hoe mense teen toekomstige AGI's sal optree, en laastens, hoe die samelewing sal verander die dag nadat die eerste AGI aan die wêreld aangekondig is.

Wat is 'n kunsmatige algemene intelligensie?

Ontwerp 'n KI wat die top-gegradeerde spelers in Skaak, Jeopardy en Go kan klop, maklik (Diep Blou, Watson, en AlphaGO onderskeidelik). Ontwerp 'n KI wat jou antwoorde op enige vraag kan dien, items voorstel wat jy dalk wil koop, of bestuur 'n vloot saamry-taxi's - hele multi-miljard dollar-maatskappye is rondom hulle gebou (Google, Amazon, Uber). Selfs 'n KI wat jou van die een kant van die land na die ander kan ry ... wel, ons werk daaraan.

Maar vra 'n KI om 'n kinderboek te lees en die inhoud, betekenis of sedes wat dit probeer leer verstaan, of vra 'n KI om die verskil tussen 'n foto van 'n kat en 'n sebra te vertel, en jy sal uiteindelik meer as 'n paar veroorsaak. kortsluitings.

Die natuur het miljoene jare daaraan bestee om 'n rekenaartoestel (breine) te ontwikkel wat uitblink in die verwerking, verstaan, leer en dan op te tree op nuwe situasies en binne nuwe omgewings. Vergelyk dit met die laaste halfeeu van rekenaarwetenskap wat gefokus het op die skep van rekenaartoestelle wat aangepas is vir die enkelvoudige take waarvoor hulle ontwerp is.

Met ander woorde, die mens-rekenaar is 'n generalis, terwyl die kunsmatige rekenaar 'n spesialis is.

Die doel van die skep van 'n AGI is om 'n KI te skep wat meer soos 'n mens kan dink en leer, deur ervaring eerder as deur direkte programmering.

In die regte wêreld sou dit beteken dat 'n toekomstige AGI leer hoe om te lees, skryf en 'n grappie vertel, of grootliks op sy eie te loop, hardloop en fietsry, deur middel van sy eie ervaring in die wêreld (met enige liggaam of sensoriese organe/toestelle wat ons dit gee), en deur sy eie interaksie ander KI en ander mense.

Wat dit sal neem om 'n kunsmatige algemene intelligensie te bou

Alhoewel dit tegnies moeilik is, moet dit moontlik wees om 'n AGI te skep. Om die waarheid te sê, daar is 'n diepliggende eienskap binne die wette van fisika - die universaliteit van berekening - wat basies sê dat alles wat 'n fisiese voorwerp kan doen, 'n voldoende kragtige, algemene doel rekenaar in beginsel moet kan kopieer/simuleer.

En tog is dit moeilik.

Gelukkig is daar baie slim KI-navorsers oor die saak (om nie te praat van baie korporatiewe, regerings- en militêre befondsing wat hulle ondersteun nie), en tot dusver het hulle drie sleutelbestanddele geïdentifiseer wat hulle voel nodig is om op te los om 'n AGI in ons wêreld.

Big data. Die mees algemene benadering tot KI-ontwikkeling behels 'n tegniek wat diep leer genoem word - 'n spesifieke tipe masjienleerstelsel wat werk deur reusehoeveelhede data op te slurp, genoemde data in 'n netwerk van gesimuleerde neurone (gemodelleer na die menslike brein) te verklein, en dan gebruik die bevindinge om sy eie insigte te programmeer. Vir meer besonderhede oor diep leer, lees hierdie.

Byvoorbeeld, in 2017, Google het sy KI duisende beelde van katte gevoer wat sy diepleerstelsel gebruik het om nie net te leer hoe om 'n kat te identifiseer nie, maar om tussen verskillende katrasse te onderskei. Nie lank daarna nie, het hulle die naderende vrystelling van aangekondig Google Lens, 'n nuwe soektoepassing waarmee gebruikers 'n foto van enigiets laat neem en Google sal nie net vir jou sê wat dit is nie, maar 'n paar nuttige kontekstuele inhoud bied wat dit beskryf—handig wanneer jy reis en jy meer wil leer oor 'n spesifieke toeriste-aantreklikheid. Maar ook hier sou Google Lens nie moontlik wees sonder die miljarde beelde wat tans in sy beeldsoekenjin gelys word nie.

En tog is hierdie kombinasie van groot data en diep leer steeds nie genoeg om 'n AGI teweeg te bring nie.

Beter algoritmes. Oor die afgelope dekade het 'n Google-filiaal en leier in die KI-ruimte, DeepMind, 'n opflikkering gemaak deur die sterk punte van diepleer met versterkende leer te kombineer - 'n komplimentêre masjienleerbenadering wat daarop gemik is om KI te leer hoe om aksies in nuwe omgewings te neem om te bereik 'n vasgestelde doelwit.

Danksy hierdie hibriede taktiek het DeepMind se eerste KI, AlphaGo, homself nie net geleer hoe om AlphaGo te speel deur die reëls af te laai en die strategieë van meester menslike spelers te bestudeer nie, maar nadat hy miljoene kere teen homself gespeel het, kon hy toe die beste AlphaGo-spelers klop. gebruik bewegings en strategieë wat nog nooit tevore in die spel gesien is nie.

Net so het DeepMind se Atari-sagteware-eksperiment behels dat 'n KI 'n kamera gegee word om 'n tipiese speletjieskerm te sien, dit te programmeer met die vermoë om speletjiebestellings in te voer (soos joystick-knoppies), en dit die enkelvoudige doelwit te gee om sy telling te verhoog. Die resultaat? Binne dae het dit homself geleer hoe om te speel en hoe om dosyne klassieke arcade-speletjies te bemeester.

Maar so opwindend soos hierdie vroeë suksesse is, daar bly 'n paar sleuteluitdagings om op te los.

Vir een, KI-navorsers werk daaraan om KI 'n truuk genaamd 'chunking' te leer waarmee mense- en dierbreine besonder goed is. Eenvoudig gestel, wanneer jy besluit om uit te gaan om kruideniersware te koop, is jy in staat om jou einddoel (die koop van 'n avokado) en 'n rowwe plan te visualiseer oor hoe jy dit sal doen (verlaat die huis, besoek die kruidenierswinkel, koop die avokado, keer terug huis toe). Wat jy nie doen nie, is om elke asemteug, elke tree, elke moontlike gebeurlikheid op pad soontoe te beplan. In plaas daarvan het jy 'n konsep (stuk) in jou gedagtes van waarheen jy wil gaan en pas jou reis aan by watter situasie ook al opduik.

So algemeen as wat dit vir jou mag voel, is hierdie vermoë een van die belangrikste voordele wat menslike brein steeds bo KI het—dit is die aanpasbaarheid om 'n doelwit te stel en dit na te streef sonder om elke detail vooraf te ken en ten spyte van enige hindernis of omgewingsverandering wat ons dalk teëkom. Hierdie vaardigheid sal AGI's in staat stel om meer doeltreffend te leer, sonder die behoefte aan die groot data hierbo genoem.

Nog 'n uitdaging is die vermoë om nie net 'n boek te lees nie, maar die betekenis verstaan of konteks daaragter. Langtermyn is die doel hier vir 'n KI om 'n koerantberig te lees en in staat te wees om 'n reeks vrae akkuraat te beantwoord oor wat dit lees, soos om 'n boekverslag te skryf. Hierdie vermoë sal 'n KI transformeer van bloot 'n sakrekenaar wat getalle knars na 'n entiteit wat betekenis knars.

In die algemeen sal verdere vooruitgang tot 'n selflerende algoritme wat die menslike brein kan naboots 'n sleutelrol speel in die uiteindelike skepping van 'n AGI, maar saam met hierdie werk het die KI-gemeenskap ook beter hardeware nodig.

Beter hardeware. Deur gebruik te maak van die huidige benaderings wat hierbo verduidelik is, sal 'n AGI eers moontlik word nadat ons die rekenaarkrag wat beskikbaar is om dit uit te voer, ernstig verhoog het.

Vir konteks, as ons die menslike brein se vermoë om te dink geneem en dit in rekenaarterme omskep, dan is die rowwe skatting van 'n gemiddelde mens se verstandelike vermoë een eksaflop, wat gelykstaande is aan 1,000 XNUMX petaflops ('Flop' staan vir drywende punt bewerkings per tweede en meet die spoed van berekening).

In vergelyking, teen die einde van 2018, die wêreld se kragtigste superrekenaar, Japan s'n KI oorbrug wolk sal neurie by 130 petaflops, ver kort van een exaflop.

Soos uiteengesit in ons superrekenaars hoofstuk in ons Toekoms van rekenaars reeks, werk beide die VSA en China daaraan om hul eie exaflop-superrekenaars teen 2022 te bou, maar selfs al is hulle suksesvol, is dit dalk steeds nie genoeg nie.

Hierdie superrekenaars werk op 'n paar dosyn megawatt krag, neem 'n paar honderd vierkante meter spasie op en kos 'n paar honderd miljoen om te bou. 'n Menslike brein gebruik net 20 watt krag, pas binne 'n skedel van ongeveer 50 cm in omtrek, en daar is sewe biljoen van ons (2018). Met ander woorde, as ons AGI's so alledaags soos mense wil maak, sal ons moet leer hoe om dit meer ekonomies te skep.

Vir daardie doel begin KI-navorsers dit oorweeg om toekomstige KI's met kwantumrekenaars aan te dryf. In meer besonderhede beskryf in die kwantumrekenaars hoofstuk in ons Future of Computers-reeks, werk hierdie rekenaars op 'n fundamenteel ander manier as die rekenaars wat ons die afgelope halfeeu gebou het. Sodra dit teen die 2030's vervolmaak is, sal 'n enkele kwantumrekenaar elke superrekenaar wat tans in 2018 werksaam is, wêreldwyd saamgestel uitreken. Hulle sal ook baie kleiner wees en baie minder energie gebruik as huidige superrekenaars.

Hoe sou 'n kunsmatige algemene intelligensie beter wees as 'n mens?

Kom ons neem aan dat elke uitdaging wat hierbo gelys word, uitgepluis word, dat KI-navorsers sukses behaal met die skep van die eerste AGI. Hoe sal 'n AGI-gedagte anders wees as ons eie?

Om hierdie soort vraag te beantwoord, moet ons AGI-gedagtes in drie kategorieë klassifiseer, dié wat binne 'n robotliggaam woon (Data van Star Trek), dié wat 'n fisiese vorm het, maar draadloos aan die internet/wolk gekoppel is (Agent Smith van The Matrix) en diegene sonder 'n fisiese vorm wat geheel en al in 'n rekenaar of aanlyn woon (Samantha van Haar).

Om mee te begin, sal AGI's binne 'n robotliggaam wat van die web geïsoleer is op gelyke voet met menslike verstand meeding, maar met sekere voordele:

Geheue: Afhangende van die ontwerp van die AGI se robotvorm, sal hul korttermyngeheue en geheue van sleutelinligting beslis beter as mense wees. Maar aan die einde van die dag is daar 'n fisiese beperking op hoeveel hardeskyfspasie jy in die robot kan pak, met die veronderstelling dat ons dit ontwerp om soos mense te lyk. Om hierdie rede sal AGI's se langtermyngeheue baie soos dié van mense optree, en aktief inligting en herinneringe vergeet wat onnodig geag word vir die toekomstige funksionering daarvan (om 'skyfspasie' vry te maak).
Spoed: Die werkverrigting van neurone binne die menslike brein bereik ongeveer 200 hertz, terwyl moderne mikroverwerkers op die gigahertz-vlak werk, dus miljoene keer vinniger as neurone. Dit beteken in vergelyking met mense, toekomstige AGI's sal inligting verwerk en besluite vinniger as mense neem. Let wel, dit beteken nie noodwendig dat hierdie AGI slimmer of meer korrekte besluite as mense sal neem nie, net dat hulle vinniger tot gevolgtrekkings kan kom.
Prestasie: Eenvoudig gestel, die menslike brein word moeg as dit te lank werk sonder rus of slaap, en wanneer dit wel gebeur, word sy geheue en sy vermoë om te leer en te redeneer belemmer. Intussen, vir AGI's, as hulle aanvaar dat hulle gereeld herlaai word (elektrisiteit), sal hulle nie daardie swakheid hê nie.
Opgradeerbaarheid: Vir 'n mens kan die aanleer van 'n nuwe gewoonte weke se oefening neem, die aanleer van 'n nuwe vaardigheid kan maande neem, en die aanleer van 'n nuwe beroep kan jare neem. Vir 'n AGI sal hulle die vermoë hê om beide deur ervaring (soos mense) en deur direkte data-oplaai te leer, soortgelyk aan hoe jy gereeld jou rekenaar se bedryfstelsel opdateer. Hierdie opdaterings kan van toepassing wees op kennisopgraderings (nuwe vaardighede) of prestasie-opgraderings van die AGI se fisiese vorm.

Kom ons kyk vervolgens na AGI's wat 'n fisiese vorm het, maar ook draadloos aan die internet/wolk gekoppel is. Die verskille wat ons met hierdie vlak kan sien in vergelyking met nie-gekoppelde AGI's sluit in:

Geheue: Hierdie AGI's sal al die korttermynvoordele hê wat die vorige AGI-klas het, behalwe dat hulle ook voordeel sal trek uit perfekte langtermyngeheue, aangesien hulle daardie herinneringe na die wolk kan oplaai om toegang te verkry wanneer nodig. Dit is duidelik dat hierdie geheue nie toeganklik sal wees in gebiede met lae konneksie nie, maar dit sal minder kommerwekkend wees gedurende die 2020's en 2030's wanneer meer van die wêreld aanlyn kom. Lees meer in hoofstuk een van ons Toekoms van die internet reeks.
Spoed: Afhangende van die tipe struikelblok wat hierdie AGI in die gesig staar, kan hulle toegang kry tot die groter rekenaarkrag van die wolk om hulle te help om dit op te los.
Prestasie: Geen verskil in vergelyking met ongekoppelde AGI's nie.
Opgradeerbaarheid: Die enigste verskil tussen hierdie AGI wat verband hou met opgradeerbaarheid, is dat hulle toegang tot opgraderings in reële tyd kan kry, draadloos, in plaas daarvan om 'n opgraderingsdepot te besoek en daarby in te prop.
Kollektief: Mense het die Aarde se dominante spesie geword, nie omdat ons die grootste of sterkste dier was nie, maar omdat ons geleer het hoe om te kommunikeer en op verskeie maniere saam te werk om kollektiewe doelwitte te bereik, van die jag op 'n Wollerige Mammoet tot die bou van die Internasionale Ruimtestasie. 'n Span AGI's sal hierdie samewerking na die volgende vlak neem. Gegewe al die kognitiewe voordele wat hierbo gelys is, en kombineer dit dan met die vermoë om draadloos te kommunikeer, beide persoonlik en oor lang afstande, 'n toekomstige AGI-span/korfgedagte kan teoreties projekte veel meer doeltreffend aanpak as 'n span mense.

Laastens, die laaste tipe AGI is die weergawe sonder 'n fisiese vorm, een wat binne 'n rekenaar werk, en toegang het tot die volle rekenaarkrag en aanlyn hulpbronne wat die skeppers daarvan voorsien. In wetenskapfiksie-programme en boeke neem hierdie AGI's gewoonlik die vorm aan van kundige virtuele assistente/vriende of die spunky bedryfstelsel van 'n ruimteskip. Maar in vergelyking met die ander twee kategorieë van AGI, sal hierdie KI op die volgende maniere verskil;

Spoed: Onbeperk (of ten minste tot die grense van die hardeware waartoe dit toegang het).
Geheue: Onbeperk
Prestasie: Toename in besluitnemingsgehalte danksy sy toegang tot superrekenaarsentrums.
Opgradeerbaarheid: Absoluut, in reële tyd, en met 'n onbeperkte keuse van kognitiewe opgraderings. Natuurlik, aangesien hierdie AGI-kategorie nie 'n fisiese robotvorm het nie, sal dit nie 'n behoefte hê aan die fisiese opgraderings wat beskikbaar is nie, tensy daardie opgraderings is vir die superrekenaars waarin dit werk.
Kollektief: Soortgelyk aan die vorige AGI-kategorie, sal hierdie liggaamlose AGI effektief met sy AGI-kollegas saamwerk. Gegewe sy meer direkte toegang tot onbeperkte rekenaarkrag en toegang tot aanlyn hulpbronne, sal hierdie AGI's egter gewoonlik leiersrolle in 'n algehele AGI-kollektief inneem.

Wanneer sal die mensdom die eerste kunsmatige algemene intelligensie skep?

Daar is geen vasgestelde datum vir wanneer die KI-navorsingsgemeenskap glo dat hulle 'n wettige AGI sal uitvind nie. A 2013 opname van 550 van die wêreld se voorste KI-navorsers, uitgevoer deur vooraanstaande KI-navorsingsdenkers Nick Bostrom en Vincent C. Müller, het die reeks menings tot drie moontlike jare gemiddeld uitgereken:

Mediaan optimistiese jaar (10% waarskynlikheid): 2022
Mediaan realistiese jaar (50% waarskynlikheid): 2040
Mediaan pessimistiese jaar (90% waarskynlikheid): 2075

Hoe presies hierdie voorspellings is, maak nie regtig saak nie. Wat wel saak maak, is dat die oorgrote meerderheid van die KI-navorsingsgemeenskap glo dat ons 'n AGI binne ons leeftyd en relatief vroeg in hierdie eeu sal uitvind.

Hoe die skep van 'n kunsmatige algemene intelligensie die mensdom sal verander

Ons ondersoek die impak van hierdie nuwe KI in detail deur die heel laaste hoofstuk van hierdie reeks. Dit gesê, vir hierdie hoofstuk, sal ons sê dat die skepping van 'n AGI baie soortgelyk sal wees aan die sosiale reaksie wat ons sal ervaar sou mense lewe op Mars vind.

Een kamp sal nie die belangrikheid verstaan nie en sal aanhou dink dat wetenskaplikes 'n groot saak maak om nog 'n kragtiger rekenaar te skep.

Nog 'n kamp, wat waarskynlik bestaan uit Luddiete en godsdienstige individue, sal hierdie AGI vrees, en dink dit is 'n gruwel dat dit sal probeer om die mensdom SkyNet-styl uit te roei. Hierdie kamp sal aktief bepleit om AGI's in al hul vorme uit te vee/vernietig.

Aan die ander kant sal die derde kamp hierdie skepping as 'n moderne geestelike gebeurtenis beskou. Op al die maniere wat saak maak, sal hierdie AGI 'n nuwe vorm van lewe wees, een wat anders dink as ons en wie se doelwitte anders is as ons eie. Sodra die skepping van 'n AGI aangekondig is, sal mense nie meer die Aarde met net diere deel nie, maar ook saam met 'n nuwe klas kunsmatige wesens wie se intelligensie op gelyke vlak of beter is as ons eie.

Die vierde kamp sal sakebelange insluit wat sal ondersoek hoe hulle AGI's kan gebruik om verskeie sakebehoeftes aan te spreek, soos om gapings in die arbeidsmark te vul en die ontwikkeling van nuwe goedere en dienste te versnel.

Vervolgens het ons verteenwoordigers van alle regeringsvlakke wat oor hulself sal struikel en probeer sin maak van hoe om AGI's te reguleer. Dit is die vlak waar al die moraliserende en filosofiese debatte tot 'n punt sal kom, spesifiek oor of hierdie AGI's as eiendom of as persone behandel moet word.

En uiteindelik sal die laaste kamp die militêre en nasionale veiligheidsagentskappe wees. Om die waarheid te sê, daar is 'n goeie kans dat die openbare aankondiging van die eerste AGI met maande tot jare vertraag kan word as gevolg van hierdie kamp alleen. Hoekom? Omdat die uitvinding van 'n AGI in kort orde sal lei tot die skepping van 'n kunsmatige superintelligensie (ASI), een wat 'n massiewe geopolitieke bedreiging sal verteenwoordig en 'n geleentheid wat die uitvinding van die kernbom ver oortref.

Om hierdie rede sal die volgende paar hoofstukke geheel en al fokus op die onderwerp van ASI's en of die mensdom na sy uitvinding sal oorleef.

(Te dramatiese manier om 'n hoofstuk af te sluit? Jy is seker.)