Quantumrun

BEELDKREDIET: Quantumrun

Hoe ons die eerste kunsmatige superintelligensie sal skep: Toekoms van kunsmatige intelligensie P3

David Tal, uitgewer, toekomskundige
@DavidTalWrites
LinkedIn

Di, 09 / 15 / 2020 - 13: 17

Diep in die Tweede Wêreldoorlog het Nazi-magte deur 'n groot deel van Europa gestoomroller. Hulle het gevorderde wapens gehad, doeltreffende oorlogstydse industrie, fanaties aangedrewe infanterie, maar bowenal het hulle 'n masjien genaamd Enigma gehad. Hierdie toestel het Nazi-magte toegelaat om veilig oor lang afstande saam te werk deur Morse-gekodeerde boodskappe aan mekaar te stuur oor standaard kommunikasielyne; dit was 'n syfermasjien wat onneembaar was vir menslike kodebrekers.

Gelukkig het die Geallieerdes 'n oplossing gevind. Hulle het nie meer 'n menslike verstand nodig gehad om Enigma te breek nie. In plaas daarvan, deur 'n uitvinding van wyle Alan Turing, het die Geallieerdes 'n revolusionêre nuwe instrument gebou genaamd die Britse Bombe, 'n elektromeganiese toestel wat uiteindelik die Nazi's se geheime kode ontsyfer het en hulle uiteindelik gehelp het om die oorlog te wen.

Hierdie Bombe het die grondslag gelê vir wat die moderne rekenaar geword het.

IJ Good, 'n Britse wiskundige en kriptoloog, het saam met Turing gewerk tydens die Bombe-ontwikkelingsprojek. Hy het vroeg in die eindspel gesien wat hierdie nuwe toestel eendag kan meebring. In 'n 1965 papier, hy het geskryf:

“Laat 'n ultra-intelligente masjien gedefinieer word as 'n masjien wat al die intellektuele aktiwiteite van enige man hoe slim ook al kan oortref. Aangesien die ontwerp van masjiene een van hierdie intellektuele aktiwiteite is, kan 'n ultra-intelligente masjien selfs beter masjiene ontwerp; daar sou dan ongetwyfeld 'n "intelligensie-ontploffing" wees en die intelligensie van die mens sou ver agtergelaat word... Dus is die eerste ultra-intelligente masjien die laaste uitvinding wat die mens ooit moet maak, mits die masjien gedwee genoeg is om ons te vertel hoe om dit onder beheer te hou.”

Die skep van die eerste kunsmatige superintelligensie

Tot dusver in ons Future of Artificial Intelligence-reeks het ons die drie breë kategorieë van kunsmatige intelligensie (AI) gedefinieer, van kunsmatige eng intelligensie (ANI) aan kunsmatige algemene intelligensie (AGI), maar in hierdie reekshoofstuk fokus ons op die laaste kategorie—die een wat óf opgewondenheid óf paniekaanvalle onder KI-navorsers kweek—kunsmatige superintelligensie (ASI).

Om jou kop te draai rondom wat 'n ASI is, sal jy moet terugdink aan die laaste hoofstuk waar ons uiteengesit het hoe KI-navorsers glo dat hulle die eerste AGI sal skep. Basies sal dit 'n kombinasie verg van groot data wat beter algoritmes voed (die wat spesialiseer in selfverbetering en mensagtige leervermoëns) gehuisves in toenemend kragtige rekenaarhardeware.

In daardie hoofstuk het ons ook uiteengesit hoe 'n AGI-gedagte (sodra dit hierdie selfverbeterings- en leervermoë verkry het wat ons mense as vanselfsprekend aanvaar) uiteindelik die menslike verstand beter sal presteer deur middel van voortreflike spoed van denke, verbeterde geheue, onvermoeide prestasie, en onmiddellike opgradeerbaarheid.

Maar hier is dit belangrik om daarop te let dat 'n AGI slegs self sal verbeter tot die grense van die hardeware en data waartoe dit toegang het; hierdie limiet kan groot of klein wees, afhangende van die robotliggaam wat ons dit gee of die skaal van rekenaars waartoe ons toegang gee.

Intussen is die verskil tussen 'n AGI en 'n ASI dat laasgenoemde, teoreties, nooit in 'n fisiese vorm sal bestaan nie. Dit sal geheel en al binne 'n superrekenaar of netwerk van superrekenaars werk. Afhangende van die doelwitte van die skeppers daarvan, kan dit ook volle toegang kry tot alle data wat op die internet gestoor is, sowel as watter toestel of mens ook al wat data in en oor die internet voer. Dit beteken daar sal geen praktiese beperking wees op hoeveel hierdie ASI kan leer en hoeveel dit self kan verbeter nie.

En dit is die vryf.

Verstaan die intelligensie-ontploffing

Hierdie proses van selfverbetering wat KI's uiteindelik sal verkry namate hulle AGI's word ('n proses wat die KI-gemeenskap rekursiewe selfverbetering noem) kan moontlik 'n positiewe terugvoerlus afskakel wat soos volg lyk:

'n Nuwe AGI word geskep, toegang tot 'n robotliggaam of 'n groot datastel gegee, en dan die eenvoudige taak gegee om homself op te voed, om sy intelligensie te verbeter. Aanvanklik sal hierdie AGI die IK hê van 'n baba wat sukkel om nuwe konsepte te begryp. Met verloop van tyd leer dit genoeg om die IK van 'n gemiddelde volwassene te bereik, maar dit stop nie hier nie. Deur hierdie nuutgevonde volwasse IK te gebruik, word dit baie makliker en vinniger om hierdie verbetering voort te sit tot 'n punt waar sy IK ooreenstem met dié van die slimste bekende mense. Maar weereens, dit stop nie daar nie.

Hierdie proses kom saam op elke nuwe vlak van intelligensie, volgens die wet van versnelde opbrengs totdat dit die onberekenbare vlak van superintelligensie bereik - met ander woorde, as dit ongekontroleerd gelaat word en onbeperkte hulpbronne gegee word, sal 'n AGI self verbeter tot 'n ASI, 'n intellek wat het nog nooit voorheen in die natuur bestaan nie.

Dit is wat IJ Good die eerste keer geïdentifiseer het toe hy hierdie 'intelligensie-ontploffing' beskryf het of wat moderne KI-teoretici, soos Nick Bostrom, die KI se 'opstyg'-gebeurtenis noem.

Verstaan 'n kunsmatige superintelligensie

Op hierdie stadium dink sommige van julle waarskynlik dat die belangrikste verskil tussen menslike intelligensie en 'n ASI se intelligensie is hoe vinnig albei kante kan dink. En hoewel dit waar is dat hierdie teoretiese toekomstige ASI vinniger as mense sal dink, is hierdie vermoë reeds redelik algemeen in vandag se rekenaarsektor—ons slimfoon dink (bereken) vinniger as 'n menslike verstand, 'n supercomputer dink miljoene keer vinniger as 'n slimfoon, en 'n toekomstige kwantumrekenaar sal nog vinniger dink.

Nee, spoed is nie die kenmerk van intelligensie wat ons hier verduidelik nie. Dit is die kwaliteit.

Jy kan die brein van jou Samoyed of Corgi versnel net wat jy wil, maar dit vertaal nie in 'n nuwe begrip hoe om taal of abstrakte idees te interpreteer nie. Selfs met 'n ekstra dekade of twee, sal hierdie doggo's nie skielik verstaan hoe om gereedskap te maak of te gebruik nie, wat nog te sê die fyner verskille tussen 'n kapitalistiese en sosialistiese ekonomiese stelsel verstaan.

Wanneer dit by intelligensie kom, werk mense op 'n ander vlak as diere. Net so, sou 'n ASI sy volle teoretiese potensiaal bereik, sal hul gedagtes op 'n vlak werk wat ver buite die bereik van die gemiddelde moderne mens is. Kom ons kyk vir 'n sekere konteks na die toepassings van hierdie ASI.

Hoe kan 'n kunsmatige superintelligensie saam met die mensdom werk?

Gestel 'n sekere regering of korporasie is suksesvol met die skep van 'n ASI, hoe kan hulle dit gebruik? Volgens Bostrom is daar drie afsonderlike maar verwante vorme wat hierdie ASI kan aanneem:

Oracle. Hier sal ons met 'n ASI interaksie hê, dieselfde as wat ons reeds met die Google-soekenjin doen; ons sal dit 'n vraag vra, maar maak nie saak hoe ingewikkeld die vraag is nie, die ASI sal dit perfek beantwoord en op 'n manier wat aangepas is vir jou en jou vraag se konteks.
Genie. In hierdie geval sal ons 'n ASI 'n spesifieke taak toewys, en dit sal uitvoer soos beveel. Doen navorsing oor 'n geneesmiddel vir kanker. Klaar. Vind al die planete wat versteek is in die agterstand van 10 jaar se beelde van NASA se Hubble-ruimteteleskoop. Klaar. Ontwerp 'n werkende samesmeltingsreaktor om die mensdom se energievraag op te los. Abracadabra.
Soewereine. Hier word die ASI 'n oop missie toegewys en die vryheid gegee om dit uit te voer. Steel die R&D-geheime van ons korporatiewe mededinger. "Maklik." Ontdek die identiteite van alle buitelandse spioene wat binne ons grense wegkruip. "Daarop." Verseker die voortgesette ekonomiese welvaart van die Verenigde State. "Geen probleem."

Nou, ek weet wat jy dink, dit klink alles nogal vergesog. Dit is hoekom dit belangrik is om te onthou dat elke probleem/uitdaging daar buite, selfs dié wat die wêreld se slimste geeste tot dusver verstom het, hulle is almal oplosbaar. Maar die moeilikheid van 'n probleem word gemeet aan die intellek wat dit aanpak.

Met ander woorde, hoe groter die verstand op 'n uitdaging toegepas word, hoe makliker word dit om 'n oplossing vir die uitdaging te vind. Enige uitdaging. Dit is soos 'n volwassene wat kyk hoe 'n baba sukkel om te verstaan hoekom hy nie 'n vierkantige blok in 'n ronde opening kan pas nie—vir die volwassene sou dit kinderspeletjies wees om vir die baba te wys dat die blok deur die vierkantige opening moet pas.

Net so, sou hierdie toekomstige ASI sy volle potensiaal bereik, sou hierdie verstand die kragtigste intellek in die bekende heelal word - kragtig genoeg om enige uitdaging op te los, maak nie saak hoe kompleks nie.

Dit is hoekom baie KI-navorsers die ASI die laaste uitvinding noem wat die mens ooit sal moet maak. As ons oortuig is om saam met die mensdom te werk, kan dit ons help om al die wêreld se dringendste probleme op te los. Ons kan dit selfs vra om alle siektes uit te skakel en veroudering te beëindig soos ons dit ken. Die mensdom kan vir die eerste keer die dood permanent bedrieg en 'n nuwe era van voorspoed betree.

Maar die teenoorgestelde is ook moontlik.

Intelligensie is krag. As dit wanbestuur of opdrag gegee word deur slegte akteurs, kan hierdie ASI die uiteindelike instrument van onderdrukking word, of dit kan die mensdom heeltemal uitroei—dink Skynet van die Terminator of die Argitek van die Matrix-flieks.

In werklikheid is nie een van die uiterstes waarskynlik nie. Die toekoms is altyd baie rommeliger as wat utopiste en distopiste voorspel. Dit is hoekom, noudat ons die konsep van 'n ASI verstaan, sal die res van hierdie reeks verken hoe 'n ASI die samelewing sal beïnvloed, hoe die samelewing sal verdedig teen 'n skelm ASI, en hoe die toekoms kan lyk as mense en KI langs mekaar leef -kant. Lees verder.