Kwantumrun

BEELDKREDIET: Kwantumrun

Hoe de eerste kunstmatige algemene intelligentie de samenleving zal veranderen: toekomst van kunstmatige intelligentie P2

David Tal, uitgever, futurist
@DavidTalWrites
LinkedIn

Tue, 09 / 15 / 2020 - 13: 08

We hebben piramides gebouwd. We hebben geleerd om elektriciteit te gebruiken. We begrijpen hoe ons universum gevormd is na de oerknal (meestal). En natuurlijk, het clichévoorbeeld, we hebben een man op de maan gezet. Maar ondanks al deze prestaties blijft het menselijk brein ver buiten het begrip van de moderne wetenschap en is het standaard het meest complexe object in het bekende universum - of in ieder geval ons begrip ervan.

Gezien deze realiteit zou het niet helemaal schokkend moeten zijn dat we nog geen kunstmatige intelligentie (AI) hebben gebouwd die vergelijkbaar is met die van mensen. Een AI zoals Data (Star Trek), Rachael (Blade Runner) en David (Prometheus), of niet-humanoïde AI zoals Samantha (Her) en TARS (Interstellar), dit zijn allemaal voorbeelden van de volgende grote mijlpaal in de ontwikkeling van AI: kunstmatige algemene intelligentie (AGI, soms ook wel HLMI of Human Level Machine Intelligence genoemd).

Met andere woorden, de uitdaging waarmee AI-onderzoekers worden geconfronteerd, is: hoe kunnen we een kunstmatige geest bouwen die vergelijkbaar is met de onze als we niet eens volledig begrijpen hoe onze eigen geest werkt?

We zullen deze vraag onderzoeken, samen met hoe mensen zich zullen verhouden tot toekomstige AGI's, en tot slot, hoe de samenleving zal veranderen de dag nadat de eerste AGI aan de wereld is aangekondigd.

Wat is een kunstmatige algemene intelligentie?

Ontwerp een AI die de best gerangschikte spelers in Chess, Jeopardy en Go gemakkelijk kan verslaan (Deep Blue, Watson en AlphaGO respectievelijk). Ontwerp een AI die je antwoorden op elke vraag kan bieden, suggesties kan doen voor items die je misschien wilt kopen, of een vloot van taxi's met gedeelde taxi's beheert - er zijn hele miljardenbedrijven omheen gebouwd (Google, Amazon, Uber). Zelfs een AI die je van de ene kant van het land naar de andere kan brengen... nou, we werken eraan.

Maar vraag een AI om een kinderboek te lezen en de inhoud, betekenis of moraal te begrijpen die het probeert te leren, of vraag een AI om het verschil te zien tussen een afbeelding van een kat en een zebra, en je zult uiteindelijk meer dan een paar kortsluitingen.

De natuur heeft miljoenen jaren besteed aan het ontwikkelen van een computerapparaat (hersenen) dat uitblinkt in het verwerken, begrijpen, leren en vervolgens reageren op nieuwe situaties en binnen nieuwe omgevingen. Vergelijk dat eens met de laatste halve eeuw computerwetenschap die zich richtte op het maken van computerapparatuur die was afgestemd op de specifieke taken waarvoor ze waren ontworpen.

Met andere woorden, de mens-computer is een generalist, terwijl de kunstmatige computer een specialist is.

Het doel van het maken van een AGI is om een AI te creëren die meer als een mens kan denken en leren, door ervaring in plaats van door directe programmering.

In de echte wereld zou dit betekenen dat een toekomstige AGI leert lezen, schrijven en grappen vertellen, of grotendeels alleen loopt, rent en fietst, door middel van zijn eigen ervaring in de wereld (met behulp van welk lichaam of zintuiglijke organen/apparaten die we het geven), en door zijn eigen interactie andere AI en andere mensen.

Wat er nodig is om een kunstmatige algemene intelligentie te bouwen

Hoewel het technisch moeilijk is, moet het maken van een AGI mogelijk zijn. Als er inderdaad een diepgewortelde eigenschap is binnen de wetten van de natuurkunde - de universaliteit van berekeningen - die in feite alles zegt wat een fysiek object kan doen, zou een voldoende krachtige computer voor algemeen gebruik in principe in staat moeten zijn om te kopiëren/simuleren.

En toch is het lastig.

Gelukkig zijn er veel slimme AI-onderzoekers in de zaak (om nog maar te zwijgen van veel bedrijfs-, overheids- en militaire financiering die hen ondersteunt), en tot nu toe hebben ze drie belangrijke ingrediënten geïdentificeerd die volgens hen nodig zijn om op te lossen om een AGI in onze wereld.

Big data. De meest gebruikelijke benadering van AI-ontwikkeling omvat een techniek die deep learning wordt genoemd - een specifiek type machine learning-systeem dat werkt door gigantische hoeveelheden gegevens op te slurpen, deze gegevens te kraken in een netwerk van gesimuleerde neuronen (gemodelleerd naar het menselijk brein), en vervolgens de bevindingen gebruiken om zijn eigen inzichten te programmeren. Voor meer informatie over diep leren, Lees deze.

Bijvoorbeeld in 2017, Google voedde zijn AI duizenden afbeeldingen van katten die zijn deep learning-systeem gebruikte om niet alleen te leren hoe een kat te identificeren, maar ook om onderscheid te maken tussen verschillende kattenrassen. Niet lang daarna kondigden ze de aanstaande release van Google Lens, een nieuwe zoek-app waarmee gebruikers overal een foto van kunnen maken en Google vertelt je niet alleen wat het is, maar biedt ook een aantal nuttige contextuele inhoud die het beschrijft - handig als je op reis bent en je meer wilt weten over een specifieke toeristische attractie. Maar ook hier zou Google Lens niet mogelijk zijn zonder de miljarden afbeeldingen die momenteel worden vermeld in zijn beeldzoekmachine.

En toch is deze combinatie van big data en deep learning nog steeds niet genoeg om een AGI tot stand te brengen.

Betere algoritmen. In het afgelopen decennium maakte een dochteronderneming van Google en leider op het gebied van AI, DeepMind, indruk door de sterke punten van deep learning te combineren met versterkend leren - een aanvullende machine learning-benadering die tot doel heeft AI te leren hoe acties in nieuwe omgevingen kunnen worden ondernomen om te bereiken een bepaald doel.

Dankzij deze hybride tactiek leerde AlphaGo, de eerste AI van DeepMind, zichzelf niet alleen AlphaGo te spelen door de regels te downloaden en de strategieën van meester-menselijke spelers te bestuderen, maar nadat hij miljoenen keren tegen zichzelf had gespeeld, was hij in staat om de beste AlphaGo-spelers te verslaan met bewegingen en strategieën die nog nooit eerder in het spel zijn gezien.

Evenzo hield het Atari-software-experiment van DeepMind in dat een AI een camera kreeg om een typisch spelscherm te zien, deze programmeerde met de mogelijkheid om spelopdrachten in te voeren (zoals joystickknoppen) en hem het unieke doel gaf om zijn score te verhogen. Het resultaat? Binnen enkele dagen leerde het zichzelf hoe te spelen en hoe je tientallen klassieke arcadespellen onder de knie moest krijgen.

Maar hoe opwindend deze vroege successen ook zijn, er moeten nog enkele belangrijke uitdagingen worden opgelost.

Ten eerste werken AI-onderzoekers eraan om AI een truc te leren die 'chunking' wordt genoemd en waar menselijke en dierlijke hersenen uitzonderlijk goed in zijn. Simpel gezegd, als je besluit boodschappen te gaan doen, kun je je einddoel visualiseren (een avocado kopen) en een ruw plan hoe je het zou doen (het huis verlaten, de supermarkt bezoeken, de avocado, terug naar huis). Wat je niet doet, is elke ademhaling, elke stap, elke mogelijke gebeurtenis op je weg daarheen plannen. In plaats daarvan heb je een concept (brok) in je hoofd van waar je heen wilt en pas je je reis aan aan de situatie die zich voordoet.

Hoe gewoon het voor jou ook mag lijken, dit vermogen is een van de belangrijkste voordelen die het menselijk brein nog heeft ten opzichte van AI: het is het aanpassingsvermogen om een doel te stellen en dit na te streven zonder van tevoren elk detail te kennen en ondanks obstakels of veranderingen in de omgeving die we hebben. zou kunnen tegenkomen. Deze vaardigheid zou AGI's in staat stellen om efficiënter te leren, zonder de noodzaak van de bovengenoemde big data.

Een andere uitdaging is het vermogen om niet alleen een boek te lezen, maar begrijp de betekenis of context erachter. Op de lange termijn is het doel hier dat een AI een krantenartikel leest en in staat is om nauwkeurig een reeks vragen te beantwoorden over wat het leest, een beetje zoals het schrijven van een boekverslag. Deze vaardigheid zal een AI transformeren van een rekenmachine die getallen kraakt tot een entiteit die betekenis kraakt.

Over het algemeen zullen verdere verbeteringen aan een zelflerend algoritme dat het menselijk brein kan nabootsen een sleutelrol spelen bij de uiteindelijke creatie van een AGI, maar naast dit werk heeft de AI-gemeenschap ook betere hardware nodig.

Betere hardware. Met behulp van de huidige benaderingen die hierboven zijn uitgelegd, wordt een AGI alleen mogelijk nadat we de beschikbare rekenkracht om het te laten draaien serieus hebben vergroot.

Voor de context: als we het denkvermogen van het menselijk brein nemen en dit omzetten in rekenkundige termen, dan is de ruwe schatting van het mentale vermogen van een gemiddelde mens één exaflop, wat overeenkomt met 1,000 petaflops ('Flop' staat voor drijvende-kommabewerkingen per tweede en meet de rekensnelheid).

Ter vergelijking: tegen het einde van 2018, 's werelds krachtigste supercomputer, Japan's AI overbruggende cloud zal neuriën bij 130 petaflops, veel minder dan één exaflop.

Zoals beschreven in onze supercomputers hoofdstuk in onze Toekomst van computers serie werken zowel de VS als China aan het bouwen van hun eigen exaflop-supercomputers tegen 2022, maar zelfs als ze succesvol zijn, is dat misschien nog niet genoeg.

Deze supercomputers werken op enkele tientallen megawatts aan stroom, nemen enkele honderden vierkante meters ruimte in beslag en kosten enkele honderden miljoenen om te bouwen. Een menselijk brein gebruikt slechts 20 watt aan stroom, past in een schedel met een omtrek van ongeveer 50 cm, en we zijn met zeven miljard (2018). Met andere woorden, als we AGI's net zo gewoon willen maken als mensen, zullen we moeten leren hoe we ze veel economischer kunnen maken.

Daartoe beginnen AI-onderzoekers te overwegen toekomstige AI's van kwantumcomputers te voorzien. Meer gedetailleerd beschreven in de quantum computers hoofdstuk in onze Future of Computers-serie, werken deze computers op een fundamenteel andere manier dan de computers die we de afgelopen halve eeuw hebben gebouwd. Eenmaal geperfectioneerd door de jaren 2030, zal een enkele kwantumcomputer elke supercomputer die momenteel in 2018 wereldwijd actief is, samen overtreffen. Ze zullen ook veel kleiner zijn en veel minder energie verbruiken dan de huidige supercomputers.

Hoe zou een kunstmatige algemene intelligentie superieur zijn aan een mens?

Laten we aannemen dat elke uitdaging die hierboven is opgesomd wordt opgelost, dat AI-onderzoekers succes hebben bij het maken van de eerste AGI. Hoe zal een AGI-geest anders zijn dan de onze?

Om dit soort vragen te beantwoorden, moeten we AGI-geesten indelen in drie categorieën, die in een robotlichaam leven (gegevens van Star Trek), degenen die een fysieke vorm hebben maar draadloos zijn verbonden met internet/cloud (Agent Smith van De matrix) en degenen zonder fysieke vorm die volledig op een computer of online leven (Samantha van Haar).

Om te beginnen zullen AGI's in een robotlichaam geïsoleerd van het web concurreren met de menselijke geest, maar met bepaalde voordelen:

Geheugen: Afhankelijk van het ontwerp van de robotvorm van de AGI, zullen hun kortetermijngeheugen en belangrijke informatie absoluut superieur zijn aan mensen. Maar aan het eind van de dag is er een fysieke limiet aan hoeveel ruimte op de harde schijf je in een robot kunt inpakken, ervan uitgaande dat we ze zo ontwerpen dat ze eruitzien als mensen. Om deze reden zal het langetermijngeheugen van AGI's heel erg werken als dat van mensen, waarbij actief informatie en herinneringen worden vergeten die onnodig worden geacht voor het toekomstige functioneren (om 'schijfruimte' vrij te maken).
Snelheid: de prestaties van neuronen in het menselijk brein zijn maximaal ongeveer 200 hertz, terwijl moderne microprocessors op gigahertz-niveau werken, dus miljoenen keren sneller dan neuronen. Dit betekent dat toekomstige AGI's, vergeleken met mensen, sneller informatie zullen verwerken en beslissingen zullen nemen dan mensen. Let wel, dit betekent niet noodzakelijk dat deze AGI slimmere of correctere beslissingen zal nemen dan mensen, alleen dat ze sneller tot conclusies kunnen komen.
Prestaties: Simpel gezegd, het menselijk brein wordt moe als het te lang werkt zonder rust of slaap, en als dat het geval is, worden het geheugen en het vermogen om te leren en te redeneren aangetast. Ondertussen, voor AGI's, ervan uitgaande dat ze regelmatig worden opgeladen (elektriciteit), zullen ze die zwakte niet hebben.
Opwaardeerbaarheid: voor een mens kan het leren van een nieuwe gewoonte weken duren, het leren van een nieuwe vaardigheid kan maanden duren en het leren van een nieuw beroep kan jaren duren. Voor een AGI hebben ze de mogelijkheid om zowel door ervaring (zoals mensen) als door directe gegevensupload te leren, vergelijkbaar met hoe u het besturingssysteem van uw computer regelmatig bijwerkt. Deze updates kunnen van toepassing zijn op kennisupgrades (nieuwe vaardigheden) of prestatie-upgrades naar de fysieke vorm van AGI.

Laten we vervolgens kijken naar AGI's die een fysieke vorm hebben, maar ook draadloos zijn verbonden met internet/cloud. De verschillen die we met dit niveau kunnen zien in vergelijking met niet-verbonden AGI's zijn onder meer:

Geheugen: deze AGI's zullen alle voordelen op korte termijn hebben die de vorige AGI-klasse heeft, behalve dat ze ook zullen profiteren van een perfect langetermijngeheugen, omdat ze die herinneringen naar de cloud kunnen uploaden om er toegang toe te krijgen wanneer dat nodig is. Het is duidelijk dat dit geheugen niet toegankelijk zal zijn in gebieden met een lage connectiviteit, maar dat zal minder een zorg worden in de jaren 2020 en 2030, wanneer meer van de wereld online komt. Lees meer in hoofdstuk een onze Toekomst van internet series.
Snelheid: afhankelijk van het soort obstakel waarmee deze AGI wordt geconfronteerd, hebben ze toegang tot de grotere rekenkracht van de cloud om ze te helpen het op te lossen.
Prestaties: Geen verschil in vergelijking met niet-verbonden AGI's.
Opwaardeerbaarheid: Het enige verschil tussen deze AGI wat betreft opwaardeerbaarheid is dat ze in realtime toegang hebben tot upgrades, draadloos, in plaats van een upgradedepot te moeten bezoeken en erop in te pluggen.
Collectief: de mens werd de dominante soort van de aarde, niet omdat we het grootste of sterkste dier waren, maar omdat we leerden communiceren en samenwerken op verschillende manieren om collectieve doelen te bereiken, van het jagen op een wolharige mammoet tot het bouwen van het internationale ruimtestation. Een team van AGI's zou deze samenwerking naar een hoger niveau tillen. Gezien alle cognitieve voordelen die hierboven zijn opgesomd en dit vervolgens combineren met de mogelijkheid om draadloos te communiceren, zowel persoonlijk als over lange afstanden, zou een toekomstig AGI-team/hive mind projecten in theorie veel efficiënter kunnen aanpakken dan een team van mensen.

Ten slotte is het laatste type AGI de versie zonder fysieke vorm, een die in een computer werkt en toegang heeft tot de volledige rekenkracht en online bronnen die de makers ervan bieden. In sci-fi-shows en boeken nemen deze AGI's meestal de vorm aan van deskundige virtuele assistenten/vrienden of het pittige besturingssysteem van een ruimteschip. Maar vergeleken met de andere twee categorieën van AGI, zal deze AI op de volgende manieren verschillen;

Snelheid: Onbeperkt (of, in ieder geval tot de limieten van de hardware waartoe het toegang heeft).
Geheugen: onbeperkt
Prestaties: verhoging van de kwaliteit van de besluitvorming dankzij de toegang tot supercomputercentra.
Opwaardeerbaarheid: absoluut, in realtime en met een onbeperkte selectie aan cognitieve upgrades. Omdat deze AGI-categorie geen fysieke robotvorm heeft, heeft het natuurlijk geen fysieke upgrades nodig, tenzij die upgrades zijn voor de supercomputers waarin het werkt.
Collectief: Net als de vorige AGI-categorie, zal deze lichaamloze AGI effectief samenwerken met zijn AGI-collega's. Gezien de directere toegang tot onbeperkte rekenkracht en toegang tot online bronnen, zullen deze AGI's echter meestal een leidende rol spelen in een algemeen AGI-collectief.

Wanneer zal de mensheid de eerste kunstmatige algemene intelligentie creëren?

Er is geen vaste datum voor wanneer de AI-onderzoeksgemeenschap gelooft dat ze een legitieme AGI zullen uitvinden. Echter, een 2013 onderzoek van 550 van 's werelds beste AI-onderzoekers, uitgevoerd door vooraanstaande AI-onderzoeksdenkers Nick Bostrom en Vincent C. Müller, brachten het gemiddelde van de meningen tot drie mogelijke jaren:

Mediaan optimistisch jaar (10% kans): 2022
Mediaan realistisch jaar (50% kans): 2040
Mediaan pessimistisch jaar (90% kans): 2075

Hoe nauwkeurig deze voorspellingen zijn, doet er eigenlijk niet toe. Wat er wel toe doet, is dat de overgrote meerderheid van de AI-onderzoeksgemeenschap gelooft dat we binnen ons leven en relatief vroeg in deze eeuw een AGI zullen uitvinden.

Hoe het creëren van een kunstmatige algemene intelligentie de mensheid zal veranderen

We onderzoeken de impact van deze nieuwe AI in detail in het allerlaatste hoofdstuk van deze serie. Dat gezegd hebbende, zullen we voor dit hoofdstuk zeggen dat de creatie van een AGI erg zal lijken op de maatschappelijke reactie die we zullen ervaren als mensen leven op Mars vinden.

Het ene kamp zal het belang niet begrijpen en zal blijven denken dat wetenschappers een groot probleem maken over het maken van nog een krachtigere computer.

Een ander kamp, dat waarschijnlijk bestaat uit Luddieten en religieus ingestelde individuen, zal bang zijn voor deze AGI en denken dat het een gruwel is dat het zal proberen de mensheid in SkyNet-stijl uit te roeien. Dit kamp zal actief pleiten voor het verwijderen/vernietigen van AGI's in al hun vormen.

Aan de andere kant zal het derde kamp deze schepping zien als een moderne spirituele gebeurtenis. Op alle manieren die er toe doen, zal deze AGI een nieuwe vorm van leven zijn, een die anders denkt dan wij en wiens doelen anders zijn dan de onze. Zodra de oprichting van een AGI is aangekondigd, zullen mensen de aarde niet langer alleen met dieren delen, maar ook met een nieuwe klasse kunstmatige wezens wiens intelligentie gelijk is aan of superieur is aan die van ons.

Het vierde kamp omvat zakelijke belangen die zullen onderzoeken hoe ze AGI's kunnen gebruiken om in verschillende zakelijke behoeften te voorzien, zoals het opvullen van gaten op de arbeidsmarkt en het versnellen van de ontwikkeling van nieuwe goederen en diensten.

Vervolgens hebben we vertegenwoordigers van alle overheidsniveaus die over zichzelf struikelen om te begrijpen hoe AGI's moeten worden gereguleerd. Dit is het niveau waarop alle moraliserende en filosofische debatten tot een hoogtepunt zullen komen, met name over de vraag of deze AGI's als eigendom of als personen moeten worden behandeld.

En tot slot, het laatste kamp zullen de militaire en nationale veiligheidsdiensten zijn. In werkelijkheid is de kans groot dat de publieke aankondiging van de eerste AGI alleen al door dit kamp maanden tot jaren wordt uitgesteld. Waarom? Omdat de uitvinding van een AGI in korte tijd zal leiden tot de creatie van een kunstmatige superintelligentie (ASI), een die een enorme geopolitieke bedreiging vormt en een kans die de uitvinding van de atoombom ver overtreft.

Om deze reden zullen de volgende hoofdstukken zich volledig richten op het onderwerp ASI's en of de mensheid zal overleven na zijn uitvinding.

(Al te dramatische manier om een hoofdstuk te beëindigen? Wedden dat.)