Quantumrun

Ofbyldingskredyt: Quantumrun

Hoe't de earste keunstmjittige algemiene yntelliginsje de maatskippij sil feroarje: takomst fan keunstmjittige yntelliginsje P2

David Tal, útjouwer, Futurist
@DavidTalwrites
LinkedIn

Di, 09/15/2020 - 13:08

Wy hawwe piramiden boud. Wy learden elektrisiteit te benutten. Wy begripe hoe't ús universum ûntstie nei de Oerknal (meast). En fansels, it klisjeefoarbyld, wy hawwe in man op 'e moanne set. Dochs, nettsjinsteande al dizze prestaasjes, bliuwt it minsklik brein fier bûten it begryp fan moderne wittenskip en is it, standert, it meast komplekse objekt yn it bekende universum - of op syn minst ús begryp derfan.

Sjoen dizze realiteit soe it net hielendal skokkend wêze moatte dat wy noch gjin keunstmjittige yntelliginsje (AI) hawwe boud op gelyk oan minsken. In AI lykas Data (Star Trek), Rachael (Blade Runner), en David (Prometheus), of net-humanoïde AI lykas Samantha (Har) en TARS (Interstellar), dit binne allegear foarbylden fan 'e folgjende grutte mylpeal yn AI-ûntwikkeling: keunstmjittige algemiene yntelliginsje (AGI, soms ek oantsjutten as HLMI of Human Level Machine Intelligence).

Mei oare wurden, de útdaging foar AI-ûndersikers is: Hoe kinne wy in keunstmjittige geast bouwe dy't fergelykber is mei ús eigen as wy net iens in folslein begryp hawwe fan hoe't ús eigen geast wurket?

Wy sille dizze fraach ûndersykje, tegearre mei hoe't minsken sille opsteapje tsjin takomstige AGI's, en as lêste, hoe't de maatskippij sil feroarje de dei nei't de earste AGI oan 'e wrâld wurdt oankundige.

Wat is in keunstmjittige algemiene yntelliginsje?

Untwerp in AI dy't de bêste spilers yn skaken, Jeopardy en Go kin ferslaan, maklik (Djip blau, Watson, en AlphaGO respektivelik). Untwerp in AI dy't jo antwurden kin tsjinje op elke fraach, items foarstelle dy't jo miskien wolle keapje, of beheare in float fan rideshare-taksy's - heule bedriuwen fan meardere miljard dollar binne om har hinne boud (Google, Amazon, Uber). Sels in AI dy't jo fan de iene kant fan it lân nei de oare kin ride ... no, wy wurkje der oan.

Mar freegje in AI om in berneboek te lêzen en de ynhâld, betsjutting of moraal te begripen dy't it besiket te learen, of freegje in AI om it ferskil te fertellen tusken in foto fan in kat en in sebra, en jo sille úteinlik mear dan in pear feroarsaakje koarte circuits.

De natuer hat miljoenen jierren bestege oan it ûntwikkeljen fan in komputerapparaat (harsens) dat útblinkt by it ferwurkjen, begripen, learen, en dan hannelje op nije situaasjes en binnen nije omjouwings. Fergelykje dat mei de lêste heale ieu fan kompjûterwittenskip dy't har rjochte op it meitsjen fan komputerapparaten dy't ôfstimd wiene op 'e ientallige taken dêr't se foar waarden ûntworpen.

Mei oare wurden, de minske-kompjûter is in generalist, wylst de keunstmjittige kompjûter in spesjalist is.

It doel fan it meitsjen fan in AGI is om in AI te meitsjen dy't mear kin tinke en leare as in minske, troch ûnderfining ynstee fan direkte programmearring.

Yn 'e echte wrâld soe dit betsjutte dat in takomstige AGI leart hoe't se in grap lêze, skriuwe en fertelle, of in protte op himsels rinne, rinne en fytse, troch syn eigen ûnderfining yn 'e wrâld (mei hokker lichem of sensory organen / apparaten wy jouwe it), en troch syn eigen ynteraksje oare AI en oare minsken.

Wat it sil nimme om in keunstmjittige algemiene yntelliginsje te bouwen

Hoewol technysk lestich, moat it meitsjen fan in AGI mooglik wêze. As feitlik, d'r is in djip hâlden eigendom binnen de wetten fan 'e natuerkunde - de universaliteit fan berekkening - dy't yn prinsipe alles seit dat in fysyk objekt kin dwaan, in genôch krêftige, algemien-doel kompjûter soe, yn prinsipe, moatte kinne kopiearje / simulearje.

En dochs, it is lestich.

Gelokkich binne d'r in protte tûke AI-ûndersikers oer de saak (om net te sprekken fan in protte bedriuwen, regearings- en militêre finansiering dy't har stypje), en oant no hawwe se trije wichtige yngrediïnten identifisearre dy't se fiele dat se nedich binne om op te lossen om in AGI yn ús wrâld.

Grutte gegevens. De meast foarkommende oanpak fan AI-ûntwikkeling omfettet in technyk neamd djip learen - in spesifyk type masine-learsysteem dat wurket troch gigantyske hoemannichten gegevens op te slûpen, dizze gegevens yn in netwurk fan simulearre neuroanen te kraken (modellearre nei it minsklik brein), en dan brûk de befinings om har eigen ynsjoch te programmearjen. Foar mear details oer djip learen, Lês dit.

Bygelyks, yn 2017, Google fiede syn AI tûzenen bylden fan katten dy't syn djippe learsysteem brûkte om te learen net allinich hoe't jo in kat identifisearje, mar ûnderskiede tusken ferskate kattenrassen. Net lang nei, se kundige de driigjende frijlitting fan Google Lens, in nije sykapplikaasje wêrmei brûkers in foto fan alles kinne nimme en Google sil jo net allinich fertelle wat it is, mar ek wat nuttige kontekstuele ynhâld oanbiede dy't it beskriuwt - handich as jo reizgje en jo mear wolle leare oer in spesifike toeristyske attraksje. Mar ek hjir soe Google Lens net mooglik wêze sûnder de miljarden ôfbyldings dy't op it stuit yn syn byldsykmasjine steane.

En dochs is dizze kombinaasje fan grutte gegevens en djippe learen noch net genôch om in AGI te bringen.

Better algoritmen. Yn 'e ôfrûne desennia hat in Google-dochterûndernimming en lieder yn' e AI-romte, DeepMind, in plons makke troch de sterke punten fan djip learen te kombinearjen mei fersterking learen - in oanfoljende oanpak fan masine-learen dy't as doel hat AI te learen hoe't jo aksjes kinne nimme yn nije omjouwings om te berikken in set doel.

Mei tank oan dizze hybride taktyk, DeepMind's premjêre AI, AlphaGo, learde himsels net allinich hoe't jo AlphaGo spielje kinne troch de regels te downloaden en de strategyen fan master minsklike spilers te bestudearjen, mar nei't se miljoenen kearen tsjin himsels spile hawwe, koe hy doe de bêste AlphaGo-spilers ferslaan mei help fan bewegingen en strategyen nea earder sjoen yn it spul.

Likemin befette DeepMind's Atari-software-eksperimint it jaan fan in AI in kamera om in typysk spielskerm te sjen, it programmearjen mei de mooglikheid om spielopdrachten yn te fieren (lykas joystick-knoppen), en it ienige doel te jaan om syn skoare te ferheegjen. It resultaat? Binnen dagen learde it himsels hoe te spyljen en hoe te behearskjen tsientallen klassike arcade games.

Mar sa spannend as dizze iere súksessen binne, bliuwe d'r noch wat wichtige útdagings om op te lossen.

Foar ien, AI-ûndersikers wurkje oan it learen fan AI in trúk neamd 'chunking' wêryn minsklike en dierharsens útsûnderlik goed binne. Simpelwei, as jo beslute om boadskippen te keapjen, kinne jo jo eindoel visualisearje (in avokado keapje) en in rûch plan oer hoe't jo it soene dwaan (it hûs ferlitte, besykje de boadskippen, keapje de avokado, werom nei hûs). Wat jo net dogge is elke azem, elke stap, elke mooglike kontingint op jo wei dêrhinne te plannen. Ynstee hawwe jo in konsept (brok) yn jo gedachten fan wêr't jo hinne wolle en jo reis oanpasse oan hokker situaasje dy't opkomt.

Sa gewoan as it foar jo kin fiele, dit fermogen is ien fan 'e wichtichste foardielen dy't minsklike harsens noch hawwe boppe AI - it is it oanpassingsfermogen om in doel te setten en it nei te stribjen sûnder elk detail fan tefoaren te witten en nettsjinsteande elke obstakel of miljeuferoaring dy't wy tsjinkomme kinne. Dizze feardigens soe AGI's mooglik meitsje om effisjinter te learen, sûnder de needsaak foar de hjirboppe neamde grutte gegevens.

In oare útdaging is de mooglikheid om net allinich in boek te lêzen, mar begripe de betsjutting of kontekst efter it. Lange termyn is it doel hjir foar in AI om in kranteartikel te lêzen en in ferskaat oan fragen akkuraat te beantwurdzjen oer wat it lêst, sa'n bytsje as it skriuwen fan in boekrapport. Dit fermogen sil in AI transformearje fan gewoan in rekkenmasine dy't sifers krûpt nei in entiteit dy't betsjutting krûpt.

Oer it algemien sil fierdere foarútgong nei in sels-learend algoritme dat it minsklik brein kin mimike in wichtige rol spylje yn 'e úteinlike skepping fan in AGI, mar neist dit wurk hat de AI-mienskip ek bettere hardware nedich.

Bettere hardware. Troch de hjirboppe útleine hjoeddeistige oanpak te brûken, sil in AGI pas mooglik wurde nei't wy de beskikbere komputerkrêft serieus ferheegje om it út te fieren.

Foar kontekst, as wy it fermogen fan it minsklik brein om te tinken namen en it omsette yn komputative termen, dan is de rûge skatting fan in gemiddelde minsklike mentale kapasiteit ien eksaflop, wat lykweardich is oan 1,000 petaflops ('Flop' stiet foar driuwende-punt-operaasjes per twadde en mjit de snelheid fan berekkening).

Yn ferliking, oan 'e ein fan 2018, de machtichste superkomputer fan 'e wrâld, Japan's AI Bridging Cloud sil hum op 130 petaflops, fier koart fan ien exaflop.

As sketst yn ús supercomputers haadstik yn ús De takomst fan kompjûters searje, wurkje sawol de FS as Sina oan it bouwen fan har eigen exaflop-supercomputers troch 2022, mar sels as se suksesfol binne, kin dat noch net genôch wêze.

Dizze superkompjûters wurkje op ferskate tsientallen megawatt oan macht, nimme ferskate hûnderten fjouwerkante meters romte yn en kostje ferskate hûnderten miljoenen om te bouwen. In minsklik brein brûkt mar 20 watt oan krêft, past yn in skedel fan sawat 50 sm yn omtrek, en d'r binne sân miljard fan ús (2018). Mei oare wurden, as wy AGI's sa gewoan meitsje wolle as minsken, moatte wy leare hoe't wy se ekonomysk kinne meitsje.

Dêrta begjinne AI-ûndersikers te beskôgjen om takomstige AI's te betsjinjen mei kwantumkomputers. Beskreaun yn mear detail yn 'e kwantum kompjûters haadstik yn ús Future of Computers-searje, wurkje dizze kompjûters op in fûnemintele oare manier dan de kompjûters dy't wy de lêste heale ieu boud hawwe. Ienris perfeksjonearre troch de 2030's, sil in inkele kwantumkompjûter elke superkompjûter dy't op it stuit wurket yn 2018, wrâldwiid, byinoar berekkenje. Se sille ek folle lytser wêze en folle minder enerzjy brûke as hjoeddeistige superkompjûters.

Hoe soe in keunstmjittige algemiene yntelliginsje superieur wêze oan in minske?

Litte wy oannimme dat elke hjirboppe neamde útdaging wurdt útfûn, dat AI-ûndersikers súkses fine by it meitsjen fan de earste AGI. Hoe sil in AGI-geast oars wêze as ús eigen?

Om dit soarte fraach te beantwurdzjen, moatte wy AGI-geasten klassifisearje yn trije kategoryen, dyjingen dy't libje yn in robotlichem (Gegevens fan Star Trek), dyjingen dy't in fysike foarm hawwe, mar binne draadloos ferbûn mei it ynternet / wolk (Agent Smith fan de Matrix) en dyjingen sûnder in fysike foarm dy't folslein yn in kompjûter of online libje (Samantha fan games).

Om te begjinnen, AGI's binnen in robotysk lichem isolearre fan it web sille konkurrearje op par mei minsklike geasten, mar mei selekteare foardielen:

Unthâld: Ofhinklik fan it ûntwerp fan 'e robotfoarm fan' e AGI, sille har koarte termyn ûnthâld en ûnthâld fan wichtige ynformaasje perfoarst superieur wêze oan minsken. Mar oan 'e ein fan' e dei is d'r in fysike limyt foar hoefolle romte op 'e hurde skiif jo kinne ynpakke yn robot, oannommen dat wy se ûntwerpe om te lykjen op minsken. Om dizze reden sil it langetermynûnthâld fan AGI's tige hannelje as dat fan minsken, aktyf ferjitten fan ynformaasje en oantinkens dy't net nedich wurde achte foar har takomstige funksjonearjen (om 'skiifromte' frij te meitsjen).
Snelheid: De prestaasjes fan neuroanen yn it minsklik brein maksimaal op rûchwei 200 hertz, wylst moderne mikroprocessors rinne op it gigahertz-nivo, dus miljoenen kearen rapper dan neuronen. Dit betsjut yn ferliking mei minsken, takomstige AGI's sille ynformaasje ferwurkje en besluten rapper nimme dan minsken. Tink derom, dit betsjuttet net needsaaklik dat dizze AGI slimmer of krekter besluten sil nimme dan minsken, allinich dat se rapper ta konklúzjes kinne komme.
Prestaasje: Simply set, it minsklik brein wurdt wurch as it wurket te lang sûnder rêst of sliep, en as it docht, syn ûnthâld en syn fermogen om te learen en reden wurdt beheind. Underwilens, foar AGI's, oannommen dat se regelmjittich opladen wurde (elektrisiteit), sille se dy swakke net hawwe.
Upgradeberens: Foar in minske kin it learen fan in nije gewoante wiken fan praktyk nimme, it learen fan in nije feardigens kin moannen duorje, en it learen fan in nij berop kin jierren duorje. Foar in AGI sille se de mooglikheid hawwe om te learen sawol troch ûnderfining (lykas minsken) as troch direkte upload fan gegevens, fergelykber mei hoe't jo it OS fan jo kompjûter regelmjittich bywurkje. Dizze fernijings kinne jilde foar kennisupgrades (nije feardichheden) of prestaasjesupgrades foar de fysike foarm fan AGI.

Litte wy dan nei AGI's sjen dy't in fysike foarm hawwe, mar ek draadloos ferbûn binne mei it ynternet / wolk. De ferskillen dy't wy kinne sjen mei dit nivo yn ferliking mei net-ferbûne AGI's omfetsje:

Unthâld: Dizze AGI's sille alle foardielen op koarte termyn hawwe dy't de foarige AGI-klasse hat, útsein dat se ek sille profitearje fan perfekt langtermynûnthâld, om't se dizze oantinkens kinne uploade nei de wolk om tagong te krijen as it nedich is. Fansels sil dit ûnthâld net tagonklik wêze yn gebieten mei lege ferbining, mar dat sil minder fan in soarch wurde yn 'e 2020's en 2030's as mear fan 'e wrâld online komt. Lês mear yn Haadstik Ien fan ús Takomst fan it ynternet searje.
Snelheid: Ofhinklik fan it type obstakel dat dizze AGI tsjinkomt, kinne se tagong krije ta de gruttere berekkeningskrêft fan 'e wolk om har te helpen it op te lossen.
Prestaasje: Gjin ferskil yn ferliking mei net-ferbûne AGI's.
Upgradeberens: It ienige ferskil tusken mei dizze AGI as it relatearret oan upgradeberens is dat se tagong krije ta upgrades yn realtime, draadloos, ynstee fan te besykjen en te plugjen yn in upgradedepot.
Kollektyf: Minsken waarden de dominante soarte fan 'e ierde net om't wy it grutste of sterkste bist wiene, mar om't wy learden hoe't wy op ferskate manieren kommunisearje en gearwurkje om kollektive doelen te berikken, fan it jagen fan in Woolly Mammoth oant it bouwen fan it International Space Station. In team fan AGI's soe dizze gearwurking nei it folgjende nivo bringe. Sjoen alle kognitive foardielen dy't hjirboppe neamd binne en kombinearje dat dan mei de mooglikheid om draadloos te kommunisearjen, sawol persoanlik as oer lange ôfstannen, in takomstige AGI-team / korfgeast koe teoretysk projekten folle effisjinter oanpakke dan in team fan minsken.

Uteinlik is it lêste type AGI de ferzje sûnder in fysike foarm, ien dy't wurket binnen in kompjûter, en hat tagong ta de folsleine kompjûterkrêft en online boarnen dy't har makkers it leverje. Yn sci-fi-sjo's en boeken nimme dizze AGI's normaal de foarm oan fan saakkundige firtuele assistinten/freonen as it spunky bestjoeringssysteem fan in romteskip. Mar yn ferliking mei de oare twa kategoryen fan AGI, dizze AI sil ferskille yn de folgjende manieren;

Faasje: Unbeheind (of, op syn minst oant de grinzen fan 'e hardware dêr't it tagong ta hat).
Unthâld: Unbeheind
Prestaasje: Ferheging fan kwaliteit fan beslútfoarming tanksij syn tagong ta superkomputersintra.
Upgradeberens: Absoluut, yn echte tiid, en mei in ûnbeheinde seleksje fan kognitive upgrades. Fansels, om't dizze AGI-kategory gjin fysike robotfoarm hat, sil it gjin ferlet hawwe fan de beskikbere fysike upgrades, útsein as dy upgrades binne foar de supercomputers wêryn't se wurkje.
Kollektive: Lykas de foarige AGI-kategory, sil dizze lichemleaze AGI effektyf gearwurkje mei syn AGI-kollega's. Sjoen syn mear direkte tagong ta ûnbeheinde kompjûterkrêft en tagong ta online boarnen, sille dizze AGI's lykwols normaal liederskipsrollen nimme yn in algemien AGI-kollektyf.

Wannear sil it minskdom de earste keunstmjittige algemiene yntelliginsje meitsje?

D'r is gjin fêste datum foar wannear't de AI-ûndersyksmienskip leaut dat se in legitime AGI sille útfine. Lykwols, a 2013 survey fan 550 fan 'e wrâld syn top AI ûndersikers, útfierd troch liedende AI ûndersyk tinkers Nick Bostrom en Vincent C. Müller, gemiddelde út it berik fan mieningen oant trije mooglike jierren:

Mediaan optimistysk jier (10% kâns): 2022
Mediaan realistysk jier (50% kâns): 2040
Mediaan pessimistysk jier (90% kâns): 2075

Hoe krekt dizze foarsizzings binne makket net echt út. Wat der ek oan docht is dat de grutte mearderheid fan 'e AI-ûndersyksmienskip leaut dat wy in AGI sille útfine binnen ús libben en relatyf betiid yn dizze ieu.

Hoe it meitsjen fan in keunstmjittige algemiene yntelliginsje sil it minskdom feroarje

Wy ûndersykje de ynfloed fan dizze nije AI yn detail yn it heul lêste haadstik fan dizze searje. Dat sei, foar dit haadstik sille wy sizze dat de skepping fan in AGI heul gelyk sil wêze oan 'e maatskiplike reaksje dy't wy sille ûnderfine as minsken it libben op Mars fine.

Ien kamp sil de betsjutting net begripe en sil trochgean te tinken dat wittenskippers in grut probleem meitsje oer it meitsjen fan noch in oare machtiger kompjûter.

In oar kamp, wierskynlik besteande út Ludditen en religieus minded yndividuen, sil eangje dizze AGI, tinken dat it is in grouwel dat it sil besykje te útroegjen minskdom SkyNet-styl. Dit kamp sil aktyf pleitsje foar it wiskjen / ferneatigjen fan AGI's yn al har foarmen.

Oan 'e oare kant sil it tredde kamp dizze skepping sjen as in modern geastlik barren. Op alle manieren dy't der ta dogge, sil dizze AGI in nije foarm fan libben wêze, ien dy't oars tinkt as wy dogge en waans doelen oars binne as ús eigen. Sadree't de skepping fan in AGI is oankundige, sille minsken de ierde net langer diele mei gewoan bisten, mar ek neist in nije klasse fan keunstmjittige wêzens waans yntelliginsje op par of superieur is oan ús eigen.

It fjirde kamp sil saaklike belangen omfetsje dy't sille ûndersykje hoe't se AGI's kinne brûke om ferskate saaklike behoeften oan te pakken, lykas it opfoljen fan gatten op 'e arbeidsmerk en it fersnellen fan' e ûntwikkeling fan nije guod en tsjinsten.

Dêrnei hawwe wy fertsjintwurdigers fan alle nivo's fan oerheid dy't oer harsels sille reizgje om te besykjen sin te meitsjen oer hoe't AGI's regelje. Dit is it nivo dêr't alle moralisearjende en filosofyske debatten op in kop komme sille, spesifyk oer it behanneljen fan dizze AGI's as eigendom of as persoanen.

En úteinlik sil it lêste kamp de militêre en nasjonale feiligens-ynstânsjes wêze. Yn wierheid is d'r in goede kâns dat de iepenbiere oankundiging fan 'e earste AGI mei moannen oant jierren kin wurde fertrage fanwege dit kamp allinich. Wêrom? Omdat de útfining fan in AGI, sil yn koarte folchoarder liede ta de oprjochting fan in keunstmjittige superintelligence (ASI), ien dy't sil fertsjintwurdigje in massale geopolitike bedriging en in kâns fier boppe de útfining fan de nukleêre bom.

Om dizze reden sille de folgjende pear haadstikken folslein rjochtsje op it ûnderwerp fan ASI's en oft it minskdom nei syn útfining sil oerlibje.

(Te dramatyske manier om in haadstik te einigjen? Do betcha.)