Quantumrun

Ofbyldingskredyt: Quantumrun

Hoe't wy de earste Artificial Superintelligence sille meitsje: Future of Artificial Intelligence P3

David Tal, útjouwer, Futurist
@DavidTalwrites
LinkedIn

Di, 09/15/2020 - 13:17

Djip yn 'e Twadde Wrâldoarloch stoomden nazi-troepen troch in grut part fan Jeropa. Se hiene avansearre wapens, effisjinte oarlochstiid yndustry, fanatysk dreaun ynfantery, mar boppe alles, se hiene in masine neamd Enigma. Dit apparaat koe nazi-troepen feilich gearwurkje oer lange ôfstannen troch Morse-kodearre berjochten nei elkoar te stjoeren oer standert kommunikaasjelinen; it wie in sifermasine dy't ûnmooglik wie foar minsklike koadebrekkers.

Gelokkich fûnen de Alliearden in oplossing. Se hawwe gjin minsklike geast mear nedich om Enigma te brekken. Ynstee, troch in útfining fan de lette Alan Turing, bouden de Alliearden in revolúsjonêr nij ark neamd de Britske Bombe, in elektromeganysk apparaat dat úteinlik de geheime koade fan 'e nazi's ûntsifere, en har úteinlik holp om de oarloch te winnen.

Dizze Bombe lei de basis foar wat de moderne kompjûter waard.

IJ Good, in Britske wiskundige en kryptolooch, wurke neist Turing tidens it Bombe-ûntwikkelingsprojekt. Hy seach betiid op it einspiel dat dit nije apparaat ien dei koe bringe. Yn in 1965 papier, hy skreau:

"Lit in ultra-yntelligente masine wurde definieare as in masine dy't alle yntellektuele aktiviteiten fan elke man, hoe tûk ek, fier oertreffe kin. Sûnt it ûntwerp fan masines is ien fan dizze yntellektuele aktiviteiten, koe in ultra-yntelliginte masine ûntwerpe noch better masines; d'r soe dan sûnder mis in "yntelliginsje-eksploazje" wêze, en de yntelliginsje fan 'e minske soe fier efterlitten wurde ... Sa is de earste ultra-yntelliginte masine de lêste útfining dy't de minske oait meitsje moat, op betingst dat de masine fatsoenlik genôch is om ús te fertellen hoe't om it ûnder kontrôle te hâlden."

It meitsjen fan de earste keunstmjittige superintelliginsje

Oant no ta yn ús Future of Artificial Intelligence-searje hawwe wy de trije brede kategoryen fan keunstmjittige yntelliginsje (AI) definieare, fan keunstmjittige smelle yntelliginsje (ANI) oan keunstmjittige algemiene yntelliginsje (AGI), mar yn dit haadstik fan 'e searje sille wy ús rjochtsje op' e lêste kategory - dejinge dy't opwining as panykoanfallen ûnder AI-ûndersikers fokt - keunstmjittige superintelliginsje (ASI).

Om jo holle om te wikkeljen wat in ASI is, moatte jo weromtinke oan it lêste haadstik wêr't wy sketste hoe't AI-ûndersikers leauwe dat se de earste AGI sille meitsje. Yn prinsipe sil it in kombinaasje duorje fan grutte gegevens dy't bettere algoritmen fieden (ien dy't spesjalisearje yn selsferbettering en minsklike learfeardigens) ûnderbrocht yn hieltyd machtiger komputerhardware.

Yn dat haadstik hawwe wy ek sketst hoe't in AGI-geast (as it ienris dizze selsferbettering en learmooglikheden wint dy't wy minsken as fanselssprekkend nimme) úteinlik de minsklike geast sil oertsjûgje troch superieure gedachtesnelheid, ferbettere ûnthâld, ûnferbidlike prestaasjes, en instant upgradability.

Mar hjir is it wichtich om te notearjen dat in AGI allinich sels ferbetterje sil oant de grinzen fan 'e hardware en gegevens dêr't it tagong ta hat; dizze limyt kin wêze grut of lyts ôfhinklik fan it robot lichem wy jouwe it of de skaal fan kompjûters wy tastean it tagong ta.

Underwilens is it ferskil tusken in AGI en in ASI dat de lêste, teoretysk, nea sil bestean yn in fysike foarm. It sil folslein operearje binnen in superkomputer as netwurk fan supercomputers. Ofhinklik fan de doelen fan syn makkers, kin it ek folsleine tagong krije ta alle gegevens opslein op it ynternet, lykas hokker apparaat of minske dan ek dat gegevens yn en oer it ynternet feedt. Dit betsjut dat d'r gjin praktyske limyt sil wêze foar hoefolle dizze ASI kin leare en hoefolle it sels kin ferbetterje.

En dat is de rub.

Begryp fan 'e yntelliginsje-eksploazje

Dit proses fan selsferbettering dat AI's úteinlik sille winne as se AGI's wurde (in proses dat de AI-mienskip rekursive selsferbettering neamt) kin mooglik in positive feedback-loop ôfbrekke dy't der sa útsjocht:

In nije AGI wurdt makke, jûn tagong ta in robot lichem of in grutte dataset, en dan jûn de ienfâldige taak fan it oplieden fan himsels, fan it ferbetterjen fan syn yntelliginsje. Yn it earstoan sil dizze AGI it IQ hawwe fan in poppe dy't muoite hat om nije begripen te begripen. Yn 'e rin fan' e tiid leart it genôch om it IQ fan in gemiddelde folwoeksene te berikken, mar it stopet hjir net. Troch dit nijfûne IQ foar folwoeksenen te brûken, wurdt it folle makliker en rapper om dizze ferbettering troch te gean oant in punt wêr't syn IQ oerienkomt mei dat fan 'e tûkst bekende minsken. Mar wer, it stopet dêr net.

Dit proses ferbynt op elk nij nivo fan yntelliginsje, neffens de wet fan it fersnellen fan rendeminten oant it it ûnberekkenbere nivo fan superintelliginsje berikt - mei oare wurden, as it net kontrolearre wurdt en ûnbeheinde boarnen jûn wurdt, sil in AGI sels ferbetterje yn in ASI, in yntellekt dat hat noch nea yn de natuer bestien.

Dit is wat IJ Good foar it earst identifisearre doe't hy dizze 'yntelliginsje-eksploazje' beskreau of wat moderne AI-teoretici, lykas Nick Bostrom, it 'starte'-evenemint fan 'e AI neame.

In keunstmjittige superintelliginsje begripe

Op dit punt tinke guon fan jo wierskynlik dat it wichtichste ferskil tusken minsklike yntelliginsje en de yntelliginsje fan in ASI is hoe fluch elke kant kin tinke. En hoewol it wier is dat dizze teoretyske takomst ASI rapper tinkt dan minsken, is dit fermogen al frij gewoan yn 'e hjoeddeistige kompjûtersektor - ús smartphone tinkt (berekkent) rapper dan in minsklike geast, in Supercomputer tinkt miljoenen kearen rapper dan in smartphone, en in takomstige kwantumkomputer sil noch rapper tinke.

Nee, snelheid is net it skaaimerk fan yntelliginsje dat wy hjir útlizze. It is de kwaliteit.

Jo kinne de harsens fan jo Samoyed of Corgi alles fersnelle wat jo wolle, mar dat fertaalt net yn in nij begryp hoe't jo taal as abstrakte ideeën kinne ynterpretearje. Sels mei in ekstra desennia as twa sille dizze doggo's net ynienen begripe hoe't se ark meitsje of brûke, lit stean de fynere ferskillen tusken in kapitalistysk en sosjalistyske ekonomysk systeem begripe.

As it giet om yntelliginsje, wurkje minsken op in oar flak as bisten. Likemin, as in ASI syn folsleine teoretyske potensjeel berikke sil, sille har geasten operearje op in nivo fier bûten it berik fan 'e gemiddelde moderne minske. Litte wy foar guon kontekst nei de applikaasjes fan dizze ASI sjen.

Hoe kin in keunstmjittige superintelliginsje neist it minskdom wurkje?

Oannommen dat in bepaalde regearing of korporaasje suksesfol is yn it meitsjen fan in ASI, hoe kinne se it brûke? Neffens Bostrom binne d'r trije aparte, mar besibbe foarmen dy't dizze ASI kinne nimme:

Oracle Hjir, wy soene ynteraksje mei in ASI itselde as wy al dogge mei de Google sykmasine; wy sille it in fraach stelle, mar hoe kompleks dizze fraach ek is, de ASI sil it perfekt beäntwurdzje en op in manier dy't is ôfstimd op jo en de kontekst fan jo fraach.
Genie. Yn dit gefal, wy sille tawize in ASI in spesifike taak, en it sil útfiere as opdracht. Undersykje in remedie foar kanker. Dien. Fyn alle planeten ferburgen binnen de efterstân fan 10 jier wearde oan bylden fan NASA's Hubble Space Telescope. Dien. Yngenieur in wurkjende fúzjereaktor om de enerzjyfraach fan 'e minskheid op te lossen. Abracadabra.
Sovereign. Hjir wurdt de ASI in missy mei iepen ein tawiisd en de frijheid jûn om it út te fieren. Steal de R&D-geheimen fan ús bedriuwskonkurrint. "Maklik." Untdek de identiteiten fan alle bûtenlânske spionnen dy't ferburgen binne binnen ús grinzen. "Derop." Fersekerje de oanhâldende ekonomyske wolfeart fan 'e Feriene Steaten. "Gjin probleem."

No, ik wit wat jo tinke, dit klinkt allegear frij fier. Dêrom is it wichtich om te betinken dat elk probleem / útdaging derút, sels dejingen dy't de helderste geasten fan 'e wrâld oant no ta hawwe stumpe, se binne allegear oplosber. Mar de muoite fan in probleem wurdt mjitten troch it yntellekt dat it oanpakt.

Mei oare wurden, hoe grutter de geast tapast op in útdaging, hoe makliker it wurdt om in oplossing te finen foar de útdaging. Elke útdaging. It is as in folwoeksene dy't sjocht nei in pjutteboartersplak stride om te begripen wêrom't hy net in fjouwerkant blok yn in rûne iepening passe kin - foar de folwoeksene soe it berntsje sjen litte dat it blok troch de fjouwerkante iepening passe moat.

Likemin soe dizze takomst ASI syn folsleine potensjeel berikke, dizze geast soe it machtichste yntellekt wurde yn it bekende universum - krêftich genôch om elke útdaging op te lossen, hoe kompleks dan ek.

Dit is wêrom in protte AI-ûndersikers de ASI neame de lêste útfining dy't de minske ea sil moatte meitsje. As oertsjûge om neist it minskdom te wurkjen, kin it ús helpe om alle driuwendste problemen fan 'e wrâld op te lossen. Wy kinne it sels freegje om alle sykte te eliminearjen en fergrizing te beëinigjen sa't wy it kenne. It minskdom kin foar it earst de dea permanint cheat en in nij tiidrek fan wolfeart yngean.

Mar it tsjinoerstelde is ek mooglik.

Yntelliginsje is macht. As ferkeard beheard of ynstruearre troch minne akteurs, kin dizze ASI it ultime ark wurde fan ûnderdrukking, of it kin it minskdom hielendal útroege - tink Skynet fan 'e Terminator of de Arsjitekt út' e Matrix-films.

Yn wierheid is gjin ekstreem wierskynlik. De takomst is altyd folle rommeliger dan utopisten en distopisten foarsizze. Dat is wêrom, no't wy it konsept fan in ASI begripe, de rest fan dizze searje sil ûndersykje hoe't in ASI de maatskippij sil beynfloedzje, hoe't de maatskippij sil ferdigenje tsjin in skelm ASI, en hoe't de takomst der útsjen kin as minsken en AI njonken libje -side. Lês fierder.