Quantumrun

BILDKREDIT: Quantumrun

Hur vi skapar den första Artificial Superintelligence: Future of artificiell intelligens P3

David Tal, Förläggare, Futurist
@DavidTalWrites
LinkedIn

Tis, 09 / 15 / 2020 - 13: 17

Djupt in i andra världskriget ångrade nazistiska styrkor genom stora delar av Europa. De hade avancerade vapen, effektiv krigstidsindustri, fanatiskt driven infanteri, men framför allt hade de en maskin som hette Enigma. Denna enhet gjorde det möjligt för nazistiska styrkor att säkert samarbeta över långa avstånd genom att skicka morsekodade meddelanden till varandra över vanliga kommunikationslinjer; det var en chiffermaskin som var ointaglig för mänskliga kodbrytare.

Tack och lov hittade de allierade en lösning. De behövde inte längre ett mänskligt sinne för att bryta Enigma. Istället, genom en uppfinning av den sene Alan Turing, byggde de allierade ett revolutionerande nytt verktyg som heter Brittiska Bombe, en elektromekanisk anordning som slutligen dechiffrerade nazisternas hemliga kod, och till slut hjälpte dem att vinna kriget.

Denna Bombe lade grunden för det som blev den moderna datorn.

IJ Good, en brittisk matematiker och kryptolog, arbetade tillsammans med Turing under utvecklingsprojektet Bombe. Han såg tidigt i slutspelet att denna nya enhet en dag skulle kunna åstadkomma. I en 1965 papper, han skrev:

"Låt en ultraintelligent maskin definieras som en maskin som vida kan överträffa alla intellektuella aktiviteter hos vilken man än är smart. Eftersom design av maskiner är en av dessa intellektuella aktiviteter, skulle en ultraintelligent maskin kunna designa ännu bättre maskiner; det skulle då utan tvekan bli en "intelligensexplosion", och människans intelligens skulle lämnas långt bakom... Den första ultraintelligenta maskinen är alltså den sista uppfinning som människan någonsin behöver göra, förutsatt att maskinen är foglig nog att berätta för oss hur att hålla det under kontroll.”

Skapar den första artificiella superintelligensen

Hittills i vår Future of Artificial Intelligence-serie har vi definierat de tre breda kategorierna av artificiell intelligens (AI), från artificiell smal intelligens (ANI) till konstgjord allmän intelligens (AGI), men i det här seriekapitlet kommer vi att fokusera på den sista kategorin – den som föder antingen spänning eller panikattacker bland AI-forskare – artificiell superintelligens (ASI).

För att linda huvudet kring vad en ASI är, måste du tänka tillbaka på det sista kapitlet där vi beskrev hur AI-forskare tror att de kommer att skapa den första AGI. I grund och botten kommer det att krävas en kombination av stora data som matar bättre algoritmer (de som är specialiserade på självförbättring och människoliknande inlärningsförmågor) inrymt i allt kraftfullare datorhårdvara.

I det kapitlet beskrev vi också hur ett AGI-sinne (när det väl har fått dessa självförbättrings- och inlärningsförmågor som vi människor tar för givna) så småningom kommer att överträffa det mänskliga sinnet genom överlägsen tankehastighet, förbättrat minne, outtröttliga prestationer och omedelbar uppgradering.

Men här är det viktigt att notera att en AGI bara kommer att förbättra sig själv till gränserna för den hårdvara och data den har tillgång till; denna gräns kan vara stor eller liten beroende på vilken robotkropp vi ger den eller omfattningen av datorer vi tillåter den åtkomst till.

Samtidigt är skillnaden mellan en AGI och en ASI att den senare, teoretiskt sett, aldrig kommer att existera i fysisk form. Det kommer att fungera helt inom en superdator eller nätverk av superdatorer. Beroende på målen för dess skapare kan den också få full tillgång till all data som lagras på Internet, såväl som vilken enhet eller människa som matar data till och över Internet. Det betyder att det inte kommer att finnas någon praktisk gräns för hur mycket denna ASI kan lära sig och hur mycket den kan förbättra sig själv.

Och det är rubbet.

Förstå intelligensexplosionen

Denna process av självförbättring som AI:er så småningom kommer att vinna när de blir AGI:er (en process som AI-gemenskapen kallar rekursiv självförbättring) kan potentiellt lösa ut en positiv feedbackloop som ser ut ungefär så här:

En ny AGI skapas, ges tillgång till en robotkropp eller en stor datamängd, och får sedan den enkla uppgiften att utbilda sig själv, att förbättra sin intelligens. Till en början kommer denna AGI att ha samma IQ som ett spädbarn som kämpar för att förstå nya koncept. Med tiden lär den sig tillräckligt för att nå IQ för en genomsnittlig vuxen, men det slutar inte här. Med detta nyfunna IQ för vuxna blir det mycket enklare och snabbare att fortsätta denna förbättring till en punkt där dess IQ matchar de smartaste kända människorna. Men återigen, det stannar inte där.

Denna process förvärras på varje ny nivå av intelligens, efter lagen om att accelerera returer tills den når den oöverskådliga nivån av superintelligens – med andra ord, om den lämnas okontrollerad och ges obegränsade resurser kommer en AGI att själv förbättras till en ASI, ett intellekt som har aldrig tidigare funnits i naturen.

Detta är vad IJ Good först identifierade när han beskrev denna "intelligensexplosion" eller vad moderna AI-teoretiker, som Nick Bostrom, kallar AI:s "start"-händelse.

Förstå en artificiell superintelligens

Vid det här laget tänker några av er förmodligen att den viktigaste skillnaden mellan mänsklig intelligens och en ASI:s intelligens är hur snabbt båda sidor kan tänka. Och även om det är sant att denna teoretiska framtida ASI kommer att tänka snabbare än människor, är denna förmåga redan ganska vanlig i dagens datorsektor – vår smartphone tänker (beräknar) snabbare än ett mänskligt sinne, en superdator tänker miljontals gånger snabbare än en smartphone, och en framtida kvantdator kommer fortfarande att tänka snabbare.

Nej, hastighet är inte den egenskap av intelligens som vi förklarar här. Det är kvaliteten.

Du kan påskynda hjärnan på din samojed eller corgi så mycket du vill, men det leder inte till en ny förståelse för hur man tolkar språk eller abstrakta idéer. Även med ett extra decennium eller två kommer dessa hundar inte helt plötsligt att förstå hur man gör eller använder verktyg, än mindre förstå de finare skillnaderna mellan ett kapitalistiskt och socialistiskt ekonomiskt system.

När det gäller intelligens opererar människor på ett annat plan än djur. På samma sätt, om en ASI når sin fulla teoretiska potential, kommer deras sinnen att fungera på en nivå långt bortom räckhåll för den genomsnittliga moderna människan. För något sammanhang, låt oss titta på tillämpningarna av dessa ASI.

Hur kan en artificiell superintelligens fungera tillsammans med mänskligheten?

Förutsatt att en viss regering eller företag lyckas skapa ett ASI, hur kan de använda det? Enligt Bostrom finns det tre separata men relaterade former som dessa ASI kan ta:

Oracle. Här skulle vi interagera med en ASI på samma sätt som vi redan gör med Googles sökmotor; vi ställer en fråga till den, men oavsett hur komplex frågan är, kommer ASI att besvara den perfekt och på ett sätt som är skräddarsytt för dig och din frågas sammanhang.
Ande. I det här fallet kommer vi att tilldela en ASI en specifik uppgift, och den kommer att utföras enligt kommandot. Forskning ett botemedel mot cancer. Gjort. Hitta alla planeter gömda i eftersläpningen av 10 års bilder från NASA:s rymdteleskop Hubble. Gjort. Konstruera en fungerande fusionsreaktor för att lösa mänsklighetens energibehov. Abrakadabra.
Suverän. Här tilldelas ASI ett öppet uppdrag och ges friheten att utföra det. Stjäla FoU-hemligheterna från vår företagskonkurrent. "Lätt." Upptäck identiteten på alla utländska spioner som gömmer sig innanför våra gränser. "På det." Säkerställa det fortsatta ekonomiska välståndet i USA. "Inga problem."

Nu vet jag vad du tänker, det här låter ganska långsökt. Det är därför det är viktigt att komma ihåg att alla problem/utmaningar där ute, även de som har stört världens smartaste sinnen hittills, alla är lösbara. Men svårigheten med ett problem mäts av intellektet som tar itu med det.

Med andra ord, ju större sinne som tillämpas på en utmaning, desto lättare blir det att hitta en lösning på denna utmaning. Vilken utmaning som helst. Det är som en vuxen som tittar på ett spädbarn som kämpar för att förstå varför han inte kan passa in ett fyrkantigt block i en rund öppning – för den vuxne skulle det vara en barnlek att visa spädbarnet att blocket ska passa genom den fyrkantiga öppningen.

På samma sätt, skulle denna framtida ASI nå sin fulla potential, skulle detta sinne bli det mest kraftfulla intellektet i det kända universum – kraftfullt nog att lösa alla utmaningar, oavsett hur komplexa de är.

Det är därför som många AI-forskare kallar ASI för den sista uppfinning som människan någonsin kommer att behöva göra. Om det övertygas om att arbeta tillsammans med mänskligheten, kan det hjälpa oss att lösa alla världens mest angelägna problem. Vi kan till och med be den att eliminera all sjukdom och sluta åldrande som vi känner det. Mänskligheten kan för första gången lura döden permanent och gå in i en ny tid av välstånd.

Men motsatsen är också möjlig.

Intelligens är makt. Om den misskötts eller instrueras av dåliga skådespelare kan denna ASI bli det ultimata verktyget för förtryck, eller så kan den utrota mänskligheten helt och hållet – tänk Skynet från Terminator eller Arkitekten från Matrix-filmerna.

I själva verket är ingen av ytterligheterna trolig. Framtiden är alltid mycket stökigare än vad utopister och distopister förutspår. Det är därför nu när vi förstår konceptet med en ASI, kommer resten av den här serien att utforska hur en ASI kommer att påverka samhället, hur samhället kommer att försvara sig mot en skurk ASI och hur framtiden kan se ut om människor och AI lever sida vid sida -sida. Läs vidare.