Quantumrun

OBRÁZOK PRE OBRÁZOK: Quantumrun

Ako vytvoríme prvú umelú superinteligenciu: Budúcnosť umelej inteligencie P3

David Tal, vydavateľ, futurista
@DavidTalWrites
LinkedIn

Ut, 09 - 15:2020

Hlboko v druhej svetovej vojne sa nacistické sily valili veľkou časťou Európy. Mali pokročilé zbrane, efektívny vojnový priemysel, fanaticky riadenú pechotu, no predovšetkým mali stroj zvaný Enigma. Toto zariadenie umožnilo nacistickým silám bezpečne spolupracovať na veľké vzdialenosti posielaním správ v morzeovke cez štandardné komunikačné linky; bol to šifrovací stroj nedobytný pre lámačov ľudských kódov.

Našťastie spojenci našli riešenie. Na rozbitie Enigmy už nepotrebovali ľudskú myseľ. Namiesto toho, prostredníctvom vynálezu zosnulého Alana Turinga, Spojenci vytvorili nový revolučný nástroj s názvom Britská bomba, elektromechanické zariadenie, ktoré nakoniec rozlúštilo tajný kód nacistov a v konečnom dôsledku im pomohlo vyhrať vojnu.

Tento Bombe položil základy toho, čo sa stalo moderným počítačom.

Po boku Turinga počas vývojového projektu Bombe pracoval IJ Good, britský matematik a kryptológ. Na konci hry videl, že toto nové zariadenie jedného dňa môže priniesť. V 1965 papier, napísal:

„Nech je ultrainteligentný stroj definovaný ako stroj, ktorý môže ďaleko prekonať všetky intelektuálne aktivity každého človeka, akokoľvek bystrého. Keďže dizajn strojov je jednou z týchto intelektuálnych činností, ultrainteligentný stroj by mohol navrhnúť ešte lepšie stroje; potom by nepochybne došlo k „explózii inteligencie“ a inteligencia človeka by zostala ďaleko pozadu... Prvý ultrainteligentný stroj je teda posledným vynálezom, ktorý by človek kedy potreboval, za predpokladu, že je dostatočne poslušný, aby nám povedal, ako aby to bolo pod kontrolou."

Vytvorenie prvej umelej superinteligencie

Doteraz sme v našej sérii Future of Artificial Intelligence definovali tri široké kategórie umelej inteligencie (AI), od umelá úzka inteligencia (ANI) do umelá všeobecná inteligencia (AGI), ale v tejto kapitole série sa zameriame na poslednú kategóriu – tú, ktorá medzi výskumníkmi AI vyvoláva buď vzrušenie alebo záchvaty paniky – umelú superinteligenciu (ASI).

Aby ste si uvedomili, čo je ASI, musíte si spomenúť na poslednú kapitolu, kde sme načrtli, ako výskumníci AI veria, že vytvoria prvé AGI. V zásade to bude vyžadovať kombináciu lepších algoritmov dodávania veľkých dát (takých, ktoré sa špecializujú na sebazdokonaľovanie a schopnosti učenia podobné ľuďom), ktoré sú umiestnené v čoraz výkonnejšom výpočtovom hardvéri.

V tejto kapitole sme tiež načrtli, ako AGI myseľ (akonáhle získa tieto schopnosti sebazdokonaľovania a učenia, ktoré my ľudia považujeme za samozrejmosť) nakoniec prekoná ľudskú myseľ vďaka vyššej rýchlosti myslenia, zlepšenej pamäti, neúnavnému výkonu a okamžitá upgradovateľnosť.

Tu je však dôležité poznamenať, že AGI sa bude zlepšovať len po limity hardvéru a údajov, ku ktorým má prístup; tento limit môže byť veľký alebo malý v závislosti od tela robota, ktoré mu poskytneme, alebo od rozsahu počítačov, ku ktorým mu umožníme prístup.

Medzitým je rozdiel medzi AGI a ASI v tom, že ASI teoreticky nikdy nebude existovať vo fyzickej forme. Bude fungovať výlučne v rámci superpočítača alebo siete superpočítačov. V závislosti od cieľov svojich tvorcov môže tiež získať úplný prístup ku všetkým údajom uloženým na internete, ako aj k akémukoľvek zariadeniu alebo človeku, ktorý dodáva údaje do internetu a cez internet. To znamená, že nebude existovať žiadne praktické obmedzenie toho, koľko sa toto ASI môže naučiť a koľko sa môže zlepšiť.

A to je ten rub.

Pochopenie spravodajskej explózie

Tento proces sebazdokonaľovania, ktorý AI nakoniec získajú, keď sa stanú AGI (proces, ktorý komunita AI nazýva rekurzívne sebazlepšovanie), môže potenciálne spustiť slučku pozitívnej spätnej väzby, ktorá vyzerá asi takto:

Vytvorí sa nové AGI, dostane prístup k telu robota alebo veľkému súboru údajov a potom dostane jednoduchú úlohu vzdelávať sa a zlepšovať svoju inteligenciu. Spočiatku bude mať toto AGI IQ dieťaťa, ktoré sa snaží pochopiť nové koncepty. Postupom času sa naučí dosť na to, aby dosiahol IQ priemerného dospelého človeka, no tu to nekončí. Pomocou tohto novoobjaveného dospelého IQ je oveľa jednoduchšie a rýchlejšie pokračovať v tomto zlepšovaní až do bodu, kedy sa jeho IQ zhoduje s IQ najchytrejších známych ľudí. Ale opäť to nekončí.

Tento proces sa spája na každej novej úrovni inteligencie, podľa zákona zrýchľovania návratov, až kým nedosiahne nevyčísliteľnú úroveň superinteligencie – inými slovami, ak zostane nekontrolovaný a dostane neobmedzené zdroje, AGI sa sám vylepší na ASI, intelekt, ktorý v prírode ešte nikdy neexistoval.

To je to, čo IJ Good prvýkrát identifikoval, keď opísal túto „explóziu inteligencie“ alebo to, čo moderní teoretici AI, ako Nick Bostrom, nazývajú udalosťou „vzletu“ AI.

Pochopenie umelej superinteligencie

V tomto bode si niektorí z vás pravdepodobne myslia, že kľúčový rozdiel medzi ľudskou inteligenciou a inteligenciou ASI je v tom, ako rýchlo dokáže každá strana myslieť. A aj keď je pravda, že tento teoretický budúci ASI bude myslieť rýchlejšie ako ľudia, táto schopnosť je už pomerne bežná v celom dnešnom počítačovom sektore – náš smartfón myslí (počíta) rýchlejšie ako ľudská myseľ. Superpočítač myslí miliónkrát rýchlejšie ako smartfón a budúci kvantový počítač bude myslieť ešte rýchlejšie.

Nie, rýchlosť nie je vlastnosťou inteligencie, ktorú tu vysvetľujeme. Ide o kvalitu.

Mozog svojho samojeda alebo corgiho môžete zrýchliť, ako len chcete, ale to sa nepremieta do nového chápania, ako interpretovať jazyk alebo abstraktné myšlienky. Dokonca ani s ďalším desaťročím alebo dvoma, títo psi zrazu nepochopia, ako vyrábať alebo používať nástroje, nehovoriac o jemnejších rozdieloch medzi kapitalistickým a socialistickým ekonomickým systémom.

Pokiaľ ide o inteligenciu, ľudia fungujú na inej úrovni ako zvieratá. Podobne, ak ASI dosiahne svoj plný teoretický potenciál, ich myseľ bude fungovať na úrovni, ktorá je ďaleko mimo dosahu priemerného moderného človeka. Pre nejaký kontext sa pozrime na aplikácie týchto ASI.

Ako môže umelá superinteligencia fungovať popri ľudstve?

Za predpokladu, že určitá vláda alebo korporácia je úspešná pri vytváraní ASI, ako by ju mohla použiť? Podľa Bostroma existujú tri samostatné, ale súvisiace formy, ktoré môžu mať tieto ASI:

Oracle. Tu by sme interagovali s ASI rovnako, ako už robíme s vyhľadávacím nástrojom Google; položíme mu otázku, ale bez ohľadu na to, aká zložitá je otázka, ASI na ňu odpovie dokonale a spôsobom, ktorý je prispôsobený vám a kontextu vašej otázky.
Genie. V tomto prípade ASI pridelíme konkrétnu úlohu a tá sa vykoná podľa príkazu. Preskúmajte liek na rakovinu. Hotový. Nájdite všetky planéty ukryté v nevybavených 10-ročných snímkach z Hubbleovho vesmírneho teleskopu agentúry NASA. Hotový. Navrhnite funkčný fúzny reaktor, aby ste vyriešili dopyt ľudstva po energii. Abrakadabra.
suverénny. Tu je ASI pridelená misia s otvoreným koncom a má slobodu ju vykonávať. Ukradnite tajomstvá výskumu a vývoja od nášho podnikového konkurenta. "Jednoducho." Objavte identitu všetkých zahraničných špiónov, ktorí sa ukrývajú v našich hraniciach. "Na to." Zabezpečiť pokračujúcu ekonomickú prosperitu Spojených štátov. "Žiaden problém."

Teraz viem, čo si myslíš, toto všetko znie dosť pritiahnuté za vlasy. Preto je dôležité mať na pamäti, že každý problém/výzva tam vonku, dokonca aj tie, ktoré doteraz zarazili najbystrejšie mysle sveta, sú všetky riešiteľné. Ale obtiažnosť problému sa meria intelektom, ktorý ho rieši.

Inými slovami, čím viac mysle aplikovanej na výzvu, tým ľahšie je nájsť riešenie danej výzvy. Akákoľvek výzva. Je to ako keď dospelý sleduje dojča, ako sa snaží pochopiť, prečo nemôže vložiť štvorcový blok do okrúhleho otvoru – pre dospelého by bola detská hra ukázať dieťaťu, že blok by sa mal zmestiť cez štvorcový otvor.

Podobne, ak by táto budúca ASI dosiahla svoj plný potenciál, táto myseľ by sa stala najmocnejším intelektom v známom vesmíre – dostatočne mocným na to, aby vyriešila akúkoľvek výzvu, bez ohľadu na jej zložitosť.

To je dôvod, prečo mnohí výskumníci AI nazývajú ASI posledným vynálezom, ktorý človek kedy bude musieť urobiť. Ak sme presvedčení o spolupráci s ľudstvom, môže nám to pomôcť vyriešiť všetky najpálčivejšie problémy sveta. Môžeme ho dokonca požiadať, aby odstránil všetky choroby a ukončil starnutie, ako ho poznáme. Ľudstvo môže prvýkrát natrvalo oklamať smrť a vstúpiť do nového veku prosperity.

Ale možný je aj opak.

Inteligencia je sila. Ak by bol tento ASI zle riadený alebo dostal pokyny od zlých hercov, mohol by sa stať konečným nástrojom útlaku alebo by mohol úplne vyhubiť ľudstvo – predstavte si Skynet z filmu Terminátor alebo Architekta z filmov Matrix.

V skutočnosti nie je pravdepodobný ani jeden extrém. Budúcnosť je vždy oveľa chaotická, ako predpovedajú utopisti a distopisti. To je dôvod, prečo teraz, keď rozumieme konceptu ASI, zvyšok tejto série bude skúmať, ako ASI ovplyvní spoločnosť, ako sa bude spoločnosť brániť proti nečestným ASI a ako by mohla vyzerať budúcnosť, keby ľudia a AI žili vedľa seba. -strana. Pokračuj v čítaní.