Quantumrun

KREDIT OBRAZU: Quantumrun

Jak vytvoříme první umělou superinteligenci: Budoucnost umělé inteligence P3

David Tal, vydavatel, futurista
@DavidTalWrites
LinkedIn

Út, 09/15/2020 - 13:17

Hluboko do druhé světové války se nacistické síly valily velkou částí Evropy. Měli pokročilé zbraně, efektivní válečný průmysl, fanaticky řízenou pěchotu, ale především měli stroj jménem Enigma. Toto zařízení umožnilo nacistickým silám bezpečně spolupracovat na dlouhé vzdálenosti tím, že si navzájem posílali zprávy v Morseově kódu přes standardní komunikační linky; byl to šifrovací stroj nedobytný pro lamače lidských kódů.

Naštěstí spojenci našli řešení. K rozbití Enigmy už nepotřebovali lidskou mysl. Místo toho, prostřednictvím vynálezu zesnulého Alana Turinga, Spojenci vybudovali nový revoluční nástroj nazvaný Britská bomba, elektromechanické zařízení, které konečně rozluštilo tajný kód nacistů a nakonec jim pomohlo vyhrát válku.

Tento Bombe položil základy toho, co se stalo moderním počítačem.

Po boku Turinga během vývojového projektu Bombe pracoval IJ Good, britský matematik a kryptolog. Brzy na konci hry viděl, že toto nové zařízení může jednoho dne přinést. V Papír 1965, napsal:

„Ultrainteligentní stroj nechť je definován jako stroj, který může daleko předčít všechny intelektuální aktivity každého člověka, jakkoli chytrého. Protože konstrukce strojů je jednou z těchto intelektuálních činností, ultrainteligentní stroj by mohl navrhnout ještě lepší stroje; pak by nepochybně došlo k „explozi inteligence“ a inteligence člověka by zůstala daleko pozadu... První ultrainteligentní stroj je tedy posledním vynálezem, který by člověk kdy potřeboval, za předpokladu, že je dostatečně poslušný, aby nám řekl, jak aby to bylo pod kontrolou."

Vytvoření první umělé superinteligence

V naší sérii Future of Artificial Intelligence jsme zatím definovali tři široké kategorie umělé inteligence (AI), od umělá úzká inteligence (ANI) do umělá obecná inteligence (AGI), ale v této kapitole seriálu se zaměříme na poslední kategorii – tu, která mezi výzkumníky AI vyvolává záchvaty vzrušení nebo paniky – umělou superinteligenci (ASI).

Abyste si uvědomili, co je ASI, budete se muset vrátit k poslední kapitole, kde jsme nastínili, jak vědci AI věří, že vytvoří první AGI. V zásadě to bude vyžadovat kombinaci lepších algoritmů pro napájení velkých dat (takových, které se specializují na sebezdokonalování a schopnosti učení podobné lidem), které jsou umístěny ve stále výkonnějším výpočetním hardwaru.

V této kapitole jsme také nastínili, jak AGI mysl (jakmile získá tyto schopnosti sebezdokonalování a učení, které my lidé považujeme za samozřejmost) nakonec překoná lidskou mysl díky vyšší rychlosti myšlení, lepší paměti, neúnavnému výkonu a okamžitá upgradovatelnost.

Zde je však důležité poznamenat, že AGI se bude zlepšovat pouze na limity hardwaru a dat, ke kterým má přístup; tento limit může být velký nebo malý v závislosti na těle robota, které mu dáme, nebo na rozsahu počítačů, ke kterým mu umožníme přístup.

Mezitím je rozdíl mezi AGI a ASI v tom, že ASI teoreticky nikdy nebude existovat ve fyzické podobě. Bude fungovat výhradně v rámci superpočítače nebo sítě superpočítačů. V závislosti na cílech svých tvůrců může také získat plný přístup ke všem datům uloženým na internetu, stejně jako k jakémukoli zařízení nebo člověku, který dodává data do a přes internet. To znamená, že nebude existovat žádné praktické omezení toho, jak moc se toto ASI může naučit a jak moc se může sebezdokonalovat.

A to je ten mazec.

Pochopení exploze zpravodajství

Tento proces sebezdokonalování, který AI nakonec získají, když se stanou AGI (proces, který komunita AI nazývá rekurzivním sebezdokonalováním), může potenciálně narušit smyčku pozitivní zpětné vazby, která vypadá asi takto:

Vytvoří se nové AGI, dostane přístup k tělu robota nebo k velkému souboru dat a poté dostane jednoduchý úkol vzdělávat se a zlepšovat svou inteligenci. Zpočátku bude mít toto AGI IQ dítěte, které se snaží pochopit nové koncepty. Postupem času se naučí dost na to, aby dosáhl IQ průměrného dospělého, ale tady to nekončí. Pomocí tohoto nově nalezeného IQ pro dospělé je mnohem snazší a rychlejší pokračovat v tomto zlepšování až do bodu, kdy jeho IQ odpovídá IQ nejchytřejších známých lidí. Ale opět to nekončí.

Tento proces se sdružuje na každé nové úrovni inteligence podle zákona zrychlujících se návratů, dokud nedosáhne nevyčíslitelné úrovně superinteligence – jinými slovy, pokud zůstane nekontrolovaný a dostane neomezené zdroje, AGI se sám vylepší na ASI, intelekt, který nikdy předtím v přírodě neexistovala.

To je to, co IJ Good poprvé identifikoval, když popsal tuto „explozi inteligence“ nebo to, co moderní teoretici umělé inteligence, jako Nick Bostrom, nazývají „vzlet“ AI.

Pochopení umělé superinteligence

V tuto chvíli si někteří z vás pravděpodobně myslí, že klíčový rozdíl mezi lidskou inteligencí a inteligencí ASI je v tom, jak rychle mohou obě strany myslet. A i když je pravda, že tento teoretický budoucí ASI bude myslet rychleji než lidé, tato schopnost je již v dnešním počítačovém sektoru poměrně běžná – náš chytrý telefon myslí (počítá) rychleji než lidská mysl. Superpočítač myslí milionkrát rychleji než smartphone a budoucí kvantový počítač bude myslet ještě rychleji.

Ne, rychlost není vlastnost inteligence, kterou zde vysvětlujeme. Jde o kvalitu.

Mozek svého samojeda nebo corgi můžete zrychlit, jak chcete, ale to se nepromítne do nového porozumění tomu, jak interpretovat jazyk nebo abstraktní myšlenky. Ani s deseti nebo dvěma deseti lety tito psi najednou nebudou chápat, jak vyrábět nebo používat nástroje, natož rozumět jemnějším rozdílům mezi kapitalistickým a socialistickým ekonomickým systémem.

Pokud jde o inteligenci, lidé fungují na jiné úrovni než zvířata. Podobně, pokud ASI dosáhne svého plného teoretického potenciálu, jejich mysl bude fungovat na úrovni daleko mimo dosah průměrného moderního člověka. Pro určitý kontext se podívejme na aplikace těchto ASI.

Jak by umělá superinteligence mohla fungovat vedle lidstva?

Za předpokladu, že určitá vláda nebo korporace je úspěšná při vytváření ASI, jak by ji mohla použít? Podle Bostroma existují tři samostatné, ale související formy, které mohou mít tyto ASI:

Oracle Zde bychom interagovali s ASI stejně jako již děláme s vyhledávačem Google; položíme otázku, ale bez ohledu na to, jak složitá je tato otázka, ASI na ni odpoví perfektně a způsobem, který je přizpůsoben vám a kontextu vaší otázky.
Genie. V tomto případě ASI přiřadíme konkrétní úkol a ten se provede podle příkazu. Prozkoumejte lék na rakovinu. Hotovo. Najděte všechny planety skryté uvnitř nevyřízených snímků za 10 let z Hubbleova vesmírného dalekohledu NASA. Hotovo. Navrhněte funkční fúzní reaktor, který vyřeší energetickou poptávku lidstva. Abrakadabra.
Suverénní. Zde je ASI přidělena mise s otevřeným koncem a je jí dána svoboda ji vykonávat. Ukradněte tajemství výzkumu a vývoje našemu firemnímu konkurentovi. "Snadný." Objevte totožnost všech zahraničních špionů, kteří se skrývají uvnitř našich hranic. "Na to." Zajistit pokračující ekonomickou prosperitu Spojených států. "Žádný problém."

Teď už vím, co si myslíš, tohle všechno zní dost přitaženě za vlasy. Proto je důležité si pamatovat, že každý problém/výzva tam venku, dokonce i ty, které dosud zarazily ty nejchytřejší mozky světa, jsou všechny řešitelné. Ale obtížnost problému se měří intelektem, který jej řeší.

Jinými slovy, čím větší je mysl aplikovaná na výzvu, tím snazší je najít řešení dané výzvy. Jakákoli výzva. Je to jako když dospělý sleduje nemluvně, jak se snaží pochopit, proč nemůže vměstnat čtvercový blok do kulatého otvoru – pro dospělého by byla dětská hra ukázat dítěti, že by se blok měl vejít do čtvercového otvoru.

Podobně, pokud by tato budoucí ASI dosáhla svého plného potenciálu, stala by se tato mysl nejmocnějším intelektem ve známém vesmíru – dostatečně mocným na to, aby vyřešila jakoukoli výzvu, bez ohledu na to, jak složitá.

To je důvod, proč mnoho výzkumníků umělé inteligence nazývá ASI posledním vynálezem, jaký kdy člověk bude muset vytvořit. Pokud nás to přesvědčí pracovat po boku lidstva, může nám to pomoci vyřešit všechny nejnaléhavější problémy světa. Můžeme ji dokonce požádat, aby odstranila všechny nemoci a ukončila stárnutí, jak ho známe. Lidstvo může poprvé natrvalo ošidit smrt a vstoupit do nového věku prosperity.

Ale možný je i opak.

Inteligence je síla. Pokud by byla špatně spravována nebo dostala instrukce špatnými herci, mohla by se tato ASI stát konečným nástrojem útlaku, nebo by mohla zcela vyhladit lidstvo – vzpomeňte si na Skynet z Terminátora nebo Architekta z filmů Matrix.

Ve skutečnosti není pravděpodobný ani jeden extrém. Budoucnost je vždy mnohem složitější, než předpovídají utopisté a distopisté. To je důvod, proč nyní, když rozumíme konceptu ASI, zbytek této série prozkoumá, jak ASI ovlivní společnost, jak se společnost bude bránit proti nepoctivým ASI a jak by mohla vypadat budoucnost, kdyby lidé a AI žili vedle sebe. -postranní. Číst dál.