Quantumrun

KREDIT OBRAZU: Quantumrun

Jak první umělá všeobecná inteligence změní společnost: Budoucnost umělé inteligence P2

David Tal, vydavatel, futurista
@DavidTalWrites
LinkedIn

Út, 09/15/2020 - 13:08

Postavili jsme pyramidy. Naučili jsme se zacházet s elektřinou. Chápeme, jak vznikl náš vesmír po velkém třesku (většinou). A samozřejmě, klišé příklad, umístili jsme člověka na Měsíc. Navzdory všem těmto úspěchům však lidský mozek zůstává daleko mimo chápání moderní vědy a je standardně nejsložitějším objektem ve známém vesmíru – nebo alespoň naše chápání.

Vzhledem k této realitě by nemělo být úplně šokující, že jsme dosud nepostavili umělou inteligenci (AI) na stejnou úroveň jako lidé. AI jako Data (Star Trek), Rachael (Blade Runner) a David (Prometheus) nebo nehumanoidní AI jako Samantha (Her) a TARS (Interstellar), to vše jsou příklady dalšího velkého milníku ve vývoji AI: umělá obecná inteligence (AGI, někdy také označované jako HLMI nebo Human Level Machine Intelligence).

Jinými slovy, výzva, před kterou stojí výzkumníci umělé inteligence, je: Jak můžeme vybudovat umělou mysl srovnatelnou s naší vlastní, když ani plně nerozumíme tomu, jak naše vlastní mysl funguje?

Prozkoumáme tuto otázku, spolu s tím, jak se lidé postaví proti budoucím AGI, a nakonec, jak se společnost změní den poté, co bude světu oznámeno první AGI.

Co je to umělá obecná inteligence?

Navrhněte AI, která může snadno porazit nejlepší hráče v Chess, Jeopardy a Go (Deep Blue, Watson, a AlphaGO respektive). Navrhněte AI, která vám může poskytnout odpovědi na jakoukoli otázku, navrhnout položky, které byste si mohli chtít koupit, nebo spravovat flotilu sdílených taxi – kolem nich jsou vybudovány celé multimiliardové společnosti (Google, Amazon, Uber). Dokonce i AI, která vás může převézt z jedné strany země na druhou... no, pracujeme na tom.

Ale požádejte umělou inteligenci, aby si přečetla dětskou knihu a pochopila obsah, význam nebo morálku, kterou se snaží naučit, nebo požádejte umělou inteligenci, aby vám řekla rozdíl mezi obrázkem kočky a zebry, a nakonec způsobíte víc než jen pár zkraty.

Příroda strávila miliony let vývojem výpočetního zařízení (mozků), které vyniká ve zpracování, porozumění, učení a následném jednání v nových situacích a v nových prostředích. Porovnejte to s posledním půlstoletím počítačové vědy, která se zaměřovala na vytváření výpočetních zařízení, která byla přizpůsobena jedinečným úkolům, pro něž byla navržena.

Jinými slovy, člověk-počítač je generalista, zatímco umělý počítač je specialista.

Cílem vytvoření AGI je vytvořit AI, která dokáže myslet a učit se více jako člověk, a to prostřednictvím zkušeností spíše než prostřednictvím přímého programování.

V reálném světě by to znamenalo, že se budoucí AGI naučí, jak číst, psát a vyprávět vtip, nebo chodit, běhat a jezdit na kole z velké části samostatně, prostřednictvím svých vlastních zkušeností ve světě (s použitím jakéhokoli těla nebo smyslové orgány/zařízení, které mu dáváme), a prostřednictvím jeho vlastní interakce další AI a další lidé.

Co bude potřeba k vybudování umělé obecné inteligence

I když je to technicky obtížné, vytvoření AGI musí být možné. Ve skutečnosti existuje hluboce zakořeněná vlastnost v rámci fyzikálních zákonů – univerzálnost počítání – která v podstatě říká, že vše, co fyzický objekt dokáže, by dostatečně výkonný počítač pro všeobecné použití měl být v zásadě schopen kopírovat/simulovat.

A přesto je to ošemetné.

Naštěstí je na případu spousta chytrých výzkumníků v oblasti umělé inteligence (nemluvě o spoustě firemních, vládních a vojenských finančních prostředků, které je podporují), a zatím identifikovali tři klíčové ingredience, o kterých se domnívají, že je nutné vyřešit, aby bylo možné dosáhnout AGI do našeho světa.

Big údaje. Nejběžnější přístup k vývoji umělé inteligence zahrnuje techniku zvanou hluboké učení – specifický typ systému strojového učení, který funguje tak, že naskládá obrovské množství dat, tato data rozdrtí v síti simulovaných neuronů (modelovaných podle lidského mozku) a poté použít zjištění k naprogramování vlastních poznatků. Další podrobnosti o hlubokém učení číst.

Například, v 2017, Google nakrmil svou umělou inteligenci tisíci obrázky koček, které jeho systém hlubokého učení používal, aby se naučil nejen identifikovat kočku, ale také rozlišovat mezi různými kočičími plemeny. Nedlouho poté oznámili blížící se vydání Objektiv Google, nová vyhledávací aplikace, která uživatelům umožňuje vyfotit cokoli a Google vám nejen řekne, co to je, ale nabídne i užitečný kontextový obsah, který to popisuje – užitečné, když cestujete a chcete se dozvědět více o konkrétní turistické atrakci. Ale ani zde by Google Lens nebyl možný bez miliard obrázků, které jsou aktuálně uvedeny v jeho vyhledávači obrázků.

A přesto tato kombinace velkých dat a hlubokého učení stále nestačí k vytvoření AGI.

Lepší algoritmy. DeepMind, dceřiná společnost Google a lídr v oblasti umělé inteligence, se za posledních deset let prosadila spojením silných stránek hlubokého učení s posilujícím učením – doplňkovým přístupem strojového učení, jehož cílem je naučit umělou inteligenci, jak provádět akce v nových prostředích k dosažení stanovený cíl.

Díky této hybridní taktice se premiérová umělá inteligence DeepMind AlphaGo nejen naučila hrát AlphaGo tím, že si stáhla pravidla a studovala strategie mistrovských lidských hráčů, ale poté, co hrála proti sobě milionkrát, dokázala porazit nejlepší hráče AlphaGo. pomocí pohybů a strategií, které jste ve hře ještě neviděli.

Podobně experiment se softwarem DeepMind Atari zahrnoval poskytnutí AI kamery, aby viděla typickou herní obrazovku, naprogramování jí se schopností zadávat herní příkazy (jako tlačítka joysticku) a dal jí jedinečný cíl zvýšit její skóre. Výsledek? Během několika dní se naučilo, jak hrát a jak ovládat desítky klasických arkádových her.

Ale jakkoli jsou tyto první úspěchy vzrušující, zbývá vyřešit několik klíčových problémů.

Za prvé, výzkumníci umělé inteligence pracují na výuce umělé inteligence triku zvanému „chunking“, ve kterém jsou lidské a zvířecí mozky mimořádně dobré. Jednoduše řečeno, když se rozhodnete jít nakoupit potraviny, můžete si představit svůj konečný cíl (koupit avokádo) a přibližný plán, jak to udělat (odejít z domu, navštívit obchod s potravinami, koupit avokádo, vraťte se domů). Co neděláte, je plánovat každý nádech, každý krok, každou možnou situaci na vaší cestě tam. Místo toho máte ve své mysli koncept (kus) toho, kam chcete jet, a přizpůsobte svůj výlet jakékoli situaci, která nastane.

Jakkoli vám to může připadat běžné, tato schopnost je jednou z klíčových výhod, které lidské mozky stále mají oproti umělé inteligenci – je to přizpůsobivost stanovit si cíl a jít za ním, aniž byste předem znali každý detail a navzdory jakékoli překážce nebo změně prostředí může narazit. Tato dovednost by umožnila AGI učit se efektivněji, bez potřeby velkých dat zmíněných výše.

Další výzvou je schopnost nejen číst knihu, ale také pochopit význam nebo kontext za ním. Dlouhodobým cílem je, aby si umělá inteligence přečetla novinový článek a byla schopna přesně odpovědět na řadu otázek o tom, co četl, něco jako psaní knižní zprávy. Tato schopnost přemění AI z pouhé kalkulačky, která drtí čísla, na entitu, která drtí význam.

Celkově budou další pokroky k samoučícímu se algoritmu, který dokáže napodobit lidský mozek, hrát klíčovou roli v případném vytvoření AGI, ale vedle této práce potřebuje komunita AI také lepší hardware.

Lepší hardware. Při použití současných přístupů vysvětlených výše bude AGI možné pouze poté, co vážně zvýšíme výpočetní výkon, který je k dispozici pro jeho provoz.

Pro kontext, pokud bychom vzali schopnost lidského mozku myslet a převedli ji na výpočetní termíny, pak hrubý odhad průměrné lidské mentální kapacity je jeden exaflop, což je ekvivalent 1,000 XNUMX petaflopů („Flop“ znamená operace s plovoucí desetinnou čárkou za druhý a měří rychlost výpočtu).

Pro srovnání, do konce roku 2018 nejvýkonnější superpočítač světa, japonský AI přemosťovací cloud bude hučet rychlostí 130 petaflopů, což je daleko méně než jeden exaflop.

Jak je uvedeno v našem superpočítače kapitola v našem Budoucnost počítačů USA i Čína pracují na vybudování vlastních exaflop superpočítačů do roku 2022, ale i když budou úspěšné, stále to nemusí stačit.

Tyto superpočítače pracují s výkonem několika desítek megawattů, zabírají několik set metrů čtverečních prostoru a jejich výstavba stojí několik set milionů. Lidský mozek spotřebuje pouhých 20 wattů energie, vejde se do lebky o obvodu zhruba 50 cm a je nás sedm miliard (2018). Jinými slovy, pokud chceme, aby AGI byly tak běžné jako lidé, budeme se muset naučit, jak je vytvářet mnohem ekonomičtěji.

Za tímto účelem začínají výzkumníci umělé inteligence uvažovat o napájení budoucích umělých inteligencí pomocí kvantových počítačů. Podrobněji popsáno v kvantové počítače kapitole naší série Budoucnost počítačů fungují tyto počítače zásadně odlišným způsobem než počítače, které jsme stavěli poslední půlstoletí. Po zdokonalení ve 2030. letech 2018. století bude jeden kvantový počítač překonávat každý superpočítač, který v roce XNUMX aktuálně funguje, globálně dohromady. Budou také mnohem menší a spotřebují mnohem méně energie než současné superpočítače.

Jak by umělá obecná inteligence byla lepší než lidská?

Předpokládejme, že každá výše uvedená výzva bude vyřešena, že výzkumníci AI najdou úspěch ve vytvoření prvního AGI. Jak se bude mysl AGI lišit od naší?

Abychom odpověděli na tento druh otázky, musíme rozdělit AGI mysli do tří kategorií, ty, které žijí v těle robota (údaje z star Trek), které mají fyzickou podobu, ale jsou připojeny bezdrátově k internetu/cloudu (Agent Smith z The Matrix) a ti bez fyzické podoby, kteří žijí výhradně v počítači nebo online (Samantha z Jí).

Pro začátek, AGI uvnitř robotického těla izolovaného od webu budou soutěžit na stejné úrovni jako lidská mysl, ale s vybranými výhodami:

Paměť: V závislosti na konstrukci robotické formy AGI bude jejich krátkodobá paměť a paměť klíčových informací rozhodně lepší než lidé. Ale na konci dne existuje fyzické omezení toho, kolik místa na pevném disku můžete zabalit do robota, za předpokladu, že je navrhneme tak, aby vypadali jako lidé. Z tohoto důvodu se dlouhodobá paměť AGI bude chovat velmi podobně jako lidská, aktivně zapomene informace a vzpomínky, které jsou považovány za nepotřebné pro její budoucí fungování (aby se uvolnilo „místo na disku“).
Rychlost: Výkon neuronů v lidském mozku dosahuje maximální frekvence zhruba 200 Hz, zatímco moderní mikroprocesory běží na gigahertzové úrovni, tedy milionkrát rychleji než neurony. To znamená, že ve srovnání s lidmi budou budoucí AGI zpracovávat informace a rozhodovat se rychleji než lidé. Uvědomte si, že to nutně neznamená, že toto AGI bude činit chytřejší nebo správnější rozhodnutí než lidé, ale že může rychleji dospět k závěrům.
Výkon: Jednoduše řečeno, lidský mozek se unaví, pokud pracuje příliš dlouho bez odpočinku nebo spánku, a když se tak stane, jeho paměť a schopnost učit se a uvažovat se zhorší. Mezitím pro AGI, za předpokladu, že se pravidelně dobíjejí (elektřinou), nebudou mít takovou slabost.
Upgradovatelnost: Naučit se novému návyku může člověku trvat týdny praxe, naučit se nové dovednosti může trvat měsíce a naučit se nové profesi může trvat roky. Pro AGI budou mít schopnost učit se jak zkušenostmi (jako lidé), tak přímým nahráváním dat, podobně jako pravidelně aktualizujete OS svého počítače. Tyto aktualizace se mohou týkat vylepšení znalostí (nové dovednosti) nebo vylepšení výkonu fyzické formy AGI.

Dále se podíváme na AGI, které mají fyzickou podobu, ale zároveň jsou připojeny bezdrátově k internetu/cloudu. Rozdíly, které můžeme vidět na této úrovni ve srovnání s nepropojenými AGI, zahrnují:

Paměť: Tyto AGI budou mít všechny krátkodobé výhody, které má předchozí třída AGI, kromě toho, že budou také těžit z dokonalé dlouhodobé paměti, protože mohou tyto paměti nahrávat do cloudu, aby k nim měli v případě potřeby přístup. Je zřejmé, že tato paměť nebude dostupná v oblastech s nízkou konektivitou, ale to se stane menším problémem během 2020. a 2030. let XNUMX. století, kdy bude více světa online. Přečtěte si více v kapitola jedna našeho Budoucnost internetu série.
Rychlost: V závislosti na typu překážky, které toto AGI čelí, mohou získat přístup k většímu výpočetnímu výkonu cloudu, který jim pomůže jej vyřešit.
Výkon: Žádný rozdíl ve srovnání s nepřipojenými AGI.
Upgradovatelnost: Jediný rozdíl mezi tímto AGI, pokud jde o upgradovatelnost, je ten, že mohou přistupovat k upgradům v reálném čase, bezdrátově, místo toho, aby museli navštěvovat a zapojovat se do skladu upgradů.
Kolektiv: Lidé se stali dominantním druhem Země ne proto, že bychom byli největší nebo nejsilnější zvíře, ale proto, že jsme se naučili, jak komunikovat a spolupracovat různými způsoby, abychom dosáhli společných cílů, od lovu mamuta Woolly až po stavbu Mezinárodní vesmírné stanice. Tým AGI by tuto spolupráci posunul na další úroveň. Vzhledem ke všem výše uvedeným kognitivním výhodám a jejich kombinaci se schopností bezdrátově komunikovat, osobně i na velké vzdálenosti, by budoucí tým AGI/mysl úlu mohla teoreticky řešit projekty mnohem efektivněji než tým lidí.

Konečně posledním typem AGI je verze bez fyzické formy, která funguje uvnitř počítače a má přístup k plnému výpočetnímu výkonu a online zdrojům, které jí její tvůrci poskytují. Ve sci-fi show a knihách mají tyto AGI obvykle podobu zkušených virtuálních asistentů/přátel nebo odvážného operačního systému vesmírné lodi. Ale ve srovnání s ostatními dvěma kategoriemi AGI se tato AI bude lišit v následujících ohledech;

Rychlost: Neomezená (nebo alespoň do limitů hardwaru, ke kterému má přístup).
Paměť: Neomezená
Výkon: Zvýšení kvality rozhodování díky přístupu k superpočítačovým centrům.
Upgradovatelnost: Absolutní, v reálném čase as neomezeným výběrem kognitivních upgradů. Samozřejmě, protože tato kategorie AGI nemá formu fyzického robota, nebude potřebovat dostupné fyzické upgrady, pokud se tyto upgrady netýkají superpočítačů, na kterých pracuje.
Kolektiv: Podobně jako předchozí kategorie AGI bude toto beztělové AGI efektivně spolupracovat se svými kolegy z AGI. Vzhledem k přímějšímu přístupu k neomezenému výpočetnímu výkonu a přístupu k online zdrojům však tyto AGI obvykle převezmou vedoucí role v celkovém kolektivu AGI.

Kdy lidstvo vytvoří první umělou obecnou inteligenci?

Neexistuje žádné stanovené datum, kdy se výzkumná komunita AI domnívá, že vymyslí legitimní AGI. Nicméně, a 2013 průzkum z 550 předních světových výzkumníků umělé inteligence, vedených předními výzkumnými mysliteli o umělé inteligenci Nickem Bostromem a Vincentem C. Müllerem, zprůměroval rozsah názorů na tři možné roky:

Medián optimistického roku (10% pravděpodobnost): 2022
Střední realistický rok (50% pravděpodobnost): 2040
Medián pesimistického roku (90% pravděpodobnost): 2075

Nezáleží na tom, jak přesné jsou tyto předpovědi. Důležité je, že velká většina výzkumné komunity AI věří, že vynalezneme AGI během našeho života a relativně brzy v tomto století.

Jak vytvoření umělé obecné inteligence změní lidstvo

Dopad těchto nových AI podrobně prozkoumáme v úplně poslední kapitole této série. To znamená, že pro tuto kapitolu řekneme, že vytvoření AGI bude velmi podobné reakci společnosti, kterou zažijeme, pokud lidé najdou život na Marsu.

Jeden tábor nepochopí význam a bude si nadále myslet, že vědci dělají velký problém s vytvořením dalšího výkonnějšího počítače.

Jiný tábor, pravděpodobně složený z luddistů a nábožensky založených jedinců, se bude tohoto AGI bát, protože si myslí, že je to ohavnost, že se bude snažit vyhubit lidstvo ve stylu SkyNet. Tento tábor bude aktivně prosazovat odstranění/zničení AGI ve všech jejich formách.

Na druhou stranu, třetí tábor bude toto stvoření vnímat jako moderní duchovní událost. Ve všech ohledech, na kterých záleží, bude toto AGI novou formou života, takovou, která myslí jinak než my a jejíž cíle jsou jiné než naše vlastní. Jakmile bude oznámeno vytvoření AGI, lidé už nebudou sdílet Zemi jen se zvířaty, ale také s novou třídou umělých bytostí, jejichž inteligence je na stejné nebo lepší úrovni než naše vlastní.

Čtvrtý tábor bude zahrnovat obchodní zájmy, které budou zkoumat, jak mohou využít AGI k řešení různých obchodních potřeb, jako je zaplnění mezer na trhu práce a urychlení vývoje nového zboží a služeb.

Dále tu máme zástupce ze všech úrovní vlády, kteří o sebe zakopnou ve snaze pochopit, jak regulovat AGI. To je úroveň, na které vyvrcholí všechny moralizující a filozofické debaty, konkrétně o tom, zda s těmito AGI zacházet jako s majetkem nebo jako s osobami.

A konečně posledním táborem budou vojenské a národní bezpečnostní agentury. Ve skutečnosti existuje velká šance, že veřejné oznámení prvního AGI se může zpozdit o měsíce až roky jen kvůli tomuto táboru. Proč? Protože vynález AGI v krátké době povede k vytvoření umělé superinteligence (ASI), takové, která bude představovat obrovskou geopolitickou hrozbu a příležitost daleko předčící vynález jaderné bomby.

Z tohoto důvodu se několik následujících kapitol zaměří výhradně na téma ASI a na to, zda lidstvo po jejich vynálezu přežije.

(Příliš dramatický způsob, jak ukončit kapitolu? Vsadíte se.)