Budú ľudia žiť pokojne v budúcnosti ovládanej umelými inteligenciami? - Budúcnosť umelej inteligencie P6

Pokiaľ ide o ľudskosť, povedzme, že nemáme najlepšie výsledky, pokiaľ ide o spolunažívanie s „tým druhým“. Či už ide o genocídu Židov v Nemecku alebo Tutsiov v Rwande, zotročovanie Afričanov západnými národmi alebo otrokov v juhovýchodnej Ázii. teraz práca v krajinách Blízkeho východu Perzského zálivu, alebo dokonca súčasné prenasledovanie Mexičanov v USA alebo sýrskych utečencov vo vybraných krajinách EÚ. Náš inštinktívny strach z tých, ktorých vnímame ako iných ako my, nás môže viesť k činom, ktoré buď ovládajú, alebo (v extrémnych prípadoch) zničia tých, ktorých sa bojíme.

Môžeme očakávať niečo iné, keď sa umelá inteligencia stane skutočne ľudskou?

Budeme žiť v budúcnosti, kde budeme koexistovať s nezávislými bytosťami AI-robotov, ako je vidieť v ságe Star Wars, alebo budeme namiesto toho prenasledovať a zotročovať bytosti AI, ako je to zobrazené v sérii Bladerunner? (Ak ste ešte nevideli ani jednu z týchto stálic popkultúry, na čo čakáte?)

Toto sú otázky tejto záverečnej kapitoly Budúcnosť umelej inteligencie séria dúfa, že odpovie. Záleží na tom, pretože ak sú prognózy popredných výskumníkov AI správne, potom v polovici storočia budeme my ľudia zdieľať náš svet s množstvom rôznych bytostí umelej inteligencie – takže radšej vymyslíme spôsob, ako spolu s nimi pokojne žiť.

Môžu ľudia niekedy súťažiť s umelými inteligenciami?

Verte či nie, môžeme.

Priemerný človek (v roku 2018) už prevyšuje aj tú najpokročilejšiu AI. Ako je uvedené v našom úvodná kapitolaDnešné umelé úzke inteligencie (ANI) sú oveľa lepšie ako ľudia konkrétne úlohy, pre ktoré boli navrhnuté, ale beznádejné, keď boli požiadaní, aby prevzali úlohu mimo tohto dizajnu. Na druhej strane ľudia, spolu s väčšinou ostatných zvierat na planéte, vynikajú našou prispôsobivosťou sledovať ciele v širokom spektre prostredí – a definícia inteligencie, ktorú obhajujú počítačoví vedci Marcus Hutter a Shane Legg.

Táto črta univerzálnej prispôsobivosti sa nezdá byť veľká, ale vyžaduje si schopnosť posúdiť prekážku k cieľu, naplánovať experiment na prekonanie tejto prekážky, podniknúť kroky na vykonanie experimentu, poučiť sa z výsledkov a potom pokračovať. ísť za cieľom. Všetok život na planéte inštinktívne vykonáva túto adaptačnú slučku tisíckrát až miliónkrát každý deň, a kým sa AI nenaučí robiť to isté, zostanú nezáživnými pracovnými nástrojmi.

Ale viem, čo si myslíte: Celá táto séria o budúcnosti umelej inteligencie predpovedá, že ak bude dostatok času, entity AI sa nakoniec stanú rovnako inteligentnými ako ľudia a krátko na to budú oveľa inteligentnejšími ako ľudia.

Táto kapitola nebude spochybňovať túto možnosť.

Pasca, do ktorej sa mnohí komentátori dostali, si myslí, že keďže evolúcii trvalo milióny rokov, kým vytvorila biologické mozgy, bude beznádejne prekonaná, keď AI dosiahnu bod, v ktorom budú môcť vylepšovať svoj vlastný hardvér a softvér v cykloch dlhých roky, mesiace. , možno aj dni.

Našťastie, evolúcia má za sebou určitý boj, čiastočne vďaka nedávnemu pokroku v genetickom inžinierstve.

Prvýkrát zahrnuté v našom seriáli o budúcnosť evolúcie ľudstva, zistili genetici 69 samostatných génov ktoré ovplyvňujú inteligenciu, ale spolu ovplyvňujú IQ len menej ako osem percent. To znamená, že môžu existovať stovky alebo tisíce génov, ktoré ovplyvňujú inteligenciu, a budeme ich musieť nielen všetky objaviť, ale tiež sa naučiť, ako s nimi predvídateľne manipulovať, až potom budeme môcť uvažovať o manipulácii s plodom. DNA. 

Ale v polovici 2040. rokov XNUMX. storočia dospeje oblasť genomiky do bodu, v ktorom bude možné dôkladne zmapovať genóm plodu a úpravy jeho DNA možno počítačovo simulovať, aby bolo možné presne predpovedať, ako zmeny v jeho genóme ovplyvnia jeho budúce fyzické, emocionálne. a čo je pre túto diskusiu najdôležitejšie, jeho inteligencia.

Inými slovami, v polovici storočia, keď sa väčšina výskumníkov AI domnieva, že AI dosiahne a možno aj prekoná inteligenciu na ľudskej úrovni, získame schopnosť geneticky modifikovať celé generácie ľudských detí tak, aby boli výrazne inteligentnejšie ako generácie, ktoré predchádzali. ich.

Smerujeme do budúcnosti, kde budú superinteligentní ľudia žiť spolu so superinteligentnou AI.

Vplyv sveta plného super inteligentných ľudí

Takže, o akom rozume tu hovoríme? Pre kontext IQ Alberta Einsteina a Stephena Hawkinga dosiahli skóre okolo 160. Keď odhalíme tajomstvá genómových markerov, ktoré kontrolujú inteligenciu, mohli by sme potenciálne vidieť ľudí narodených s IQ presahujúcim 1,000 XNUMX.

To je dôležité, pretože mysle ako Einstein a Hawking pomohli podnietiť vedecké objavy, ktoré teraz tvoria základ nášho moderného sveta. Napríklad len malá časť svetovej populácie rozumie niečomu o fyzike, ale významné percento svetového HDP závisí od jej zistení – technológie ako smartfóny, moderný telekomunikačný systém (internet) a GPS nemôžu existovať bez kvantovej mechaniky. .

Vzhľadom na tento vplyv, aké pokroky by ľudstvo mohlo zažiť, keby sme zrodili celú generáciu géniov? Stovky miliónov Einsteinových?

Odpoveď je nemožné uhádnuť, pretože svet nikdy nevidel takú koncentráciu super géniov.

Akí budú títo ľudia?

Pre ochutnávku si predstavte prípad najchytrejšieho zaznamenaného človeka, William James Sidis (1898-1944), ktorý mal IQ okolo 250. Vedel čítať do dvoch rokov. Do šiestich rokov ovládal osem jazykov. Na Harvardskú univerzitu ho prijali v 11. A Sidis je len o štvrtinu tak inteligentný, ako sa podľa biológov môžu jedného dňa ľudia stať genetickými úpravami.

(Poznámka na okraj: hovoríme tu iba o inteligencii, ani sa nedotýkame genetických úprav, ktoré z nás môžu urobiť fyzicky nadčloveka. Čítajte viac tu.)

V skutočnosti je veľmi pravdepodobné, že ľudia a AI sa môžu spoločne vyvíjať vytvorením akejsi slučky pozitívnej spätnej väzby, kde pokročilá AI pomáha genetikom zvládnuť ľudský genóm vytvárať čoraz inteligentnejších ľudí, ľudí, ktorí potom budú pracovať na vytváraní čoraz inteligentnejšej AI atď. na. Takže áno, presne ako výskumníci AI predpovedajú, Zem by mohla veľmi dobre zažiť inteligenčnú explóziu v polovici storočia, ale na základe našej doterajšej diskusie budú ľudia (nielen AI) z tejto revolúcie ťažiť.

Kyborgovia medzi nami

Spravodlivou kritikou tohto argumentu o superinteligentných ľuďoch je, že aj keby sme zvládli genetické úpravy do polovice storočia, trvalo by ďalších 20 až 30 rokov, kým táto nová generácia ľudí dospeje do bodu, keď môže prispieť k významnému pokroku v našej spoločnosti a vyrovnať intelektuálne pole popri AI. Neposkytlo by toto oneskorenie AI významný náskok proti ľudskosti, ak by sa rozhodli zmeniť na „zlo“?

To je dôvod, prečo ako most medzi dnešnými ľuďmi a zajtrajšími nadľudiami, počnúc 2030. rokmi XNUMX. storočia, uvidíme začiatky novej triedy ľudí: kyborga, hybrida človeka a stroja.

(Aby som bol spravodlivý, v závislosti od toho, ako definujete kyborgov, technicky už existujú – konkrétne ľudia s protetickými končatinami v dôsledku vojnových zranení, nehôd alebo genetických defektov pri narodení. Aby sme sa však zamerali na kontext tejto kapitoly, Zameriame sa na protetiku určenú na rozšírenie našej mysle a inteligencie.)

Prvýkrát diskutované v našom Budúcnosť počítačov séria, výskumníci v súčasnosti vyvíjajú oblasť bioelektroniky s názvom Brain-Computer Interface (BCI). Zahŕňa to použitie zariadenia na skenovanie mozgu alebo implantátu na sledovanie vašich mozgových vĺn, ich premenu na kód a potom ich priradenie k príkazom na ovládanie všetkého, čo je spustené počítačom.

Stále sme v začiatkoch, ale vďaka používaniu BCI sú teraz ľudia po amputácii testovanie robotických končatín riadené priamo ich mysľou, namiesto cez senzory pripevnené k ich pahýlu. Podobne sú na tom teraz ľudia s ťažkým zdravotným postihnutím (napríklad ľudia s kvadruplégiou). pomocou BCI na riadenie svojich motorizovaných invalidných vozíkov a manipulovať s robotickými ramenami. Ale pomáhať ľuďom po amputácii a osobám so zdravotným postihnutím viesť nezávislejší život nie je rozsahom toho, čoho bude BCI schopný.

To, čo bude v 2030. rokoch 2040. storočia vyzerať ako prilba alebo čelenka, nakoniec ustúpi mozgovým implantátom (koniec XNUMX. rokov XNUMX. storočia), ktoré spoja našu myseľ s digitálnym cloudom (internetom). Nakoniec bude táto mozgová protéza fungovať ako tretia hemisféra pre našu myseľ – takže zatiaľ čo naša ľavá a pravá hemisféra riadia našu kreativitu a logické schopnosti, táto nová digitálna hemisféra s podporou cloudu uľahčí takmer okamžitý prístup k informáciám a zlepší kognitívne funkcie. atribúty, pri ktorých ľudia často zaostávajú za svojimi náprotivkami AI, konkrétne rýchlosť, opakovanie a presnosť.

A hoci tieto mozgové implantáty nevyhnutne nezvýšia našu inteligenciu, urobia nás oveľa schopnejšími a nezávislejšími, rovnako ako to dnes robia naše smartfóny.

Budúcnosť plná rôznych inteligencií

Všetky tieto reči o AI, kyborgoch a super inteligentných ľuďoch otvárajú ďalší bod, ktorý treba zvážiť: Budúcnosť bude svedkom oveľa bohatšej rozmanitosti inteligencií, než akú sme kedy videli v histórii ľudstva alebo dokonca Zeme.

Premýšľajte o tom, pred koncom tohto storočia hovoríme o budúcom svete naplnenom:

• Hmyzí inteligencia
• Inteligencie zvierat
• Ľudské inteligencie
• Kyberneticky vylepšené ľudské inteligencie
• Umelé všeobecné inteligencie (AGI)
• Umelé superinteligencie (Ako je)
• Ľudské super inteligencie
• Kyberneticky vylepšené ľudské super inteligencie
• Virtuálne hybridné mysle človeka a AI
• Niekoľko ďalších medzi kategóriami, ktoré odporúčame čitateľom prediskutovať a zdieľať v sekcii komentárov.

Inými slovami, náš svet je už domovom rozmanitej škály druhov, z ktorých každý má svoje vlastné jedinečné typy inteligencie, ale budúcnosť prinesie ešte väčšiu rozmanitosť inteligencií, tentoraz sa rozšíri horný koniec kognitívneho rebríčka. Takže tak, ako sa dnešná generácia učí zdieľať náš svet s hmyzom a zvieratami, ktoré prispievajú k nášmu ekosystému, budúce generácie sa budú musieť naučiť komunikovať a spolupracovať so širokou škálou inteligencií, ktoré si dnes sotva vieme predstaviť.

Samozrejme, história nám hovorí, že „zdieľanie“ nikdy nebolo pre ľudí silnou stránkou. Stovky až tisíce druhov vyhynuli v dôsledku ľudskej expanzie, len stovky menej vyspelých civilizácií zmizli pod dobývaním expandujúcich ríš.

Tieto tragédie sú spôsobené ľudskou potrebou zdrojov (jedlo, voda, suroviny atď.) a čiastočne aj strachom a nedôverou medzi cudzími civilizáciami alebo národmi. Inými slovami, tragédie minulosti a súčasnosti sú spôsobené príčinami starými ako civilizácia sama a so zavedením všetkých týchto nových tried inteligencie sa len zhoršia.

Kultúrny vplyv sveta plného rôznych inteligencií

Úžas a hrôza sú dve emócie, ktoré by najlepšie zhrnuli protichodné emócie, ktoré ľudia zažijú, keď všetky tieto nové typy inteligencií vstúpia do sveta.

„Prekvapte“ ľudskú vynaliezavosť použitú na vytvorenie všetkých týchto nových ľudských a AI inteligencií a možností, ktoré môžu vytvoriť. A potom „strach“ z nedostatku porozumenia a oboznámenosti súčasných generácií ľudí s budúcimi generáciami týchto „vylepšených“ bytostí.

Tak ako je svet zvierat úplne mimo chápania priemerného hmyzu a svet ľudí je úplne mimo chápania priemerného zvieraťa, svet AI a dokonca aj superinteligentných ľudí bude ďaleko za hranicami toho, čo dnešné priemerný človek bude schopný pochopiť.

A aj keď budúce generácie budú môcť komunikovať s týmito novými vyššími inteligenciami, nie je to tak, že by sme mali veľa spoločného. V kapitolách predstavujúcich AGI a ASI sme vysvetlili, prečo by bolo chybou uvažovať o inteligencii AI ako o ľudskej inteligencii.

Stručne povedané, inštinktívne emócie, ktoré poháňajú ľudské myslenie, sú evolučným biologickým dedičstvom z niekoľkých tisícročí ľudských generácií, ktoré aktívne hľadali zdroje, párenie partnerov, sociálne väzby, prežitie atď. Budúca AI nebude mať nič z tejto evolučnej záťaže. Namiesto toho budú mať tieto digitálne inteligencie ciele, spôsoby myslenia a hodnotové systémy úplne jedinečné pre seba.

Podobne, ako sa moderní ľudia naučili potláčať aspekty svojich prirodzených ľudských túžob vďaka nášmu intelektu (napr. obmedzujeme svojich sexuálnych partnerov, keď sme v oddaných vzťahoch; riskujeme svoje životy pre cudzích ľudí kvôli vymysleným konceptom cti a cnosti atď.) Budúci nadľudia môžu úplne prekonať tieto prvotné inštinkty. Ak je to možné, potom máme do činenia s mimozemšťanmi, nielen s novou triedou ľudí.

Bude medzi budúcimi super rasami a nami ostatnými mier?

Mier pochádza z dôvery a dôvera pochádza zo známosti a spoločných cieľov. Známosť môžeme odstrániť zo stola, keďže sme už diskutovali o tom, ako majú ľudia bez vylepšenia málo spoločného, ​​kognitívne, s týmito superintelektmi.

V jednom scenári bude táto inteligenčná explózia predstavovať vzostup úplne novej formy nerovnosti, takej, ktorá vytvára sociálne triedy založené na inteligencii, z ktorých bude pre ľudí z nižších tried takmer nemožné vstať. A tak, ako dnes zväčšujúca sa ekonomická priepasť medzi bohatými a chudobnými spôsobuje nepokoje, priepasť medzi rôznymi triedami/populáciami inteligencie by mohla vyvolať dostatok strachu a nevôle, ktoré by sa potom mohli premeniť na rôzne formy prenasledovania alebo totálnej vojny. Pre ostatných čitateľov komiksov vám to môže pripomenúť klasický príbeh o prenasledovaní z franšízy X-men od Marvelu.

Alternatívnym scenárom je, že tieto budúce superintelektuá len vymyslia spôsoby, ako emocionálne zmanipulovať jednoduchšie masy, aby ich prijali do svojej spoločnosti – alebo aspoň do takej miery, že sa vyhnú akémukoľvek násiliu. 

Takže, ktorý scenár zvíťazí? 

S najväčšou pravdepodobnosťou uvidíme, že sa niečo v strede odohrá. Na začiatku tejto spravodajskej revolúcie uvidíme obvyklé 'technopanický“, špecialista na technologické právo a politiku, Adam Thierer, opisuje obvyklý spoločenský vzorec:

• Generačné rozdiely, ktoré vedú k strachu z nového, najmä tie, ktoré narúšajú sociálne zvyky alebo odstraňujú pracovné miesta (prečítajte si o vplyve AI na naše Budúcnosť práce séria);
• "Hypernostalgia" pre staré dobré časy, ktoré v skutočnosti nikdy neboli také dobré;
• Motivácia pre reportérov a odborníkov, aby šírili strach o nových technológiách a trendoch výmenou za kliknutia, zobrazenia a predaje reklám;
• Špeciálne záujmy sa navzájom oháňajú o vládne peniaze alebo akcie v závislosti od toho, ako je ich skupina ovplyvnená touto novou technológiou;
• Elitistické postoje akademických a kultúrnych kritikov, ktorí sa obávajú nových technológií, ktoré si masová verejnosť osvojuje;
• Ľudia, ktorí premietajú morálne a kultúrne debaty včerajška a dneška do nových technológií zajtrajška.

Ale ako každý nový pokrok, ľudia si naň zvyknú. Ešte dôležitejšie je, že hoci dva druhy nemusia myslieť rovnako, mier možno nájsť prostredníctvom vzájomne zdieľaných záujmov alebo cieľov.

Tieto nové AI môžu napríklad vytvárať nové technológie a systémy na zlepšenie našich životov. A na oplátku bude financovanie a vládna podpora naďalej podporovať záujmy AI celkovo, najmä vďaka aktívnej konkurencii medzi čínskymi a americkými programami AI.

Podobne, pokiaľ ide o vytváranie nadľudí, náboženské frakcie v mnohých krajinách odolajú trendu geneticky manipulovať so svojimi deťmi. Praktickosť a národný záujem však túto bariéru postupne prelomia. V prvom prípade budú rodičia v pokušení použiť technológiu genetickej úpravy, aby sa zabezpečilo, že ich deti sa narodia bez chorôb a defektov, ale týmto počiatočným cieľom je šmykľavý svah smerom k invazívnejšiemu genetickému vylepšeniu. Podobne, ak Čína začne geneticky posilňovať celé generácie svojej populácie, USA budú mať strategický imperatív nasledovať ich, inak riskujú, že o dve desaťročia neskôr natrvalo zaostanú – a tak bude aj zvyšok sveta.

Akokoľvek intenzívne znie celá táto kapitola, musíme si uvedomiť, že toto všetko bude postupný proces. Vďaka tomu bude náš svet veľmi odlišný a veľmi zvláštny. Ale zvykneme si na to a stane sa to našou budúcnosťou.

Séria Future of Artificial Intelligence

Umelá inteligencia je elektrina zajtrajška: Budúcnosť umelej inteligencie série P1

Ako prvá umelá všeobecná inteligencia zmení spoločnosť: Budúcnosť umelej inteligencie série P2

Ako vytvoríme prvú umelú superinteligenciu: Budúcnosť umelej inteligencie P3

Vyhladí umelá superinteligencia ľudstvo? Budúcnosť umelej inteligencie P4

Ako sa budú ľudia brániť proti umelej superinteligencii: Budúcnosť umelej inteligencie P5