Quantumrun

КРЭДЫТ ВЫЯВЫ: Quantumrun

Як мы створым першы штучны звышінтэлект: будучыня штучнага інтэлекту P3

Дэвід Таль, выдавец, футурыст
@DavidTalWrites
LinkedIn

Аў, 09 - 15:2020

Глыбока ў Другую сусветную вайну нацысцкія войскі рухаліся па большай частцы Еўропы. У іх была перадавая зброя, эфектыўная ваенная прамысловасць, фанатычна кіраваная пяхота, але перш за ўсё ў іх была машына пад назвай Энігма. Гэта прылада дазволіла нацысцкім сілам бяспечна супрацоўнічаць на вялікіх адлегласцях, адпраўляючы адзін аднаму паведамленні кодам Морзэ па стандартных лініях сувязі; гэта была машына шыфравання, непрыступная для ўзломшчыкаў кодаў.

На шчасце, саюзнікі знайшлі рашэнне. Ім больш не патрэбны быў чалавечы розум, каб зламаць Enigma. Замест гэтага, дзякуючы вынаходніцтву нябожчыка Алана Цьюрынга, саюзнікі стварылі новы рэвалюцыйны інструмент пад назвай Брытанская бомба, электрамеханічная прылада, якая нарэшце расшыфравала сакрэтны код нацыстаў і ў выніку дапамагла ім выйграць вайну.

Гэтая Bombe заклала аснову для таго, што стала сучасным кампутарам.

Разам з Цьюрынгам у праекце распрацоўкі Bombe працаваў І. Дж. Гуд, брытанскі матэматык і крыптолаг. Ён убачыў на самым пачатку гульні, што калі-небудзь гэтая новая прылада можа быць створана. У 1965 папера, ён напісаў:

«Няхай звышразумная машына будзе вызначана як машына, якая можа значна перасягнуць усю інтэлектуальную дзейнасць любога чалавека, якім бы разумным ён ні быў. Паколькі праектаванне машын з'яўляецца адной з гэтых інтэлектуальных відаў дзейнасці, ультраразумная машына магла б распрацоўваць яшчэ лепшыя машыны; тады бясспрэчна адбыўся б «выбух інтэлекту», і інтэлект чалавека застаўся б далёка ззаду... Такім чынам, першая звышразумная машына — гэта апошняе вынаходніцтва, якое чалавек калі-небудзь павінен зрабіць, пры ўмове, што машына дастаткова паслухмяная, каб сказаць нам, як трымаць гэта пад кантролем».

Стварэнне першага штучнага звышінтэлекту

Да гэтага часу ў нашай серыі "Будучыня штучнага інтэлекту" мы вызначылі тры шырокія катэгорыі штучнага інтэлекту (AI), ад штучны вузкі інтэлект (ANI) да штучны агульны інтэлект (AGI), але ў гэтым раздзеле серыі мы засяродзімся на апошняй катэгорыі — той, якая спараджае або хваляванне, або панічныя атакі сярод даследчыкаў штучнага інтэлекту — штучны звышінтэлект (ASI).

Каб зразумець, што такое ASI, вам трэба ўспомніць апошнюю главу, дзе мы апісалі, як даследчыкі штучнага інтэлекту лічаць, што яны створаць першы AGI. Па сутнасці, для гэтага спатрэбіцца спалучэнне лепшых алгарытмаў для падачы вялікіх дадзеных (спецыялізаваных на самаўдасканаленні і чалавечых здольнасцях да навучання), размешчаных ва ўсё больш магутным вылічальным абсталяванні.

У гэтай главе мы таксама паказалі, як розум AGI (як толькі ён набудзе гэтыя здольнасці да самаўдасканалення і навучання, якія мы, людзі, успрымаем як належнае) у канчатковым выніку пераўзыходзіць чалавечы розум дзякуючы найвышэйшай хуткасці мыслення, палепшанай памяці, нястомнай працаздольнасці і маментальная магчымасць абнаўлення.

Але тут важна адзначыць, што AGI будзе самаўдасканальвацца толькі ў межах апаратнага забеспячэння і даных, да якіх ён мае доступ; гэта абмежаванне можа быць вялікім ці малым у залежнасці ад цела робата, якое мы яму даем, або ад колькасці камп'ютараў, да якіх мы дазваляем яму доступ.

Пры гэтым розніца паміж AGI і ASI заключаецца ў тым, што апошні, тэарэтычна, ніколі не будзе існаваць у фізічнай форме. Ён будзе працаваць цалкам у рамках суперкампутара або сеткі суперкампутараў. У залежнасці ад мэтаў яго стваральнікаў, ён таксама можа атрымаць поўны доступ да ўсіх дадзеных, якія захоўваюцца ў Інтэрнэце, а таксама да любой прылады або чалавека, які перадае дадзеныя ў Інтэрнэт і праз Інтэрнэт. Гэта азначае, што не будзе практычнага абмежавання таго, колькі гэты ASI можа навучыцца і наколькі ён можа самаўдасканальвацца.

І гэта руб.

Разуменне выбуху інтэлекту

Гэты працэс самаўдасканалення, які ў канчатковым выніку атрымаюць штучны інтэлект, калі яны стануць AGI (працэс, які супольнасць штучнага інтэлекту называе рэкурсіўным самаўдасканаленнем), патэнцыйна можа спыніць станоўчую зваротную сувязь, якая выглядае прыкладна так:

Ствараецца новы AGI, яму даецца доступ да цела робата або вялікага набору даных, а затым даецца простая задача самаадукацыі, паляпшэння свайго інтэлекту. Спачатку гэты AGI будзе мець IQ немаўля, якое змагаецца за спасціжэнне новых паняццяў. З часам ён навучыцца дастаткова, каб дасягнуць IQ сярэдняга дарослага чалавека, але на гэтым не спыняецца. Выкарыстоўваючы новы IQ для дарослага, становіцца нашмат прасцей і хутчэй працягваць паляпшэнне да такой ступені, што яго IQ супадае з IQ самых разумных вядомых людзей. Але зноў жа, гэта не спыняецца на дасягнутым.

Гэты працэс узрастае на кожным новым узроўні інтэлекту, прытрымліваючыся закону паскарэння аддачы, пакуль не дасягне невылічальнага ўзроўню звышінтэлекту - іншымі словамі, калі яго не кантраляваць і даць яму неабмежаваныя рэсурсы, AGI будзе самаўдасканальвацца ў ASI, інтэлект, які ніколі раней не існавала ў прыродзе.

Гэта тое, што І. Дж. Гуд упершыню вызначыў, калі апісаў гэты «выбух інтэлекту» або тое, што сучасныя тэарэтыкі штучнага інтэлекту, такія як Нік Бострам, называюць падзеяй «узлёту» штучнага інтэлекту.

Разуменне штучнага звышінтэлекту

У гэты момант некаторыя з вас, верагодна, думаюць, што ключавая розніца паміж інтэлектам чалавека і інтэлектам ASI заключаецца ў тым, наколькі хутка абодва бакі могуць думаць. І хаця гэта праўда, што гэты тэарэтычны будучы ASI будзе думаць хутчэй, чым людзі, гэтая здольнасць ужо даволі звычайная з'ява ў сучасным кампутарным сектары - наш смартфон думае (вылічае) хутчэй, чым чалавечы розум, суперкампутар думае ў мільёны разоў хутчэй, чым смартфон, і будучы квантавы кампутар будзе думаць яшчэ хутчэй.

Не, хуткасць - гэта не асаблівасць інтэлекту, якую мы тут тлумачым. Гэта якасць.

Вы можаце як заўгодна паскорыць працу мозгу вашага самаеда або коргі, але гэта не прывядзе да новага разумення таго, як інтэрпрэтаваць мову або абстрактныя ідэі. Нават з лішнім дзесяцігоддзем ці двума гэтыя сабачкі не зразумеюць, як вырабляць або выкарыстоўваць інструменты, не кажучы ўжо пра тонкія адрозненні паміж капіталістычнай і сацыялістычнай эканамічнай сістэмай.

Калі справа даходзіць да інтэлекту, людзі дзейнічаюць на іншай плоскасці, чым жывёлы. Сапраўды гэтак жа, калі ASI дасягне свайго поўнага тэарэтычнага патэнцыялу, іх розум будзе працаваць на ўзроўні, далёка за межамі дасяжнасці сярэдняга сучаснага чалавека. Для некаторага кантэксту давайце паглядзім на прымяненне гэтых ASI.

Як штучны звышінтэлект можа працаваць разам з чалавецтвам?

Калі выказаць здагадку, што пэўны ўрад або карпарацыя паспяхова стварае ASI, як яны могуць яго выкарыстоўваць? Па словах Бострома, гэтыя ASI могуць прымаць тры асобныя, але звязаныя формы:

Oracle Тут мы будзем узаемадзейнічаць з ASI гэтак жа, як мы ўжо робім з пошукавай сістэмай Google; мы зададзім яму пытанне, але незалежна ад таго, наколькі складаным гэтае пытанне, ASI адкажа на яго ідэальна і такім чынам, які адаптаваны да вас і кантэксту вашага пытання.
джын. У гэтым выпадку мы прызначым ASI пэўную задачу, і яна будзе выканана па камандзе. Даследуйце лекі ад раку. Гатова. Знайдзіце ўсе планеты, схаваныя ў здымках касмічнага тэлескопа "Хабл" НАСА за 10 гадоў. Гатова. Спраектуйце працуючы тэрмаядзерны рэактар, каб задаволіць патрэбы чалавецтва ў энергіі. Абракадабра.
Суверэнная. Тут ASI прызначаецца адкрытая місія і даецца свабода яе выканання. Выкрасці сакрэты даследаванняў і распрацовак у нашага карпаратыўнага канкурэнта. «Лёгка». Даведайцеся асобы ўсіх замежных шпіёнаў, якія хаваюцца ўнутры нашых межаў. «На гэта». Забяспечыць працяг эканамічнага росквіту Злучаных Штатаў. — Няма праблем.

Цяпер я ведаю, што вы думаеце, усё гэта гучыць даволі надумана. Вось чаму важна памятаць, што ўсе праблемы/выклікі, нават тыя, якія на сённяшні дзень збіваюць з панталыку самыя светлыя розумы свету, усе яны вырашальныя. Але цяжкасць праблемы вымяраецца інтэлектам, які яе вырашае.

Іншымі словамі, чым больш розум прыкладзены да выкліку, тым лягчэй становіцца знайсці рашэнне гэтага выкліку. Любы выклік. Гэта падобна да таго, як дарослы назірае за немаўляткам, каб зразумець, чаму ён не можа змясціць квадратны блок у круглую адтуліну - для дарослага паказаць немаўляці, што блок павінен пралезці праз квадратную адтуліну, было б дзіцячай гульнёй.

Сапраўды гэтак жа, калі гэты будучы ASI раскрые свой поўны патэнцыял, гэты розум стане самым магутным інтэлектам у вядомым сусвеце - дастаткова магутным, каб вырашыць любую праблему, якой бы складанай яна ні была.

Вось чаму многія даследчыкі штучнага інтэлекту называюць ASI апошнім вынаходніцтвам чалавека. Калі мы перакананыя працаваць разам з чалавецтвам, гэта можа дапамагчы нам вырашыць усе найбольш актуальныя праблемы свету. Мы можам нават папрасіць яго ліквідаваць усе хваробы і спыніць старэнне, якое мы ведаем. Чалавецтва ўпершыню можа назаўсёды падмануць смерць і ўвайсці ў новую эпоху росквіту.

Але магчыма і наадварот.

Інтэлект - гэта сіла. Пры няправільным кіраванні або ўказанні кепскіх акцёраў гэты ASI можа стаць найвышэйшым інструментам прыгнёту або цалкам знішчыць чалавецтва — успомніце Skynet з Тэрмінатара або Архітэктара з фільмаў «Матрыца».

Па праўдзе кажучы, ні адна з крайнасцей малаверагодная. Будучыня заўсёды значна больш брудная, чым прадказваюць утапісты і дыстапісты. Вось чаму цяпер, калі мы разумеем канцэпцыю ASI, астатняя частка гэтай серыі будзе даследаваць, як ASI паўплывае на грамадства, як грамадства будзе абараняцца ад жуліка ASI і як можа выглядаць будучыня, калі людзі і штучны інтэлект будуць жыць побач -бок. Чытайце далей.