Quantumrun

КРЭДЫТ ВЫЯВЫ: Quantumrun

Як першы штучны інтэлект зменіць грамадства: будучыня штучнага інтэлекту P2

Дэвід Таль, выдавец, футурыст
@DavidTalWrites
LinkedIn

Аў, 09 - 15:2020

Мы пабудавалі піраміды. Мы вучыліся выкарыстоўваць электрычнасць. Мы разумеем, як утварыўся наш Сусвет пасля Вялікага выбуху (у асноўным). І, вядома, шаблонны прыклад: мы адправілі чалавека на Месяц. Тым не менш, нягледзячы на ўсе гэтыя дасягненні, чалавечы мозг застаецца далёка за межамі разумення сучаснай навукай і, па змаўчанні, з'яўляецца самым складаным аб'ектам у вядомым Сусвеце - ці, прынамсі, у нашым разуменні гэтага.

Улічваючы гэтую рэальнасць, не павінна быць зусім шакавальным, што мы яшчэ не стварылі штучны інтэлект (AI) на адным узроўні з чалавечым. ШІ, напрыклад, Дэйта (Зорны шлях), Рэйчэл (Бягучая па лязе) і Дэвід (Праметэй), або негуманоідны ШІ, напрыклад Саманта (Яна) і TARS (Інтэрстэлар), усё гэта прыклады наступнай важнай вехі ў развіцці ШІ: штучны агульны інтэлект (AGI, часам таксама называюць HLMI або машынным інтэлектам на ўзроўні чалавека).

Іншымі словамі, праблема, з якой сутыкаюцца даследчыкі штучнага інтэлекту: як мы можам стварыць штучны розум, параўнальны з нашым, калі мы нават не маем поўнага разумення таго, як працуе наш уласны розум?

Мы вывучым гэтае пытанне разам з тым, як людзі будуць супрацьстаяць будучым AGI, і, нарэшце, як зменіцца грамадства на наступны дзень пасля абвяшчэння свету аб першым AGI.

Што такое штучны агульны інтэлект?

Лёгка распрацуйце AI, які можа перамагчы гульцоў з самым высокім рэйтынгам у шахматах, Jeopardy і Go (Цёмна-Сіні, Уотсан, і AlphaGO адпаведна). Стварыце штучны інтэлект, які можа даць вам адказы на любое пытанне, прапанаваць тавары, якія вы, магчыма, захочаце набыць, або кіраваць паркам таксі з сумеснымі паездкамі — вакол іх пабудаваны цэлыя шматмільярдныя кампаніі (Google, Amazon, Uber). Нават штучны інтэлект, які можа перавезці вас з аднаго канца краіны ў другі ... ну, мы працуем над гэтым.

Але папрасіце штучнага інтэлекту прачытаць дзіцячую кнігу і зразумець змест, сэнс або мараль, якой яна спрабуе навучыць, або папрасіце штучнага інтэлекту адрозніць выяву кошкі ад зебры, і вы ў канчатковым выніку прычыніце больш чым некалькі кароткія замыканні.

Прырода патраціла мільёны гадоў на распрацоўку вылічальнай прылады (мозгу), якая выдатна спраўляецца з апрацоўкай, разуменнем, навучаннем, а затым рэагаваннем на новыя сітуацыі і ў новых умовах. Параўнайце гэта з апошнімі паўстагоддзямі інфарматыкі, якая сканцэнтравалася на стварэнні вылічальных прылад, якія былі адаптаваны да асаблівых задач, для якіх яны былі распрацаваны.

Іншымі словамі, чалавек-кампутар - гэта ўніверсал, а штучны кампутар - спецыяліст.

Мэта стварэння AGI - стварыць штучны інтэлект, які можа думаць і вучыцца больш як чалавек, праз вопыт, а не праз прамое праграмаванне.

У рэальным свеце гэта будзе азначаць, што будучы AGI навучыцца чытаць, пісаць і расказваць анекдоты або хадзіць, бегаць і ездзіць на ровары ў значнай ступені самастойна, дзякуючы ўласнаму вопыту ў свеце (выкарыстоўваючы любое цела або органы пачуццяў/прылады, якія мы яму даем), і праз яго ўласнае ўзаемадзеянне з іншымі ІІ і іншымі людзьмі.

Што спатрэбіцца для стварэння штучнага агульнага інтэлекту

Нягледзячы на тэхнічную складанасць, стварэнне AGI павінна быць магчымым. Фактычна, у законах фізікі існуе глыбока ўкаранёная ўласцівасць - універсальнасць вылічэнняў - якая ў асноўным кажа, што ўсё, што можа зрабіць фізічны аб'ект, дастаткова магутны камп'ютар агульнага прызначэння павінен, у прынцыпе, мець магчымасць капіяваць/мадэляваць.

І тым не менш, гэта складана.

На шчасце, ёсць шмат разумных даследчыкаў штучнага інтэлекту, якія займаюцца гэтай справай (не кажучы ўжо пра вялікую колькасць карпаратыўных, дзяржаўных і ваенных сродкаў, якія падтрымліваюць іх), і да гэтага часу яны вызначылі тры ключавыя інгрэдыенты, якія, на іх думку, неабходна вырашыць, каб прывесці AGI ў наш свет.

Вялікае дадзеных. Найбольш распаўсюджаны падыход да распрацоўкі штучнага інтэлекту ўключае тэхніку, званую глыбокім навучаннем — спецыфічны тып сістэмы машыннага навучання, якая працуе шляхам збору гіганцкіх аб'ёмаў даных, апрацоўкі дадзеных у сетцы мадэляваных нейронаў (па ўзоры чалавечага мозгу), а затым выкарыстоўваць вынікі, каб запраграмаваць свае ўласныя ідэі. Каб атрымаць больш падрабязную інфармацыю аб паглыбленым навучанні, прачытайце гэта.

Напрыклад, у 2017, Google накарміў свой штучны інтэлект тысячамі малюнкаў катоў, якія яго сістэма глыбокага навучання выкарыстоўвала, каб навучыцца не толькі ідэнтыфікаваць котку, але і адрозніваць розныя пароды катоў. Неўзабаве пасля гэтага яны абвясцілі аб надыходзячым выпуску Google Lens, новае пошукавае прыкладанне, якое дазваляе карыстальнікам фатаграфаваць што заўгодна, і Google не толькі раскажа вам, што гэта такое, але прапануе карысны кантэкстны кантэнт з апісаннем гэтага - зручна, калі вы падарожнічаеце, калі вы хочаце даведацца больш пра пэўную турыстычную славутасць. Але і тут Google Lens быў бы немагчымы без мільярдаў малюнкаў, якія зараз пералічаны ў яго пошукавай сістэме.

І ўсё ж гэтай камбінацыі вялікіх даных і глыбокага навучання недастаткова для стварэння AGI.

Лепшыя алгарытмы. За апошняе дзесяцігоддзе DeepMind, даччыная кампанія Google і лідэр у галіне штучнага інтэлекту, выклікала фурор, аб'яднаўшы моцныя бакі глыбокага навучання з навучаннем з падмацаваннем — бясплатным падыходам да машыннага навучання, мэтай якога з'яўляецца навучанне штучнага інтэлекту дзеянням у новых умовах для дасягнення пастаўленая мэта.

Дзякуючы гэтай гібрыднай тактыцы прэм'ерны штучны інтэлект DeepMind, AlphaGo, не толькі навучыўся гуляць у AlphaGo, спампоўваючы правілы і вывучаючы стратэгіі майстэрскіх гульцоў-людзей, але пасля гульні сам супраць сябе мільёны разоў змог перамагчы лепшых гульцоў AlphaGo выкарыстоўваючы хады і стратэгіі, якія ніколі раней не бачылі ў гульні.

Сапраўды гэтак жа, праграмны эксперымент Atari ад DeepMind прадугледжваў стварэнне AI камеры для прагляду тыповага гульнявога экрана, праграмаванне яго з магчымасцю ўводзіць гульнявыя парадкі (напрыклад, кнопкі джойсціка) і пастаноўку адзінай мэты - павялічыць свой бал. Вынік? За некалькі дзён ён навучыўся гуляць і асвоіць дзесяткі класічных аркадных гульняў.

Але якімі б цікавымі ні былі гэтыя першыя поспехі, застаюцца некаторыя ключавыя праблемы, якія трэба вырашыць.

Па-першае, даследчыкі штучнага інтэлекту працуюць над тым, каб навучыць штучны інтэлект труку пад назвай «чанкінг», у якім мозг чалавека і жывёл надзвычай добры. Прасцей кажучы, калі вы вырашылі пайсці купіць прадукты, вы можаце ўявіць сваю канчатковую мэту (купіць авакада) і прыблізны план таго, як вы гэта зробіце (выйсці з дому, наведаць прадуктовы магазін, купіць авакада, вяртанне дадому). Што вы не робіце, так гэта плануеце кожны ўдых, кожны крок, усе магчымыя непрадбачаныя сітуацыі на вашым шляху туды. Замест гэтага ў вас ёсць канцэпцыя (частка) у вашым розуме аб тым, куды вы хочаце пайсці, і адаптуйце сваю паездку да любой сітуацыі, якая ўзнікае.

Як бы звычайна гэта ні здавалася вам, гэтая здольнасць з'яўляецца адной з ключавых пераваг чалавечага мозгу перад штучным інтэлектам - гэта здольнасць ставіць перад сабой мэту і дамагацца яе, не ведаючы загадзя ўсіх дэталяў і нягледзячы на любыя перашкоды або змены навакольнага асяроддзя, якія мы можа сутыкнуцца. Гэты навык дазволіць AGI вучыцца больш эфектыўна, без патрэбы ў вялікіх дадзеных, згаданых вышэй.

Яшчэ адна праблема - здольнасць не проста чытаць кнігу, але зразумець сэнс або кантэкст за ім. У доўгатэрміновай перспектыве мэта складаецца ў тым, каб штучны інтэлект прачытаў газетны артыкул і мог дакладна адказаць на шэраг пытанняў пра тое, што ён прачытаў, накшталт напісання справаздачы аб кнізе. Гэтая здольнасць ператворыць штучны інтэлект з простага калькулятара, які разлічвае лічбы, у сутнасць, якая разбірае сэнс.

У цэлым далейшае ўдасканаленне алгарытму саманавучання, які можа імітаваць чалавечы мозг, будзе адыгрываць ключавую ролю ў канчатковым стварэнні AGI, але разам з гэтай працай супольнасці штучнага інтэлекту таксама патрэбна лепшае абсталяванне.

Лепшае абсталяванне. З выкарыстаннем сучасных падыходаў, апісаных вышэй, AGI стане магчымым толькі пасля таго, як мы сур'ёзна павялічым вылічальную магутнасць, даступную для яго запуску.

Для кантэксту, калі мы возьмем здольнасць чалавечага мозгу думаць і ператворым яе ў вылічальныя тэрміны, то грубая ацэнка разумовых здольнасцей сярэдняга чалавека складзе адзін экзафлоп, што эквівалентна 1,000 петафлопс ("Флоп" азначае аперацыі з плаваючай кропкай на другі і вымярае хуткасць вылічэнняў).

Для параўнання, да канца 2018 года самы магутны суперкампутар у свеце, японскі AI Bridging Cloud будзе гудзець з хуткасцю 130 петафлопс, што значна менш за адзін экзафлоп.

Як паказана ў нашым суперкампутарах раздзел у нашай Будучыня кампутараў ЗША і Кітай працуюць над стварэннем уласных суперкампутараў Exaflop да 2022 года, але нават калі яны даб'юцца поспеху, гэтага можа быць недастаткова.

Гэтыя суперкампутары працуюць на некалькі дзясяткаў мегават, займаюць некалькі сотняў квадратных метраў прасторы і каштуюць некалькі сотняў мільёнаў. Чалавечы мозг спажывае ўсяго 20 Вт энергіі, змяшчаецца ў чэрапе прыблізна 50 см у акружнасці, і нас сем мільярдаў (2018). Іншымі словамі, калі мы хочам зрабіць AGI такім жа звычайным, як і людзі, нам трэба будзе навучыцца ствараць іх значна больш эканамічна.

З гэтай мэтай даследчыкі штучнага інтэлекту пачынаюць разглядаць магчымасць харчавання будучых штучных інтэлектаў квантавымі кампутарамі. Больш падрабязна апісаны ў ст квантавыя кампутары у раздзеле нашай серыі «Будучыня кампутараў», гэтыя кампутары працуюць прынцыпова інакш, чым кампутары, якія мы стваралі апошнія паўстагоддзя. Пасля ўдасканалення да 2030-х гадоў адзін квантавы камп'ютар перасягне ўсе суперкамп'ютэры, якія працуюць у цяперашні час, у 2018 годзе ва ўсім свеце, разам узятыя. Яны таксама будуць значна меншымі і спажываць значна менш энергіі, чым цяперашнія суперкампутары.

Чым штучны агульны інтэлект можа пераўзыходзіць чалавечы?

Давайце выкажам здагадку, што кожная праблема, пералічаная вышэй, будзе вырашана, што даследчыкі штучнага інтэлекту дасягнуць поспеху ў стварэнні першага AGI. Чым розум AGI будзе адрознівацца ад нашага?

Каб адказаць на такое пытанне, нам трэба класіфікаваць розум AGI на тры катэгорыі, тыя, што жывуць у целе робата (дадзеныя з Star Trek), тыя, якія маюць фізічную форму, але падлучаныя да Інтэрнэту/воблака без правадоў (Агент Сміт з Матрыца) і тыя, хто не мае фізічнай формы, якія жывуць цалкам у кампутары або ў Інтэрнэце (Саманта з Яе).

Пачнем з таго, што AGI ўнутры рабатызаванага цела, ізаляванага ад сеткі, будзе канкураваць нароўні з чалавечым розумам, але з пэўнымі перавагамі:

Памяць: у залежнасці ад дызайну рабатызаванай формы AGI, іх кароткачасовая памяць і памяць ключавой інфармацыі, безумоўна, будуць лепш, чым у людзей. Але, у рэшце рэшт, ёсць фізічнае абмежаванне таго, колькі месца на цвёрдым дыску вы можаце змясціць у робата, пры ўмове, што мы спраектуем яго так, каб ён выглядаў як чалавек. Па гэтай прычыне доўгатэрміновая памяць AGI будзе дзейнічаць вельмі падобна на чалавечую, актыўна забываючы інфармацыю і ўспаміны, якія лічацца непатрэбнымі для яе будучага функцыянавання (каб вызваліць «дыскавую прастору»).
Хуткасць: прадукцыйнасць нейронаў унутры чалавечага мозгу дасягае максімальнай частаты прыкладна 200 герц, у той час як сучасныя мікрапрацэсары працуюць на ўзроўні гігагерц, такім чынам, у мільёны разоў хутчэй, чым нейроны. Гэта азначае, што ў параўнанні з людзьмі будучыя AGI будуць апрацоўваць інфармацыю і прымаць рашэнні хутчэй, чым людзі. Майце на ўвазе, што гэта не абавязкова азначае, што гэты AGI будзе прымаць разумнейшыя або больш правільныя рашэнні, чым людзі, а толькі тое, што яны могуць прыйсці да высноваў хутчэй.
Прадукцыйнасць: Прасцей кажучы, чалавечы мозг стамляецца, калі працуе занадта доўга без адпачынку і сну, і калі гэта адбываецца, яго памяць і здольнасць да навучання і развагі пагаршаюцца. Між тым, для AGI, калі выказаць здагадку, што яны рэгулярна падзараджаюцца (электрычнасцю), у іх не будзе такой слабасці.
Магчымасць мадэрнізацыі: для чалавека на засваенне новай звычкі могуць спатрэбіцца тыдні практыкі, на засваенне новага навыку - месяцы, а на вывучэнне новай прафесіі - гады. Што тычыцца AGI, яны будуць мець магчымасць вучыцца як на вопыце (як людзі), так і шляхам непасрэднай загрузкі даных, падобна таму, як вы рэгулярна абнаўляеце АС вашага кампутара. Гэтыя абнаўленні могуць прымяняцца да павышэння ведаў (новых навыкаў) або павышэння прадукцыйнасці фізічнай формы AGI.

Далей давайце паглядзім на AGI, якія маюць фізічную форму, але таксама падключаны па бесправадной сеткі да Інтэрнэту/воблака. Адрозненні, якія мы бачым на гэтым узроўні ў параўнанні з непадключанымі AGI, ўключаюць:

Памяць: гэтыя AGI будуць мець усе кароткатэрміновыя перавагі, якія мае папярэдні клас AGI, за выключэннем таго, што яны таксама выйграюць ад ідэальнай доўгатэрміновай памяці, паколькі яны могуць загружаць гэтыя ўспаміны ў воблака для доступу пры неабходнасці. Відавочна, што гэтая памяць не будзе даступная ў раёнах з нізкім узроўнем сувязі, але гэта стане менш праблемай у 2020-х і 2030-х гадах, калі большая частка свету выйдзе ў сетку. Больш падрабязна ў кіраўнік першы нашых Будучыня Інтэрнэту серыі.
Хуткасць: у залежнасці ад тыпу перашкод, з якімі сутыкаецца AGI, яны могуць атрымаць доступ да большай вылічальнай магутнасці воблака, каб дапамагчы ім вырашыць гэтую праблему.
Прадукцыйнасць: няма розніцы ў параўнанні з непадключанымі AGI.
Магчымасць абнаўлення: адзіная розніца паміж гэтым AGI, што тычыцца магчымасці абнаўлення, заключаецца ў тым, што яны могуць атрымаць доступ да абнаўленняў у рэжыме рэальнага часу па бесправадной сеткі, замест таго, каб наведваць і падключацца да дэпо абнаўленняў.
Калектыўны: людзі сталі дамінуючым відам на Зямлі не таму, што мы былі самай вялікай і моцнай жывёлай, а таму, што мы навучыліся камунікаваць і супрацоўнічаць рознымі спосабамі для дасягнення агульных мэтаў, ад палявання на шарсцістага маманта да будаўніцтва Міжнароднай касмічнай станцыі. Каманда AGI выведзе гэтае супрацоўніцтва на новы ўзровень. Улічваючы ўсе кагнітыўныя перавагі, пералічаныя вышэй, а затым спалучаючы гэта з магчымасцю бесправадной сувязі, як асабіста, так і на вялікіх адлегласцях, будучая каманда AGI/вулей тэарэтычна можа вырашаць праекты значна больш эфектыўна, чым каманда людзей.

Нарэшце, апошні тып AGI - гэта версія без фізічнай формы, якая працуе ўнутры кампутара і мае доступ да поўнай вылічальнай магутнасці і інтэрнэт-рэсурсаў, якія ёй прадастаўляюць стваральнікі. У навукова-фантастычных шоу і кнігах гэтыя AGI звычайна прымаюць форму экспертных віртуальных памочнікаў/сяброў або дзёрзкую аперацыйную сістэму касмічнага карабля. Але ў параўнанні з двума іншымі катэгорыямі AGI, гэты AI будзе адрознівацца наступным чынам;

Хуткасць: неабмежаваная (ці, прынамсі, у межах абсталявання, да якога ён мае доступ).
Памяць: неабмежаваная
Прадукцыйнасць: павышэнне якасці прыняцця рашэнняў дзякуючы доступу да суперкампутарных цэнтраў.
Магчымасць абнаўлення: Абсалютная, у рэжыме рэальнага часу і з неабмежаваным выбарам кагнітыўных абнаўленняў. Вядома, паколькі гэтая катэгорыя AGI не мае фізічнай формы робата, яна не будзе мець патрэбы ў даступных фізічных мадэрнізацыях, калі гэтыя мадэрнізацыі не датычацца суперкампутараў, у якіх ён працуе.
Калектыўны: Як і ў папярэдняй катэгорыі AGI, гэты бесцялесны AGI будзе эфектыўна супрацоўнічаць са сваімі калегамі з AGI. Аднак, улічваючы больш прамы доступ да неабмежаванай вылічальнай магутнасці і доступ да інтэрнэт-рэсурсаў, гэтыя AGI звычайна займаюць кіруючыя ролі ў агульным калектыве AGI.

Калі чалавецтва створыць першы штучны агульны інтэлект?

Няма дакладнай даты, калі даследчая супольнасць штучнага інтэлекту мяркуе, што вынайдзе законны AGI. Аднак а 2013 абследавання 550 вядучых сусветных даследчыкаў штучнага інтэлекту, праведзенае вядучымі даследчыкамі штучнага інтэлекту Нікам Бострамам і Вінцэнтам С. Мюлерам, асераднёнае дыяпазон меркаванняў да трох магчымых гадоў:

Сярэдні аптымістычны год (імавернасць 10%): 2022
Сярэдні рэалістычны год (імавернасць 50%): 2040
Сярэдні песімістычны год (імавернасць 90%): 2075

Наколькі дакладныя гэтыя прагнозы, асаблівага значэння не мае. Важна тое, што пераважная большасць даследчай супольнасці штучнага інтэлекту лічыць, што мы вынайдзем AGI на працягу нашага жыцця і адносна ў пачатку гэтага стагоддзя.

Як стварэнне штучнага агульнага інтэлекту зменіць чалавецтва

Мы падрабязна даследуем уплыў гэтага новага штучнага інтэлекту ў самым апошнім раздзеле гэтай серыі. Тым не менш, у гэтай главе мы скажам, што стварэнне AGI будзе вельмі падобна на рэакцыю грамадства, якую мы адчуем, калі людзі знойдуць жыццё на Марсе.

Адзін лагер не зразумее значнасці і будзе працягваць думаць, што навукоўцы робяць вялікую справу аб стварэнні яшчэ аднаго больш магутнага кампутара.

Іншы лагер, верагодна, які складаецца з луддытаў і рэлігійна настроеных людзей, будзе баяцца гэтага AGI, лічачы, што гэта агіднасць, што ён будзе спрабаваць знішчыць чалавецтва ў стылі SkyNet. Гэты лагер будзе актыўна выступаць за выдаленне/знішчэнне AGI ва ўсіх іх формах.

З іншага боку, трэці лагер будзе разглядаць гэта стварэнне як сучасную духоўную падзею. Ва ўсім, што мае значэнне, гэты AGI будзе новай формай жыцця, якая думае інакш, чым мы, і чые мэты адрозніваюцца ад нашых уласных. Пасля таго, як будзе абвешчана аб стварэнні AGI, людзі больш не будуць дзяліць Зямлю толькі з жывёламі, але і разам з новым класам штучных істот, чый інтэлект будзе на адным узроўні або пераўзыходзіць наш.

Чацвёрты лагер будзе ўключаць дзелавыя інтарэсы, якія будуць даследаваць, як яны могуць выкарыстоўваць AGI для задавальнення розных патрэб бізнесу, напрыклад, запаўнення прабелаў на рынку працы і паскарэння распрацоўкі новых тавараў і паслуг.

Далей у нас ёсць прадстаўнікі ўсіх узроўняў улады, якія будуць спатыкацца аб сябе, спрабуючы зразумець, як рэгуляваць AGI. Гэта ўзровень, на якім усе маралізатарскія і філасофскія дэбаты прыйдуць да вяршыні, у прыватнасці, наконт таго, ці разглядаць гэтыя AGI як уласнасць або як асоб.

І, нарэшце, апошнім лагерам стануць вайскоўцы і органы нацыянальнай бяспекі. Па праўдзе кажучы, ёсць вялікая верагоднасць, што публічнае аб'яву першага AGI можа быць адкладзена на некалькі месяцаў ці гадоў толькі з-за гэтага лагера. чаму? Таму што вынаходніцтва AGI хутка прывядзе да стварэння штучнага звышінтэлекту (ASI), які будзе прадстаўляць велізарную геапалітычную пагрозу і магчымасць, значна пераўзыходзячы вынаходніцтва ядзернай бомбы.

Па гэтай прычыне некалькі наступных раздзелаў будуць цалкам прысвечаны тэме ASI і таму, ці выжыве чалавецтва пасля яго вынаходкі.

(Занадта драматычны спосаб скончыць главу? Напэўна.)