Quantumrun

КРЕДИТ ЗА ИЗОБРАЖЕНИЕ: Quantumrun

Как първият изкуствен общ интелект ще промени обществото: Бъдещето на изкуствения интелект P2

Дейвид Тал, издател, футурист
@DavidTalПише
LinkedIn

вт., 09 г. - 15:2020 ч

Строихме пирамиди. Научихме се да използваме електричество. Разбираме как се е формирала нашата вселена след Големия взрив (най-вече). И разбира се, примерът с клишето е, че изпратихме човек на Луната. И все пак, въпреки всички тези постижения, човешкият мозък остава далеч извън разбирането на съвременната наука и по подразбиране е най-сложният обект в познатата вселена - или поне нашето разбиране за нея.

Като се има предвид тази реалност, не би трябвало да е шокиращо, че все още не сме изградили изкуствен интелект (AI) наравно с човешкия. AI като Data (Star Trek), Rachael (Blade Runner) и David (Prometheus) или нехуманоиден AI като Samantha (Her) и TARS (Interstellar), това са всички примери за следващия голям крайъгълен камък в развитието на AI: изкуствен общ интелект (AGI, понякога наричан още HLMI или машинен интелект на човешко ниво).

С други думи, предизвикателството, пред което са изправени изследователите на ИИ, е: Как можем да изградим изкуствен ум, сравним с нашия, когато дори нямаме пълно разбиране за това как работи собственият ни ум?

Ще проучим този въпрос, заедно с това как хората ще се противопоставят на бъдещите AGI и накрая как обществото ще се промени в деня след като първият AGI бъде обявен на света.

Какво е изкуствен общ интелект?

Създайте AI, който може лесно да победи най-високо класираните играчи в шах, Jeopardy и Go (Deep Blue, Уотсън, и AlphaGO съответно). Създайте AI, който може да ви даде отговори на всеки въпрос, да предложи артикули, които може да искате да закупите, или да управлява флотилия от споделени таксита – около тях са изградени цели компании за милиарди долари (Google, Amazon, Uber). Дори изкуствен интелект, който може да ви закара от единия край на страната до другия... е, работим по него.

Но помолете AI да прочете детска книга и да разбере съдържанието, значението или морала, които се опитва да преподава, или помолете AI да направи разликата между снимка на котка и зебра, и в крайна сметка ще причините повече от няколко къси съединения.

Природата е прекарала милиони години в еволюиране на изчислително устройство (мозъци), което превъзхожда обработката, разбирането, ученето и след това действие при нови ситуации и в нови среди. Сравнете това с последния половин век на компютърната наука, която се фокусира върху създаването на изчислителни устройства, които са пригодени за отделните задачи, за които са проектирани.

С други думи, човекът-компютър е генералист, докато изкуственият компютър е специалист.

Целта на създаването на AGI е да се създаде AI, който може да мисли и учи повече като човек, чрез опит, а не чрез директно програмиране.

В реалния свят това би означавало, че бъдещ AGI се учи как да чете, пише и разказва виц, или да ходи, да бяга и да кара колело до голяма степен сам, чрез собствения си опит в света (използвайки каквото и да е тяло или сензорни органи/устройства, които му даваме), и чрез собственото си взаимодействие друг ИИ и други хора.

Какво ще е необходимо за изграждането на изкуствен общ интелект

Въпреки че е технически трудно, създаването на AGI трябва да е възможно. Ако всъщност има дълбоко вкоренено свойство в законите на физиката – универсалността на изчисленията – което по същество казва, че всичко, което един физически обект може да направи, един достатъчно мощен компютър с общо предназначение трябва по принцип да може да копира/симулира.

И все пак е трудно.

За щастие, има много умни изследователи на AI по случая (да не говорим за много корпоративно, правителствено и военно финансиране, което ги подкрепя) и досега те са идентифицирали три ключови съставки, които смятат за необходими за решаване, за да донесат AGI в нашия свят.

Big данни. Най-често срещаният подход към разработването на AI включва техника, наречена дълбоко обучение - специфичен тип система за машинно обучение, която работи чрез изпичане на гигантски количества данни, смачкване на тези данни в мрежа от симулирани неврони (моделирани след човешкия мозък) и след това използва констатациите, за да програмира собствените си прозрения. За повече подробности относно дълбокото обучение, прочетете това.

Например, в 2017, Google захрани своя AI с хиляди изображения на котки, които неговата система за дълбоко обучение използва, за да научи не само как да идентифицира котка, но и да прави разлика между различните породи котки. Не след дълго те обявиха предстоящото освобождаване на Google Lens, ново приложение за търсене, което позволява на потребителите да правят снимка на всичко и Google не само ще ви каже какво е то, но и ще предложи полезно контекстуално съдържание, което го описва – удобно, когато пътувате и искате да научите повече за конкретна туристическа атракция. Но и тук Google Lens не би бил възможен без милиардите изображения, изброени в момента в неговата търсачка за изображения.

И все пак тази комбинация от големи данни и дълбоко обучение все още не е достатъчна, за да доведе до AGI.

По-добри алгоритми. През последното десетилетие дъщерно дружество на Google и лидер в областта на изкуствения интелект, DeepMind, направи фурор, като комбинира силните страни на дълбокото обучение с обучението с подсилване – допълнителен подход за машинно обучение, който цели да научи изкуствения интелект как да предприема действия в нови среди, за да постигне поставена цел.

Благодарение на тази хибридна тактика, премиерният AI на DeepMind, AlphaGo, не само се научи как да играе AlphaGo, като изтегли правилата и проучи стратегиите на майстори човешки играчи, но след като игра срещу себе си милиони пъти успя да победи най-добрите играчи на AlphaGo използвайки движения и стратегии, невиждани досега в играта.

По същия начин, софтуерният експеримент на Atari на DeepMind включва даване на AI на камера, за да види типичен екран на играта, програмирането му с възможност за въвеждане на поръчки за игра (като бутони на джойстика) и поставяне на единствената цел да увеличи резултата си. Резултатът? В рамките на дни то се научи как да играе и как да овладее десетки класически аркадни игри.

Но колкото и вълнуващи да са тези ранни успехи, остават някои ключови предизвикателства за решаване.

От една страна, изследователите на изкуствения интелект работят върху обучението на изкуствения интелект на трик, наречен „разкъсване“, в който човешкият и животинският мозък са изключително добри. Казано по-просто, когато решите да излезете да купите хранителни стоки, можете да визуализирате крайната си цел (купуване на авокадо) и груб план за това как бихте го направили (излезте от къщата, посетете магазина за хранителни стоки, купете авокадото, върнете се у дома). Това, което не правите, е да планирате всеки дъх, всяка стъпка, всяка възможна случайност по пътя си дотам. Вместо това имате концепция (парче) в ума си за това къде искате да отидете и адаптирайте пътуването си към всяка възникнала ситуация.

Колкото и обичайно да ви се струва, тази способност е едно от ключовите предимства, които човешкият мозък все още има пред ИИ – това е способността да си поставяте цел и да я преследвате, без да знаете всеки детайл предварително и въпреки всяка пречка или промяна в околната среда, които ние може да срещне. Това умение би позволило на AGI да учат по-ефективно, без да са необходими големите данни, споменати по-горе.

Друго предизвикателство е способността не просто да четете книга, но разбере смисъла или контекст зад него. В дългосрочен план целта тук е AI да прочете вестникарска статия и да може да отговори точно на набор от въпроси относно прочетеното, нещо като писане на репортаж за книга. Тази способност ще трансформира AI от обикновен калкулатор, който обработва числата, в обект, който обработва смисъла.

Като цяло, по-нататъшното развитие на алгоритъм за самообучение, който може да имитира човешкия мозък, ще играе ключова роля в евентуалното създаване на AGI, но наред с тази работа общността на AI също се нуждае от по-добър хардуер.

По-добър хардуер. Използвайки настоящите подходи, обяснени по-горе, AGI ще стане възможен само след като сериозно увеличим наличната изчислителна мощност за неговото изпълнение.

За контекст, ако вземем способността на човешкия мозък да мисли и я преобразуваме в изчислителни термини, тогава грубата оценка на умствения капацитет на средния човек е един екзафлоп, което е еквивалентно на 1,000 петафлопа („Флоп“ означава операции с плаваща запетая на второ и измерва скоростта на изчислението).

За сравнение, до края на 2018 г. най-мощният суперкомпютър в света, японският AI Bridging Cloud ще бръмчи със 130 петафлопа, много по-малко от един екзафлоп.

Както е посочено в нашия суперкомпютри глава в нашата Бъдещето на компютрите серия, както САЩ, така и Китай работят за изграждането на свои собствени суперкомпютри exaflop до 2022 г., но дори и да успеят, това пак може да не е достатъчно.

Тези суперкомпютри работят с мощност от няколко десетки мегавата, заемат няколкостотин квадратни метра пространство и струват няколкостотин милиона за изграждане. Човешкият мозък използва само 20 вата мощност, побира се в череп с около 50 см обиколка, а ние сме седем милиарда (2018 г.). С други думи, ако искаме да направим AGI толкова обичайни, колкото хората, ще трябва да се научим как да ги създаваме по-икономично.

За тази цел изследователите на AI започват да обмислят захранването на бъдещи AI с квантови компютри. Описано по-подробно в квантови компютри глава от нашата поредица Бъдещето на компютрите, тези компютри работят по принципно различен начин от компютрите, които сме създавали през последния половин век. След като бъде усъвършенстван до 2030 г., един-единствен квантов компютър ще изпревари всички суперкомпютри, които работят в момента, през 2018 г. в световен мащаб, взети заедно. Те също така ще бъдат много по-малки и ще използват много по-малко енергия от сегашните суперкомпютри.

С какво един изкуствен общ интелект би могъл да превъзхожда човешкия?

Да предположим, че всяко предизвикателство, изброено по-горе, е разбрано, че изследователите на AI успяват да създадат първия AGI. Как умът на AGI ще бъде различен от нашия?

За да отговорим на този вид въпрос, трябва да класифицираме умовете на AGI в три категории, тези, които живеят в тялото на робот (данни от Star Trek), тези, които имат физическа форма, но са свързани безжично към интернет/облак (Agent Smith от Матрицата) и тези без физическа форма, които живеят изцяло в компютър или онлайн (Саманта от Тя).

Като начало, AGI в роботизирано тяло, изолирано от мрежата, ще се конкурира наравно с човешките умове, но с определени предимства:

Памет: В зависимост от дизайна на роботизираната форма на AGI, тяхната краткосрочна памет и паметта на ключова информация определено ще превъзхождат хората. Но в края на деня има физическо ограничение за това колко място на твърдия диск можете да опаковате в робота, ако приемем, че ги проектираме да изглеждат като хора. Поради тази причина дългосрочната памет на AGI ще действа много като тази на хората, като активно забравя информация и спомени, които се считат за ненужни за бъдещото й функциониране (за да се освободи „дисково пространство“).
Скорост: Производителността на невроните в човешкия мозък е максимална при приблизително 200 херца, докато съвременните микропроцесори работят на ниво гигахерц, така че милиони пъти по-бързо от невроните. Това означава, че в сравнение с хората, бъдещите AGI ще обработват информация и ще вземат решения по-бързо от хората. Имайте предвид, че това не означава непременно, че този AGI ще взема по-умни или по-правилни решения от хората, просто че те могат да стигнат до заключения по-бързо.
Ефективност: Най-просто казано, човешкият мозък се уморява, ако работи твърде дълго без почивка или сън, и когато това се случи, неговата памет и способността му да учи и разсъждава се нарушават. Междувременно за AGI, ако приемем, че се презареждат (електричество) редовно, те няма да имат тази слабост.
Възможност за надграждане: За човек усвояването на нов навик може да отнеме седмици практика, усвояването на ново умение може да отнеме месеци, а усвояването на нова професия може да отнеме години. За AGI те ще имат способността да учат както чрез опит (като хората), така и чрез директно качване на данни, подобно на това как редовно актуализирате операционната система на вашия компютър. Тези актуализации могат да се прилагат за надграждане на знания (нови умения) или надграждане на производителността на физическата форма на AGI.

След това нека разгледаме AGI, които имат физическа форма, но също така са свързани безжично към интернет/облак. Разликите, които можем да видим с това ниво в сравнение с несвързаните AGI, включват:

Памет: Тези AGI ще имат всички краткосрочни предимства, които има предишният клас AGI, с изключение на това, че ще се възползват и от перфектна дългосрочна памет, тъй като могат да качват тези спомени в облака за достъп, когато е необходимо. Очевидно тази памет няма да бъде достъпна в райони с ниска свързаност, но това ще стане по-малко безпокойство през 2020-те и 2030-те години, когато повече от света стане онлайн. Прочетете повече в глава първа ни Бъдещето на Интернет серия.
Скорост: В зависимост от вида на препятствието, пред което е изправен този AGI, те могат да получат достъп до по-голямата изчислителна мощност на облака, за да им помогнат да го разрешат.
Производителност: Няма разлика в сравнение с несвързани AGI.
Възможност за надграждане: Единствената разлика между този AGI, тъй като се отнася до възможността за надграждане, е, че те имат достъп до надстройки в реално време, безжично, вместо да се налага да посещават и да се включват в депо за надстройки.
Колектив: Хората се превърнаха в доминиращия вид на Земята не защото бяхме най-голямото или най-силното животно, а защото се научихме как да общуваме и да си сътрудничим по различни начини за постигане на колективни цели, от преследването на вълнест мамут до изграждането на Международната космическа станция. Екип от AGI би извел това сътрудничество на следващото ниво. Като се имат предвид всички когнитивни предимства, изброени по-горе и след това комбинирането им със способността за безжична комуникация, както лично, така и на дълги разстояния, бъдещият AGI екип/ум на кошера може теоретично да се справи с проекти много по-ефективно от екип от хора.

И накрая, последният тип AGI е версията без физическа форма, която работи вътре в компютър и има достъп до пълната изчислителна мощ и онлайн ресурси, които нейните създатели й предоставят. В научно-фантастичните предавания и книги тези AGI обикновено са под формата на експертни виртуални асистенти/приятели или смела операционна система на космически кораб. Но в сравнение с другите две категории AGI, този AI ще се различава по следните начини;

Скорост: Неограничена (или поне до границите на хардуера, до който има достъп).
Памет: Неограничена
Производителност: Увеличаване на качеството на вземане на решения благодарение на достъпа до суперкомпютърни центрове.
Възможност за надграждане: Абсолютна, в реално време и с неограничен избор от когнитивни надстройки. Разбира се, тъй като тази категория AGI няма физическа форма на робот, тя няма да има нужда от наличните физически надстройки, освен ако тези надстройки не са за суперкомпютрите, в които работи.
Колектив: Подобно на предишната категория AGI, този безтелесен AGI ще си сътрудничи ефективно със своите колеги от AGI. Въпреки това, като се има предвид неговият по-директен достъп до неограничена изчислителна мощност и достъп до онлайн ресурси, тези AGI обикновено ще заемат ръководни роли в цялостния AGI колектив.

Кога човечеството ще създаде първия изкуствен общ интелект?

Няма определена дата, когато изследователската общност на AI вярва, че ще изобрети легитимен AGI. Въпреки това, а 2013 проучване от 550 от най-добрите изследователи на ИИ в света, проведено от водещите изследователи на ИИ Ник Бостром и Винсент С. Мюлер, осредняват диапазона от мнения до три възможни години:

Средна оптимистична година (10% вероятност): 2022 г
Средна реалистична година (50% вероятност): 2040 г
Средна песимистична година (90% вероятност): 2075 г

Колко точни са тези прогнози, всъщност няма значение. Това, което има значение, е, че по-голямата част от изследователската общност на AI вярва, че ще изобретим AGI в рамките на живота си и сравнително рано през този век.

Как създаването на изкуствен общ интелект ще промени човечеството

Ние изследваме въздействието на този нов AI в детайли в последната глава от тази серия. Въпреки това, за тази глава ще кажем, че създаването на AGI ще бъде много подобно на обществената реакция, която ще изпитаме, ако хората открият живот на Марс.

Един лагер няма да разбере значението и ще продължи да мисли, че учените правят голяма сделка за създаването на още един по-мощен компютър.

Друг лагер, вероятно съставен от лудити и религиозно мислещи индивиди, ще се страхува от този AGI, смятайки, че е мерзост, че ще се опита да унищожи човечеството в стил SkyNet. Този лагер активно ще се застъпва за изтриване/унищожаване на AGI във всичките им форми.

От друга страна, третият лагер ще гледа на това творение като на модерно духовно събитие. По всички начини, които имат значение, тази AGI ще бъде нова форма на живот, която мисли различно от нас и чиито цели са различни от нашите. След като бъде обявено създаването на AGI, хората вече няма да споделят Земята само с животни, но и с нов клас изкуствени същества, чийто интелект е равен или по-добър от нашия.

Четвъртият лагер ще включва бизнес интереси, които ще проучат как могат да използват AGI за справяне с различни бизнес нужди, като запълване на празнини на пазара на труда и ускоряване на разработването на нови стоки и услуги.

След това имаме представители от всички нива на управление, които ще се спънат в себе си, опитвайки се да разберат как да регулират AGI. Това е нивото, на което всички морализаторски и философски дебати ще стигнат до върха, по-специално относно това дали да се третират тези AGI като собственост или като лица.

И накрая, последният лагер ще бъдат военните и службите за национална сигурност. Всъщност има голям шанс публичното обявяване на първия AGI да се забави с месеци или години само поради този лагер. Защо? Тъй като изобретяването на AGI в кратки срокове ще доведе до създаването на изкуствен суперинтелект (ASI), такъв, който ще представлява огромна геополитическа заплаха и възможност, далеч надминаваща изобретяването на ядрената бомба.

Поради тази причина следващите няколко глави ще се фокусират изцяло върху темата за ASI и дали човечеството ще оцелее след изобретяването му.

(Прекалено драматичен начин за завършване на глава? Можете да се обзаложите.)