Quantumrun

КРЕДИТ ЗА ИЗОБРАЖЕНИЕ: Quantumrun

Как ще създадем първия изкуствен суперинтелект: Бъдещето на изкуствения интелект P3

Дейвид Тал, издател, футурист
@DavidTalПише
LinkedIn

вт., 09 г. - 15:2020 ч

Дълбоко във Втората световна война нацистките сили преминават през голяма част от Европа. Имаха модерни оръжия, ефективна военновременна индустрия, фанатично насочена пехота, но преди всичко имаха машина, наречена Енигма. Това устройство позволява на нацистките сили безопасно да си сътрудничат на дълги разстояния, като изпращат съобщения с морзов код един на друг по стандартни комуникационни линии; това беше шифрова машина, непревземаема за хората, разбиващи кодове.

За щастие съюзниците намериха решение. Вече не се нуждаеха от човешки ум, за да разбият Енигма. Вместо това, чрез изобретение на покойния Алън Тюринг, съюзниците създадоха нов революционен инструмент, наречен Британска бомба, електромеханично устройство, което най-накрая дешифрира тайния код на нацистите и в крайна сметка им помогна да спечелят войната.

Тази бомба постави основите на това, което се превърна в съвременния компютър.

Работейки заедно с Тюринг по време на проекта за разработка на Bombe, IJ Good, британски математик и криптолог. Той видя рано в края на играта, че това ново устройство може да доведе един ден. В 1965 хартия, той написа:

„Нека ултраинтелигентната машина се дефинира като машина, която може далеч да надмине всички интелектуални дейности на всеки човек, колкото и да е умен. Тъй като проектирането на машини е една от тези интелектуални дейности, една ултраинтелигентна машина може да проектира още по-добри машини; тогава несъмнено ще има "експлозия на интелигентност" и интелигентността на човека ще бъде изоставена... Така първата ултраинтелигентна машина е последното изобретение, което човек трябва да направи, при условие че машината е достатъчно послушна, за да ни каже как за да го държим под контрол."

Създаване на първия изкуствен суперинтелект

Досега в нашата поредица „Бъдещето на изкуствения интелект“ дефинирахме трите широки категории изкуствен интелект (AI), от изкуствен тесен интелект (ANI) към изкуствен общ интелект (AGI), но в тази глава от поредицата ще се съсредоточим върху последната категория – тази, която поражда вълнение или панически атаки сред изследователите на ИИ – изкуственият суперинтелект (ASI).

За да разберете какво е ASI, ще трябва да се върнете към последната глава, където очертахме как изследователите на AI вярват, че ще създадат първия AGI. По принцип ще е необходима комбинация от големи данни, захранващи по-добри алгоритми (такива, които са специализирани в самоусъвършенстване и човешки способности за учене), разположени във все по-мощен компютърен хардуер.

В тази глава също очертахме как умът на AGI (след като придобие тези способности за самоусъвършенстване и учене, които ние, хората, приемаме за даденост) в крайна сметка ще надмине човешкия ум чрез превъзходна скорост на мисълта, подобрена памет, неуморна производителност и незабавна надстройка.

Но тук е важно да се отбележи, че AGI ще се самоусъвършенства само до границите на хардуера и данните, до които има достъп; това ограничение може да бъде голямо или малко в зависимост от тялото на робота, което му даваме, или от мащаба на компютрите, до които му позволяваме достъп.

Междувременно разликата между AGI и ASI е, че последният, теоретично, никога няма да съществува във физическа форма. Той ще работи изцяло в рамките на суперкомпютър или мрежа от суперкомпютри. В зависимост от целите на създателите му, той може също да получи пълен достъп до всички данни, съхранявани в интернет, както и до всяко устройство или човек, който подава данни в и през интернет. Това означава, че няма да има практическо ограничение за това колко този ASI може да научи и колко може да се самоусъвършенства.

И това е проблемът.

Разбиране на експлозията на интелигентността

Този процес на самоусъвършенстване, който AI в крайна сметка ще придобият, когато станат AGI (процес, който общността на AI нарича рекурсивно самоусъвършенстване), може потенциално да прекъсне положителна обратна връзка, която изглежда по следния начин:

Създава се нов AGI, получава достъп до тяло на робот или голям набор от данни и след това му се дава простата задача да се образова, да подобри своята интелигентност. Първоначално този AGI ще има IQ на бебе, което се бори да схване нови концепции. С течение на времето то научава достатъчно, за да достигне коефициента на интелигентност на среден възрастен, но не спира до тук. Използвайки този новооткрит коефициент на интелигентност за възрастни, става много по-лесно и по-бързо да продължите това подобрение до точка, в която коефициентът на интелигентност съвпада с този на най-умните известни хора. Но отново не спира дотук.

Този процес се усложнява при всяко ново ниво на интелигентност, следвайки закона за ускоряване на възвръщаемостта, докато достигне неизчислимото ниво на суперинтелигентност - с други думи, ако не бъде контролиран и му бъдат дадени неограничени ресурси, AGI ще се самоусъвършенства в ASI, интелект, който никога досега не е съществувало в природата.

Това е, което IJ Good идентифицира за първи път, когато описа тази „експлозия на интелекта“ или това, което съвременните теоретици на ИИ, като Ник Бостром, наричат събитието „излитане“ на ИИ.

Разбиране на изкуствения суперинтелект

В този момент някои от вас вероятно си мислят, че ключовата разлика между човешкия интелект и интелекта на ASI е колко бързо може да мисли всяка от страните. И макар да е вярно, че този теоретичен бъдещ ASI ще мисли по-бързо от хората, тази способност вече е доста често срещана в днешния компютърен сектор – нашият смартфон мисли (изчислява) по-бързо от човешкия ум, суперкомпютър мисли милиони пъти по-бързо от смартфон, а бъдещият квантов компютър ще мисли още по-бързо.

Не, скоростта не е характеристиката на интелигентността, която обясняваме тук. Това е качеството.

Можете да ускорите мозъците на вашия самоед или корги колкото искате, но това не означава ново разбиране как да тълкувате език или абстрактни идеи. Дори с допълнително десетилетие или две, тези кучета няма изведнъж да разберат как да правят или използват инструменти, камо ли да разберат по-фините разлики между капиталистическата и социалистическата икономическа система.

Що се отнася до интелигентността, хората действат на различно ниво от животните. По същия начин, ако ASI достигне пълния си теоретичен потенциал, техните умове ще работят на ниво, далеч извън обсега на средния съвременен човек. За известен контекст, нека да разгледаме приложенията на тези ASI.

Как един изкуствен суперинтелект може да работи заедно с човечеството?

Ако приемем, че определено правителство или корпорация са успели да създадат ASI, как могат да го използват? Според Bostrom има три отделни, но свързани форми, които тези ASI могат да приемат:

Oracle. Тук бихме взаимодействали с ASI по същия начин, както вече правим с търсачката на Google; ще му зададем въпрос, но колкото и сложен да е този въпрос, ASI ще му отговори перфектно и по начин, който е съобразен с вас и контекста на вашия въпрос.
Джин. В този случай ще зададем на ASI конкретна задача и тя ще се изпълни според командата. Изследвайте лек за рак. Свършен. Намерете всички планети, скрити в натрупаните 10 години изображения от космическия телескоп Хъбъл на НАСА. Свършен. Проектирайте работещ термоядрен реактор, за да разрешите енергийните нужди на човечеството. Абракадабра.
суверенен. Тук на ASI се възлага мисия с отворен край и му се дава свободата да я изпълни. Откраднете тайните за научноизследователска и развойна дейност от нашия корпоративен конкурент. — Лесно. Открийте самоличността на всички чужди шпиони, които се крият в нашите граници. "На него." Осигурете продължаващия икономически просперитет на Съединените щати. "Няма проблем."

Сега, знам какво си мислите, всичко това звучи доста пресилено. Ето защо е важно да запомните, че всеки проблем/предизвикателство, дори тези, които са озадачили най-ярките умове на света до момента, всички те са разрешими. Но трудността на един проблем се измерва с интелекта, който го решава.

С други думи, колкото по-голям е умът, приложен към дадено предизвикателство, толкова по-лесно става намирането на решение на това предизвикателство. Всяко предизвикателство. Това е като възрастен да гледа бебе, което се мъчи да разбере защо не може да постави квадратно блокче в кръгъл отвор – за възрастния да покаже на бебето, че блокчето трябва да влезе през квадратния отвор, би било детска игра.

По същия начин, ако този бъдещ ASI достигне пълния си потенциал, този ум ще се превърне в най-мощния интелект в познатата вселена – достатъчно мощен, за да разреши всяко предизвикателство, без значение колко е сложно.

Ето защо много изследователи на ИИ наричат ASI последното изобретение, което човек някога ще трябва да направи. Ако бъдем убедени да работим заедно с човечеството, това може да ни помогне да разрешим всички най-належащи проблеми в света. Можем дори да го помолим да премахне всички болести и да сложи край на стареенето, както го познаваме. Човечеството може за първи път да измами смъртта за постоянно и да навлезе в нова епоха на просперитет.

Но е възможно и обратното.

Интелигентността е сила. Ако бъде управляван неправилно или инструктиран от лоши актьори, този ASI може да се превърне в най-добрия инструмент за потисничество или може напълно да унищожи човечеството – помислете за Skynet от Терминатора или Архитекта от филмите Матрицата.

Всъщност нито една от двете крайности не е вероятна. Бъдещето винаги е много по-объркано, отколкото прогнозират утопистите и дистопистите. Ето защо сега, когато разбираме концепцията за ASI, останалата част от тази поредица ще изследва как ASI ще повлияе на обществото, как обществото ще се защитава срещу измамен ASI и как може да изглежда бъдещето, ако хората и AI живеят рамо до рамо -страна. Прочетете.