Квантумран

ИЗОБРАЖЕНИЕ КРЕДИТ: Квантумран

Будут ли люди жить мирно в будущем, в котором доминирует искусственный интеллект? - Будущее искусственного интеллекта P6

Дэвид Тал, издатель, футурист
@DavidTalWrites
LinkedIn

Вт, 09 / 15 / 2020 - 13: 10

Когда дело доходит до человечества, давайте просто скажем, что у нас не самый лучший послужной список, когда дело доходит до сожительства с «другим». Будь то геноцид евреев в Германии или тутси в Руанде, порабощение африканцев западными народами или наемные рабы из Юго-Восточной Азии. сейчас работы в странах Персидского залива на Ближнем Востоке, или даже нынешних преследований, которым подвергаются мексиканцы в США или сирийские беженцы в некоторых странах ЕС. В общем, наш инстинктивный страх перед теми, кого мы считаем отличными от нас, может привести к действиям, которые либо контролируют, либо (в крайних случаях) уничтожают тех, кого мы боимся.

Можем ли мы ожидать чего-то другого, когда искусственный интеллект станет по-настоящему человеческим?

Будем ли мы жить в будущем, где мы будем сосуществовать с независимыми роботами с искусственным интеллектом, как это было в саге «Звездные войны», или вместо этого мы будем преследовать и порабощать существ с искусственным интеллектом, как это показано во франшизе «Бегущий по лезвию»? (Если вы еще не видели ни одного из этих основных продуктов поп-культуры, чего же вы ждете?)

Таковы вопросы в этой заключительной главе Будущее искусственного интеллекта серия надеется ответить. Это важно, потому что, если прогнозы, сделанные ведущими исследователями ИИ, верны, то к середине века мы, люди, будем делить наш мир с множеством разнообразных существ ИИ, поэтому нам лучше найти способ мирно жить рядом с ними.

Смогут ли люди когда-нибудь конкурировать с искусственным интеллектом?

Верьте или нет, мы можем.

Средний человек (в 2018 году) уже превосходит даже самый продвинутый ИИ. Как указано в нашем вступительная глава, сегодняшние искусственные узкие интеллекты (УНИ) намного лучше, чем люди на конкретный задач, для которых они были разработаны, но безнадежны, когда их просят взять на себя задачу, выходящую за рамки этого дизайна. С другой стороны, люди, как и большинство других животных на планете, превосходно адаптируются для достижения целей в самых разных условиях. определение интеллекта, отстаиваемый учеными-компьютерщиками Маркусом Хаттером и Шейном Леггом.

Эта черта универсальной приспособляемости не кажется чем-то большим, но она требует способности оценить препятствие на пути к цели, спланировать эксперимент для преодоления этого препятствия, предпринять действия для выполнения эксперимента, извлечь уроки из результатов, а затем продолжить. преследовать цель. Вся жизнь на планете инстинктивно выполняет этот цикл адаптации от тысячи до миллионов раз каждый день, и пока ИИ не научится делать то же самое, они останутся безжизненными рабочими инструментами.

Но я знаю, о чем вы думаете: вся эта серия статей о будущем искусственного интеллекта предсказывает, что по прошествии достаточного времени сущности ИИ в конечном итоге станут такими же умными, как люди, и вскоре после этого станут намного умнее людей.

Эта глава не будет оспаривать эту возможность.

Но ловушка, в которую попадают многие комментаторы, заключается в том, что они думают, что, поскольку эволюции потребовались миллионы лет для создания биологического мозга, он будет безнадежно превзойден, как только ИИ достигнет точки, когда они смогут улучшать свое собственное аппаратное и программное обеспечение за циклы в годы, месяцы. , может даже дней.

К счастью, у эволюции еще есть время бороться, отчасти благодаря недавним достижениям в области генной инженерии.

Впервые рассмотрено в нашей серии о будущее человеческой эволюции, генетики определили 69 отдельных генов которые влияют на интеллект, но вместе они влияют на IQ менее чем на восемь процентов. Это означает, что могут быть сотни или тысячи генов, влияющих на интеллект, и нам придется не только открыть их все, но и научиться предсказуемо манипулировать ими всеми вместе, прежде чем мы сможем даже подумать о вмешательстве в плод». ДНК.

Но к середине 2040-х годов область геномики созреет до такой степени, что геном плода можно будет тщательно картировать, а изменения в его ДНК можно будет смоделировать с помощью компьютера, чтобы точно предсказать, как изменения в его геноме повлияют на его физическое и эмоциональное будущее. , и, что наиболее важно для этой дискуссии, его атрибуты интеллекта.

Другими словами, к середине века, когда большинство исследователей ИИ считают, что ИИ достигнет и, возможно, превзойдет человеческий уровень интеллекта, мы получим возможность генетически модифицировать целые поколения человеческих младенцев, чтобы они были значительно умнее, чем предшествующие поколения. их.

Мы движемся к будущему, в котором сверхразумные люди будут жить рядом со сверхразумным искусственным интеллектом.

Влияние мира, наполненного сверхразумными людьми

Итак, насколько умным мы здесь говорим? Для контекста: IQ Альберта Эйнштейна и Стивена Хокинга составил около 160 баллов. Как только мы раскроем секреты геномных маркеров, контролирующих интеллект, мы потенциально сможем увидеть людей, рожденных с IQ, превышающим 1,000.

Это важно, потому что такие умы, как Эйнштейн и Хокинг, способствовали научным открытиям, лежащим в основе нашего современного мира. Например, лишь крошечная часть населения мира что-либо понимает в физике, но значительный процент мирового ВВП зависит от ее открытий — такие технологии, как смартфон, современные телекоммуникационные системы (Интернет) и GPS не могут существовать без квантовой механики. .

Учитывая это влияние, какие успехи может испытать человечество, если мы породим целое поколение гениев? Сотни миллионов эйнштейновских?

Ответ невозможно угадать, поскольку такого скопления супергениев мир еще не видел.

Какими будут эти люди?

Для пробы просто рассмотрим случай с самым умным зарегистрированным человеком, Уильям Джеймс Сидис (1898-1944), у которого был IQ около 250. Он умел читать к двум годам. К шести годам он говорил на восьми языках. Он был принят в Гарвардский университет в 11 лет. А Сидис всего на четверть так умен, как теоретизируют биологи, люди могут однажды стать с генетическим редактированием.

(Примечание: мы говорим здесь только об интеллекте, мы даже не касаемся генетического редактирования, которое может сделать нас физически сверхчеловеческими. Подробнее здесь.)

На самом деле, вполне возможно, что люди и ИИ могут совместно развиваться, создавая своего рода петлю положительной обратной связи, в которой продвинутый ИИ помогает генетикам осваивать человеческий геном для создания все более умных людей, людей, которые затем будут работать над созданием все более умного ИИ, и так далее. на. Итак, да, как и предсказывают исследователи ИИ, Земля вполне может испытать интеллектуальный взрыв в середине века, но, судя по нашим обсуждениям, люди (не только ИИ) выиграют от этой революции.

Киборги среди нас

Справедливая критика этого аргумента о сверхразумных людях заключается в том, что даже если мы овладеем генетическим редактированием к середине века, потребуется еще 20–30 лет, прежде чем это новое поколение людей созреет до такой степени, что сможет внести значительный вклад в нашу общества и даже выйти на интеллектуальное игровое поле вместе с ИИ. Не даст ли это отставание ИИ существенное преимущество перед человечеством, если они решат стать «злыми»?

Вот почему в качестве моста между сегодняшними людьми и завтрашними сверхлюдьми, начиная с 2030-х годов, мы увидим зарождение нового класса людей: киборгов, гибрида человека и машины.

(Честно говоря, в зависимости от того, как вы определяете киборгов, технически они уже существуют — в частности, люди с протезами конечностей в результате военных ранений, несчастных случаев или генетических дефектов при рождении. Но чтобы сосредоточиться на контексте этой главы, мы сосредоточимся на протезах, предназначенных для увеличения нашего разума и интеллекта.)

Впервые обсудили в нашем Будущее компьютеров В настоящее время исследователи разрабатывают область биоэлектроники под названием «Интерфейс мозг-компьютер» (BCI). Он включает в себя использование устройства для сканирования мозга или имплантата для отслеживания ваших мозговых волн, преобразования их в код, а затем связывания их с командами для управления всем, что запускается компьютером.

Мы все еще находимся на начальном этапе, но благодаря использованию BCI люди с ампутированными конечностями теперь тестирование роботизированных конечностей контролируются непосредственно их разумом, а не датчиками, прикрепленными к их культе. Точно так же люди с тяжелыми формами инвалидности (например, люди с квадриплегией) теперь используя BCI для управления своими моторизованными инвалидными колясками и манипулировать роботизированными руками. Но помочь людям с ампутированными конечностями и инвалидам вести более независимую жизнь — это не предел возможностей BCI.

То, что в 2030-х будет выглядеть как шлем или повязка для волос, в конце концов уступит место мозговым имплантатам (конец 2040-х), которые соединят наши умы с цифровым облаком (Интернетом). В конце концов, этот мозговой протез будет действовать как третье полушарие для нашего разума, поэтому, пока наши левое и правое полушария управляют нашими творческими и логическими способностями, это новое цифровое полушарие с облачным питанием облегчит почти мгновенный доступ к информации и улучшит когнитивные способности. атрибуты, в которых люди часто отстают от своих коллег из ИИ, а именно скорость, повторение и точность.

И хотя эти мозговые имплантаты не обязательно повысят наш интеллект, они сделают нас гораздо более способными и независимыми, как это делают сегодня наши смартфоны.

Будущее, наполненное разнообразными интеллектами

Все эти разговоры об ИИ, киборгах и сверхразумных людях открывают еще один момент для размышления: в будущем мы увидим гораздо более богатое разнообразие интеллектов, чем мы когда-либо видели в истории человечества или даже Земли.

Подумайте об этом, до конца этого века мы говорим о будущем мире, наполненном:

Интеллект насекомых
Интеллект животных
Человеческий интеллект
Кибернетически улучшенный человеческий интеллект
Общий искусственный интеллект (AGI)
Искусственный сверхразум (Как есть)
Человеческий сверхразум
Кибернетически усиленный человеческий сверхразум
Виртуальные гибридные разумы человека и ИИ
Еще несколько промежуточных категорий, которые мы рекомендуем читателям обсудить и поделиться ими в разделе комментариев.

Другими словами, наш мир уже является домом для самых разных видов, каждый из которых обладает своими уникальными типами интеллекта, но в будущем будет еще большее разнообразие интеллектов, на этот раз расширив более высокий уровень когнитивной лестницы. Так же, как сегодняшнее поколение учится делить наш мир с насекомыми и животными, которые вносят свой вклад в нашу экосистему, будущим поколениям придется научиться общаться и сотрудничать с широким разнообразием интеллектов, которые мы едва можем себе представить сегодня.

Конечно, история говорит нам, что «обмен» никогда не был сильной стороной людей. От сотен до тысяч видов вымерли из-за человеческой экспансии, только сотни менее развитых цивилизаций исчезли под завоеванием расширяющихся империй.

Эти трагедии обусловлены потребностью человека в ресурсах (пища, вода, сырье и т. д.) и отчасти страхом и недоверием между чужими цивилизациями или народами. Другими словами, трагедии прошлого и настоящего вызваны причинами столь же старыми, как и сама цивилизация, и они будут только усугубляться с появлением всех этих новых классов интеллекта.

Культурное влияние мира, наполненного разнообразным интеллектом

Удивление и страх — две эмоции, которые лучше всего обобщают противоречивые эмоции, которые люди будут испытывать, когда в мир войдут все эти новые типы интеллекта.

«Удивляйтесь» человеческой изобретательности, использованной для создания всех этих новых человеческих и искусственных интеллектов, и тем возможностям, которые они могут создать. А затем «ужас» от непонимания и знакомства нынешних поколений людей с будущими поколениями этих «усовершенствованных» существ.

Так же, как мир животных полностью выходит за рамки понимания среднего насекомого, а мир людей полностью выходит за рамки понимания среднего животного, мир ИИ и даже сверхразумных людей будет далеко за пределами того, что сегодня средний человек сможет понять.

И хотя будущие поколения смогут общаться с этими новыми высшими интеллектами, у нас не так уж много общего. В главах, посвященных ОИИ и ИСИ, мы объяснили, почему попытки думать об интеллекте ИИ как о человеческом интеллекте были бы ошибкой.

Короче говоря, инстинктивные эмоции, которые управляют человеческим мышлением, являются эволюционным биологическим наследием нескольких тысячелетий человеческих поколений, которые активно искали ресурсы, партнеров для спаривания, социальные связи, выживание и т. д. Будущий ИИ не будет иметь ничего из этого эволюционного багажа. Вместо этого у этих цифровых интеллектов будут цели, способы мышления, системы ценностей, полностью уникальные для них самих.

Точно так же, как современные люди научились подавлять аспекты своих естественных человеческих желаний благодаря нашему интеллекту (например, мы ограничиваем наших сексуальных партнеров, когда находимся в серьезных отношениях; мы рискуем своими жизнями ради незнакомцев из-за воображаемых представлений о чести и добродетели и т. д.) , будущие сверхлюди смогут полностью преодолеть эти первобытные инстинкты. Если это возможно, то мы действительно имеем дело с инопланетянами, а не просто с новым классом людей.

Будет ли мир между будущими суперрасами и остальными из нас?

Мир приходит от доверия, а доверие приходит от знакомства и общих целей. Мы можем убрать знакомство со стола, так как мы уже обсуждали, что люди без улучшений имеют мало общего в когнитивном отношении с этими суперинтеллектами.

В одном сценарии этот взрыв интеллекта будет представлять собой рост совершенно новой формы неравенства, которая создаст социальные классы, основанные на интеллекте, из которых выходцам из низших классов будет почти невозможно подняться. И точно так же, как увеличивающийся экономический разрыв между богатыми и бедными вызывает сегодня волнения, пропасть между различными интеллектуальными классами/населениями может породить достаточно страха и негодования, которые затем могут перерасти в различные формы преследований или тотальной войны. Читателям комиксов это может напомнить классическую предысторию преследования из франшизы Marvel «Люди Икс».

Альтернативный сценарий заключается в том, что эти будущие сверхразумы просто найдут способы эмоционального манипулирования простыми массами, чтобы они приняли их в свое общество — или, по крайней мере, до такой степени, чтобы избежать всякого насилия.

Итак, какой сценарий победит?

По всей вероятности, мы увидим, что что-то разыгрывается посередине. В начале этой интеллектуальной революции мы увидим обычное технопаника», который специалист по технологическому праву и политике Адам Тирер описывает как следующий обычному социальному образцу:

Различия между поколениями, которые приводят к страху перед новым, особенно тем, которые нарушают социальные нравы или сокращают рабочие места (о влиянии ИИ читайте в нашей статье). Будущее работы серии);
«Гиперностальгия» по старым добрым временам, которые на самом деле никогда не были такими уж хорошими;
Стимул для репортеров и экспертов нагнетать страхи о новых технологиях и тенденциях в обмен на клики, просмотры и продажи рекламы;
Особые интересы толкают друг друга локтями за государственные деньги или действия в зависимости от того, как на их группу влияет эта новая технология;
Элитарное отношение со стороны академических и культурных критиков, опасающихся новых технологий, которые принимает массовая общественность;
Люди, проецирующие вчерашние и сегодняшние моральные и культурные дебаты на новые технологии завтрашнего дня.

Но, как и к любому новому новшеству, люди к нему привыкнут. Что еще более важно, несмотря на то, что два вида могут мыслить по-разному, мир можно найти через общие интересы или цели.

Например, эти новые ИИ могут создавать новые технологии и системы для улучшения нашей жизни. А взамен финансирование и государственная поддержка будут продолжать продвигать интересы ИИ в целом, особенно благодаря активной конкуренции между китайскими и американскими программами ИИ.

Точно так же, когда дело доходит до создания сверхлюдей, религиозные группировки во многих странах будут сопротивляться тенденции к генетическому вмешательству в своих младенцев. Однако практичность и национальный интерес постепенно разрушат этот барьер. В первом случае у родителей возникнет соблазн использовать технологию генетического редактирования, чтобы гарантировать, что их дети родятся без болезней и дефектов, но эта первоначальная цель — скользкий путь к более инвазивному генетическому улучшению. Точно так же, если Китай начнет генетически улучшать целые поколения своего населения, у США возникнет стратегический императив последовать его примеру, иначе они рискуют навсегда отстать два десятилетия спустя, как и весь остальной мир.

Какой бы интенсивной ни была вся эта глава, мы должны помнить, что все это будет постепенным процессом. Это сделает наш мир совсем другим и очень странным. Но мы к этому привыкнем, и это станет нашим будущим.