Квантумран

ИЗОБРАЖЕНИЕ КРЕДИТ: Квантумран

Как мы создадим первый искусственный сверхинтеллект: будущее искусственного интеллекта P3

Дэвид Тал, издатель, футурист
@DavidTalWrites
LinkedIn

Вт, 09 / 15 / 2020 - 13: 17

В самом разгаре Второй мировой войны нацистские войска прошли через большую часть Европы. У них было передовое оружие, эффективная промышленность военного времени, фанатично настроенная пехота, но, прежде всего, у них была машина под названием «Энигма». Это устройство позволяло нацистским войскам безопасно сотрудничать на больших расстояниях, отправляя друг другу сообщения с кодировкой Морзе по стандартным линиям связи; это была шифровальная машина, неуязвимая для взломщиков кодов.

К счастью, союзники нашли решение. Им больше не нужен был человеческий разум, чтобы взломать Enigma. Вместо этого, благодаря изобретению покойного Алана Тьюринга, союзники создали революционно новый инструмент, названный Британская бомба, электромеханическое устройство, которое, наконец, расшифровало секретный код нацистов и в конечном итоге помогло им выиграть войну.

Эта бомба заложила основу для того, что стало современным компьютером.

Вместе с Тьюрингом во время проекта разработки Бомбы работал И. Дж. Гуд, британский математик и криптолог. Он заранее предвидел конечную игру, которую это новое устройство может однажды принести. В 1965 бумага, он написал:

«Пусть сверхразумная машина будет определена как машина, которая может намного превзойти все интеллектуальные действия любого человека, каким бы умным он ни был. Поскольку проектирование машин является одним из таких видов интеллектуальной деятельности, сверхразумная машина могла бы создавать еще более совершенные машины; тогда, несомненно, произошел бы «взрыв интеллекта», и разум человека остался бы далеко позади… Таким образом, первая сверхразумная машина — это последнее изобретение, которое когда-либо понадобится человеку, при условии, что машина достаточно послушна, чтобы рассказать нам, как держать его под контролем».

Создание первого искусственного сверхразума

До сих пор в нашей серии «Будущее искусственного интеллекта» мы определили три широкие категории искусственного интеллекта (ИИ), от искусственный узкий интеллект (АНИ) в искусственный общий интеллект (AGI), но в этой главе мы сосредоточимся на последней категории — той, которая порождает либо волнение, либо приступы паники среди исследователей ИИ — искусственный сверхинтеллект (ASI).

Чтобы разобраться в том, что такое ASI, вам нужно вспомнить последнюю главу, в которой мы рассказали, как исследователи ИИ верят, что они создадут первый AGI. По сути, потребуется комбинация больших данных, подпитывающих более совершенные алгоритмы (те, которые специализируются на самосовершенствовании и способностях человека к обучению), размещенные во все более мощном вычислительном оборудовании.

В этой главе мы также обрисовали в общих чертах, как разум ОИИ (как только он обретет способности к самосовершенствованию и обучению, которые мы, люди, считаем само собой разумеющимися) в конечном итоге превзойдет человеческий разум благодаря превосходной скорости мысли, улучшенной памяти, неутомимой производительности и умственным способностям. мгновенная возможность обновления.

Но здесь важно отметить, что ОИИ будет самосовершенствоваться только в пределах возможностей оборудования и данных, к которым у него есть доступ; этот предел может быть большим или маленьким в зависимости от тела робота, которое мы ему даем, или масштаба компьютеров, к которым мы разрешаем ему доступ.

Между тем, разница между ОИИ и ИСИ в том, что последний теоретически никогда не будет существовать в физической форме. Он будет работать полностью в рамках суперкомпьютера или сети суперкомпьютеров. В зависимости от целей его создателей он также может получить полный доступ ко всем данным, хранящимся в Интернете, а также к любому устройству или человеку, который передает данные в Интернет и через Интернет. Это означает, что не будет практических ограничений тому, сколько этот ИСИ может узнать и насколько он может самосовершенствоваться.

И это руб.

Понимание интеллектуального взрыва

Этот процесс самосовершенствования, который ИИ в конечном итоге приобретут, когда станут ИИ (процесс, который сообщество ИИ называет рекурсивным самосовершенствованием), потенциально может вызвать петлю положительной обратной связи, которая выглядит примерно так:

Создается новый ОИИ, которому предоставляется доступ к телу робота или большому набору данных, а затем ставится простая задача самообучения, улучшения своего интеллекта. Сначала этот ОИИ будет иметь IQ младенца, пытающегося усвоить новые концепции. Со временем он учится достаточно, чтобы достичь уровня IQ среднего взрослого человека, но на этом он не останавливается. Используя этот вновь обретенный IQ взрослого человека, становится намного проще и быстрее продолжать это улучшение до уровня, когда его IQ сравняется с интеллектом самых умных известных людей. Но опять же, это не останавливаться на достигнутом.

Этот процесс усложняется на каждом новом уровне интеллекта, следуя закону ускоряющейся отдачи, пока не достигнет неисчислимого уровня сверхразума — другими словами, если его не остановить и предоставить неограниченные ресурсы, ОИИ самоулучшится в ИСИ, интеллект, который никогда ранее не существовало в природе.

Это то, что И. Дж. Гуд впервые определил, когда описывал «взрыв интеллекта» или то, что современные теоретики ИИ, такие как Ник Бостром, называют событием «взлета» ИИ.

Понимание искусственного сверхразума

На данный момент некоторые из вас, вероятно, думают, что ключевое различие между человеческим интеллектом и интеллектом ИСИ заключается в том, насколько быстро может думать каждая из сторон. И хотя верно то, что этот теоретический ИСИ будущего будет думать быстрее, чем люди, эта способность уже довольно распространена в современном компьютерном секторе — наш смартфон думает (вычисляет) быстрее, чем человеческий разум, суперкомпьютер думает в миллионы раз быстрее, чем смартфон, а будущий квантовый компьютер будет думать еще быстрее.

Нет, скорость не является характеристикой интеллекта, которую мы здесь объясняем. Это качество.

Вы можете сколько угодно ускорять мозг вашего самоеда или корги, но это не приведет к новому пониманию того, как интерпретировать язык или абстрактные идеи. Даже через десятилетие или два эти псы вдруг не поймут, как делать или использовать инструменты, не говоря уже о том, чтобы понять более тонкие различия между капиталистической и социалистической экономической системой.

Когда дело доходит до интеллекта, люди действуют на другом уровне, чем животные. Точно так же, если ИСИ полностью раскроют свой теоретический потенциал, их разум будет работать на уровне, намного превышающем досягаемость среднего современного человека. Для некоторого контекста давайте посмотрим на приложения этих ASI.

Как искусственный сверхразум может работать вместе с человечеством?

Предполагая, что определенное правительство или корпорация преуспели в создании ИСИ, как они могли бы его использовать? По словам Бострома, эти ИСИ могут принимать три отдельные, но связанные между собой формы:

Oracle. Здесь мы будем взаимодействовать с ASI так же, как мы уже делаем это с поисковой системой Google; мы зададим ему вопрос, но независимо от того, насколько сложным будет заданный вопрос, ASI ответит на него идеально и таким образом, который адаптирован к вам и контексту вашего вопроса.
Джинн. В этом случае мы назначим ASI конкретную задачу, и она будет выполняться в соответствии с командой. Исследуйте лекарство от рака. Сделанный. Найдите все планеты, спрятанные в портфолио изображений, сделанных космическим телескопом Хаббл за последние 10 лет. Сделанный. Спроектируйте работающий термоядерный реактор, чтобы удовлетворить потребности человечества в энергии. Абракадабра.
Суверенный. Здесь перед ASI ставится бессрочная миссия и предоставляется свобода ее выполнения. Украсть секреты исследований и разработок у нашего корпоративного конкурента. "Легкий." Узнайте личности всех иностранных шпионов, скрывающихся внутри наших границ. "В теме." Обеспечить дальнейшее экономическое процветание Соединенных Штатов. "Без проблем."

Теперь, я знаю, что вы думаете, все это звучит довольно надуманно. Вот почему важно помнить, что любая проблема/вызов, даже те, которые на сегодняшний день поставили в тупик самые яркие умы мира, все они решаемы. Но сложность проблемы измеряется интеллектом, решающим ее.

Другими словами, чем больше ум приложился к проблеме, тем легче становится найти решение этой проблемы. Любой вызов. Это похоже на то, как взрослый наблюдает, как младенец изо всех сил пытается понять, почему он не может вставить квадратный кубик в круглое отверстие — для взрослого показать ребенку, что кубик должен пройти в квадратное отверстие, было бы детской забавой.

Точно так же, если этот будущий ИСИ полностью раскроет свой потенциал, этот разум станет самым мощным интеллектом в известной вселенной — достаточно мощным, чтобы решить любую задачу, какой бы сложной она ни была.

Вот почему многие исследователи ИИ называют ИСИ последним изобретением, которое когда-либо придется сделать человеку. Если его убедит работать вместе с человечеством, это может помочь нам решить все самые насущные проблемы мира. Мы даже можем попросить его устранить все болезни и положить конец старению, как мы его знаем. Человечество впервые может навсегда обмануть смерть и войти в новую эпоху процветания.

Но возможно и обратное.

Интеллект — это сила. При неправильном управлении или инструктировании плохими актерами этот ИСИ может стать окончательным инструментом угнетения или полностью истребить человечество — вспомните Скайнет из «Терминатора» или Архитектора из фильмов «Матрица».

По правде говоря, ни одна из крайностей невозможна. Будущее всегда гораздо более запутанно, чем предсказывают утописты и антиутописты. Вот почему теперь, когда мы понимаем концепцию ИСИ, оставшаяся часть этой серии будет посвящена изучению того, как ИСИ повлияет на общество, как общество будет защищаться от мошеннических ИСИ и как может выглядеть будущее, если люди и ИИ будут жить бок о бок. -сторона. Читать дальше.