퀀텀런

이미지 크레딧: 퀀텀런

최초의 인공 지능을 만드는 방법: 인공 지능의 미래 P3

David Tal, 발행인, 미래학자
@DavidTalWrites
링크드인

화, 09 / 15 / 2020 - 13 : 17

제XNUMX차 세계 대전이 깊숙이 들어와 나치 군대는 유럽의 많은 지역을 휩쓸고 있었습니다. 그들은 첨단 무기, 효율적인 전시 산업, 광적으로 움직이는 보병을 가지고 있었지만 무엇보다도 에니그마라는 기계를 가지고 있었습니다. 이 장치를 사용하면 표준 통신 회선을 통해 모스 부호 메시지를 서로 전송하여 나치 군대가 장거리에서 안전하게 협력할 수 있었습니다. 그것은 인간의 코드 브레이커가 뚫을 수 없는 암호 기계였습니다.

고맙게도 연합군은 해결책을 찾았습니다. 그들은 더 이상 에니그마를 깨기 위해 인간의 마음이 필요하지 않았습니다. 대신, 연합군은 앨런 튜링(Alan Turing)의 발명품을 통해 브리티시 봄베, 마침내 나치의 비밀 코드를 해독하고 궁극적으로 그들이 전쟁에서 승리하는 데 도움이 된 전자 기계 장치.

이 봄베는 현대 컴퓨터가 된 토대를 마련했습니다.

봄베 개발 프로젝트에서 Turing과 함께 일한 사람은 영국의 수학자이자 암호학자인 IJ Good이었습니다. 그는 이 새로운 장치가 언젠가는 가져올 수 있다는 것을 최종 게임 초반에 보았습니다. 안에 1965 용지, 그가 썼어:

“초지능 기계를 아무리 똑똑한 사람의 모든 지적 활동을 훨씬 능가할 수 있는 기계로 정의하자. 기계 설계는 이러한 지적 활동 중 하나이므로 초지능 기계는 더 나은 기계를 설계할 수 있습니다. 그러면 의심할 여지 없이 "지능 폭발"이 일어날 것이고, 인간의 지능은 훨씬 뒤처지게 될 것입니다... 따라서 최초의 초지능 기계는 인간이 만들 필요가 있는 마지막 발명입니다. 통제할 수 있도록."

최초의 인공 초지능 개발

지금까지 인공 지능의 미래 시리즈에서 우리는 인공 지능(AI)의 세 가지 광범위한 범주를 정의했습니다. 좁은 인공 지능 (ANI) 인공 일반 지능 (AGI), 그러나 이 시리즈 장에서는 마지막 범주인 AI 연구원들 사이에서 흥분이나 공황 발작을 일으키는 범주인 인공 초지능(ASI)에 초점을 맞출 것입니다.

ASI가 무엇인지 알아보려면 AI 연구원이 최초의 AGI를 만들 것이라고 믿는 방법을 설명했던 마지막 장을 다시 생각해야 합니다. 기본적으로, 점점 더 강력해지는 컴퓨팅 하드웨어에 수용된 더 나은 알고리즘(자기 개선 및 인간과 유사한 학습 능력을 전문으로 하는 알고리즘)을 제공하는 빅 데이터의 조합이 필요합니다.

그 장에서 우리는 또한 AGI 마인드(일단 우리 인간이 당연시하는 이러한 자기 개선 및 학습 능력을 얻음)가 탁월한 사고 속도, 향상된 기억력, 지칠 수 없는 수행 및 즉각적인 업그레이드 가능성.

그러나 여기서 AGI는 액세스할 수 있는 하드웨어 및 데이터의 한계까지만 자체 개선된다는 점에 유의해야 합니다. 이 제한은 우리가 제공하는 로봇 본체 또는 액세스를 허용하는 컴퓨터의 규모에 따라 크거나 작을 수 있습니다.

한편 AGI와 ASI의 차이점은 후자는 이론적으로 물리적 형태로는 절대 존재하지 않는다는 점이다. 슈퍼컴퓨터 또는 슈퍼컴퓨터 네트워크 내에서 완전히 작동합니다. 제작자의 목표에 따라 인터넷에 저장된 모든 데이터와 인터넷을 통해 데이터를 공급하는 모든 장치 또는 사람에 대한 전체 액세스 권한을 얻을 수도 있습니다. 이것은 이 ASI가 얼마나 많이 배울 수 있고 얼마나 스스로 개선할 수 있는지에 실질적인 제한이 없다는 것을 의미합니다.

그리고 그것이 문지름입니다.

지능 폭발의 이해

AI가 AGI가 될 때 궁극적으로 얻게 되는 이 자기 개선 프로세스(AI 커뮤니티는 재귀적 자기 개선이라고 부르는 프로세스)는 다음과 같은 긍정적인 피드백 루프를 잠재적으로 차단할 수 있습니다.

로봇 본체 또는 대규모 데이터 세트에 대한 액세스 권한이 주어지면 새로운 AGI가 생성되고 지능을 향상시키는 자체 교육이라는 간단한 작업이 주어집니다. 처음에 이 AGI는 새로운 개념을 이해하기 위해 고군분투하는 유아의 IQ를 가질 것입니다. 시간이 지남에 따라 평균 성인의 IQ에 도달할 만큼 충분히 학습하지만 여기서 멈추지 않습니다. 이 새로 발견된 성인 IQ를 사용하여 IQ가 알려진 가장 똑똑한 인간의 IQ와 일치하는 지점까지 이러한 개선을 계속하는 것이 훨씬 쉽고 빨라집니다. 하지만 여기서 멈추지 않습니다.

이 과정은 초지능의 계산할 수 없는 수준에 도달할 때까지 수익을 가속화하는 법칙에 따라 각각의 새로운 지능 수준에서 합성됩니다. 이전에는 자연에 존재한 적이 없습니다.

이것이 IJ Good이 이 '지능 폭발' 또는 Nick Bostrom과 같은 현대 AI 이론가들이 AI의 '이륙' 이벤트라고 부르는 것을 설명할 때 처음으로 식별한 것입니다.

인공 초지능의 이해

이 시점에서 여러분 중 일부는 아마도 인간 지능과 ASI 지능의 주요 차이점이 어느 쪽이 생각하는 속도가 빠르냐에 있다고 생각하고 있을 것입니다. 그리고 이 이론적 미래 ASI가 인간보다 더 빨리 생각할 것이라는 것은 사실이지만, 이 능력은 이미 오늘날의 컴퓨터 부문 전반에 걸쳐 상당히 보편화되어 있습니다. 슈퍼 컴퓨터 스마트폰보다 수백만 배 더 빠르게 생각하고 미래의 양자 컴퓨터는 여전히 더 빠르게 생각할 것입니다.

아니요, 속도는 여기서 설명하는 지능의 기능이 아닙니다. 그것은 품질입니다.

원하는 만큼 사모예드나 코르기의 두뇌 속도를 높일 수 있지만 이것이 언어나 추상적인 아이디어를 해석하는 방법을 새롭게 이해하는 것으로 해석되지는 않습니다. XNUMX, XNUMX년이 더 지나도 이 독고들은 갑자기 도구를 만들고 사용하는 방법을 이해하지 못하고 자본주의 경제 체제와 사회주의 경제 체제 간의 미세한 차이를 이해하지 못할 것입니다.

지능과 관련하여 인간은 동물과 다른 차원에서 작동합니다. 마찬가지로 ASI가 이론적 잠재력을 최대한 발휘하면 그들의 정신은 평균적인 현대인의 손이 닿지 않는 수준에서 작동할 것입니다. 상황에 따라 이러한 ASI의 응용 프로그램을 살펴보겠습니다.

인공 초지능은 어떻게 인류와 함께 작동할 수 있습니까?

특정 정부나 기업이 ASI를 성공적으로 생성했다고 가정하면 어떻게 사용할 수 있습니까? Bostrom에 따르면 이러한 ASI가 취할 수 있는 세 가지 개별적이지만 관련된 형식이 있습니다.

오라클 여기에서 우리는 이미 Google 검색 엔진과 동일한 방식으로 ASI와 상호 작용합니다. 우리는 그것에 대해 질문할 것이지만, 아무리 복잡한 질문이더라도 ASI는 귀하와 귀하의 질문의 맥락에 맞는 방식으로 완벽하게 답변할 것입니다.
요정. 이 경우 ASI에 특정 작업을 할당하고 명령에 따라 실행합니다. 암 치료법을 연구합니다. 완료. NASA의 허블 우주 망원경에서 촬영한 10년 분량의 이미지 백로그 안에 숨겨진 모든 행성을 찾으십시오. 완료. 인류의 에너지 수요를 해결하기 위해 작동하는 핵융합로를 설계하세요. 헛소리.
주권자. 여기서 ASI는 개방형 임무를 할당받고 이를 실행할 자유가 부여됩니다. 기업 경쟁사로부터 R&D 비밀을 훔치십시오. "쉬운." 우리 국경 안에 숨어있는 모든 외국 스파이의 정체를 알아내십시오. "그 위에." 미국의 지속적인 경제적 번영을 보장합니다. "괜찮아요."

자, 당신이 무슨 생각을 하는지 압니다. 이 모든 것이 상당히 억지스럽게 들립니다. 그렇기 때문에 현재까지 세상에서 가장 똑똑한 사람들을 당황하게 만든 모든 문제/도전을 모두 해결할 수 있다는 사실을 기억하는 것이 중요합니다. 그러나 문제의 난이도는 그것을 해결하는 지력으로 측정됩니다.

즉, 도전에 대한 마음이 클수록 그 도전에 대한 해결책을 찾기가 더 쉬워집니다. 어떤 도전이든. 마치 어른이 아기가 왜 둥근 구멍에 정사각형 블록을 끼울 수 없는지 이해하려고 애쓰는 모습을 지켜보는 것과 같습니다.

마찬가지로, 이 미래의 ASI가 잠재력을 최대한 발휘한다면 이 마음은 알려진 우주에서 가장 강력한 지성이 될 것입니다.

이것이 많은 AI 연구자들이 ASI를 인간이 해야 할 마지막 발명품이라고 부르는 이유입니다. 인류와 함께 일하기로 확신한다면 세계에서 가장 시급한 모든 문제를 해결하는 데 도움이 될 수 있습니다. 우리가 알고 있는 모든 질병을 없애고 노화를 끝내도록 요청할 수도 있습니다. 인류는 처음으로 영구적으로 죽음을 속이고 번영의 새 시대에 진입할 수 있습니다.

그러나 그 반대도 가능하다.

지능은 힘입니다. 악당이 잘못 관리하거나 지시하면 이 ASI가 궁극적인 억압 도구가 되거나 인류를 완전히 말살할 수 있습니다. 터미네이터의 스카이넷이나 매트릭스 영화의 아키텍트를 생각해 보세요.

사실 어느 쪽도 극단일 가능성은 없습니다. 미래는 항상 유토피아와 디스토피아가 예측하는 것보다 훨씬 더 복잡합니다. 그렇기 때문에 이제 우리는 ASI의 개념을 이해했고, 이 시리즈의 나머지 부분에서는 ASI가 사회에 어떤 영향을 미칠지, 사회가 악성 ASI에 대해 어떻게 방어할지, 인간과 AI가 나란히 살 때 미래는 어떤 모습일지 탐구할 것입니다. -옆. 읽어.