퀀텀런

이미지 크레딧: 퀀텀런

인공지능이 지배하는 미래에 인간은 평화롭게 살 수 있을까? - 인공지능 P6의 미래

David Tal, 발행인, 미래학자
@DavidTalWrites
링크드인

화, 09 / 15 / 2020 - 13 : 10

인류에 관해서는 '타자'와 동거하는 데 있어 최고의 실적을 가지고 있지 않다고 치자. 독일의 유대인 집단 학살이든 르완다의 투치족이든, 서구 국가에 의한 아프리카인의 노예화 또는 동남아시아 계약 노예 지금 중동 걸프 국가에서 일하거나 미국의 멕시코인이나 일부 EU 국가의 시리아 난민이 겪고 있는 현재의 박해까지도. 대체로 우리가 우리와 다르다고 인식하는 사람들에 대한 본능적인 두려움은 우리가 두려워하는 사람들을 통제하거나 (극단적인 경우) 파괴하는 행동을 취하도록 이끌 수 있습니다.

인공 지능이 진정으로 인간과 같아지면 다른 것을 기대할 수 있습니까?

Star Wars 사가에서 보듯이 독립적인 AI 로봇 존재와 공존하는 미래에 살 것인가, 아니면 Bladerunner 프랜차이즈에 묘사된 것처럼 AI 존재를 박해하고 노예로 만들 것인가? (이러한 대중 문화의 필수 요소 중 하나를 본 적이 없다면 무엇을 기다리고 있습니까?)

다음은 이 장의 마지막 장에 대한 질문입니다. 인공 지능의 미래 시리즈 답변을 바랍니다. 중요한 AI 연구자들의 예측이 맞다면 세기 중반까지 우리 인간은 다양한 AI 존재와 세상을 공유하게 될 것이기 때문에 그들과 함께 평화롭게 살 수 있는 방법을 더 잘 모색해야 합니다.

인간이 인공지능과 경쟁할 수 있을까?

믿거나 말거나 할 수 있습니다.

평균적인 인간(2018년 기준)은 이미 가장 발전된 AI보다 우수합니다. 우리의 설명대로 오프닝 챕터, 오늘날의 ANI(인공 협소 지능)는 인간보다 훨씬 뛰어납니다. 구체적인 그들이 설계한 작업이지만 해당 설계 이외의 작업을 수행하라는 요청을 받으면 희망이 없습니다. 반면에 인간은 지구상의 다른 대부분의 동물과 마찬가지로 광범위한 환경에서 목표를 추구하는 적응력이 뛰어납니다. 정의 컴퓨터 과학자인 Marcus Hutter와 Shane Legg가 옹호한 지능.

이러한 보편적 적응력의 특성은 별 것 아닌 것 같지만 목표에 대한 장애물을 평가하고, 그 장애물을 극복하기 위한 실험을 계획하고, 실험을 실행하기 위한 조치를 취하고, 결과로부터 학습하고, 계속하는 능력을 요구합니다. 목표를 추구합니다. 지구상의 모든 생명체는 본능적으로 이 적응성 루프를 매일 수천에서 수백만 번 실행하며 AI가 동일한 작업을 수행할 수 있을 때까지 생명 없는 작업 도구로 남을 것입니다.

하지만 당신이 생각하는 바를 압니다. 인공 지능의 미래에 대한 이 전체 시리즈는 충분한 시간이 주어지면 AI 개체가 결국 인간만큼 똑똑해지고 그 직후에는 인간보다 훨씬 더 똑똑해질 것이라고 예측합니다.

이 장에서는 그 가능성에 대해 이의를 제기하지 않습니다.

그러나 많은 논평가들이 빠지는 함정은 진화가 생물학적 뇌를 생산하는 데 수백만 년이 걸렸기 때문에 AI가 몇 년, 몇 개월이라는 짧은 주기로 자체 하드웨어와 소프트웨어를 개선할 수 있는 지점에 도달하면 절망적으로 압도될 것이라고 생각하는 것입니다. , 어쩌면 며칠.

고맙게도, 진화는 부분적으로 최근 유전 공학의 발전 덕분에 약간의 싸움이 남았습니다.

에 대한 시리즈에서 처음으로 다루었습니다. 인간 진화의 미래, 유전학자들은 69개의 개별 유전자 지능에 영향을 미치지만, 그것들을 합치면 IQ에 XNUMX% 미만의 영향만 미칩니다. 이것은 지능에 영향을 미치는 수백 또는 수천 개의 유전자가 있을 수 있다는 것을 의미하며, 우리는 이들 모두를 발견해야 할 뿐만 아니라 태아 조작을 고려하기도 전에 모든 유전자를 예측 가능하게 조작하는 방법을 배워야 합니다. DNA.

그러나 2040년대 중반까지 유전체학 분야는 태아의 게놈이 완전히 매핑될 수 있는 수준으로 성숙할 것이며, DNA에 대한 편집은 컴퓨터 시뮬레이션을 통해 게놈의 변화가 미래의 신체적, 정서적 영향에 어떤 영향을 미칠지 정확하게 예측할 수 있을 것입니다. , 그리고 이 논의에서 가장 중요한 것은 지능 속성입니다.

다시 말해서, 대부분의 AI 연구자들이 AI가 인간 수준의 지능에 도달하고 아마도 이를 능가할 것이라고 믿는 세기 중반쯤에, 우리는 이전 세대보다 훨씬 더 똑똑하도록 인간 유아의 전체 세대를 유전적으로 변형할 수 있는 능력을 얻게 될 것입니다. 그들을.

우리는 초지능 인간이 초지능 AI와 함께 사는 미래를 향해 가고 있습니다.

초지능 인간으로 가득 찬 세계의 영향

자, 여기서 우리는 얼마나 똑똑한가? 문맥상 알버트 아인슈타인과 스티븐 호킹의 IQ는 약 160점이었습니다. 지능을 제어하는 게놈 마커 뒤에 숨겨진 비밀을 풀면 잠재적으로 1,000을 초과하는 IQ를 갖고 태어난 인간을 볼 수 있습니다.

이것은 아인슈타인과 호킹과 같은 정신이 오늘날 우리 현대 세계의 기반을 이루는 과학적 돌파구를 촉발시키는 데 도움이 되었기 때문에 중요합니다. 예를 들어, 세계 인구의 극소수만이 물리학에 대해 이해하고 있지만 세계 GDP의 상당 부분은 스마트폰, 현대 통신 시스템(인터넷) 및 GPS와 같은 기술이 발견한 결과에 의존합니다. 양자 역학 없이는 존재할 수 없습니다. .

이러한 영향을 감안할 때 우리가 한 세대의 천재를 낳는다면 인류는 어떤 발전을 경험할 수 있을까요? 아인슈타인의 수억?

세계는 슈퍼 천재의 집중을 본 적이 없기 때문에 대답을 추측하는 것은 불가능합니다.

이 사람들은 과연 어떻게 될까요?

맛보기로 기록된 가장 똑똑한 인간의 경우를 생각해 보십시오. 윌리엄 제임스 시디 스 (1898-1944), 그는 약 250의 IQ를 가지고 있었습니다. 그는 두 살까지 읽을 수 있었습니다. 그는 여섯 살 때까지 11개 언어를 구사했습니다. 그는 XNUMX살 때 하버드 대학교에 입학했습니다. 그리고 Sidis는 생물학자가 인간이 언젠가 유전자 편집을 통해 인간이 될 수 있다고 이론화하는 것의 XNUMX분의 XNUMX에 불과합니다.

(참고: 여기서 우리는 지능에 대해서만 이야기하고 있으며 우리를 육체적으로 초인간적으로 만들 수 있는 유전자 편집에 대해서는 언급조차 하지 않습니다. 자세한 내용은 여기를 읽어.)

사실, 인간과 AI가 일종의 긍정적인 피드백 루프를 만들어 공진화할 가능성은 매우 높습니다. 여기서 고급 AI는 유전학자가 인간 게놈을 마스터하여 점점 더 똑똑한 인간을 만들고, 인간은 점점 더 똑똑한 AI를 만들기 위해 일하게 될 것입니다. 에. 네, 그렇습니다. AI 연구자들이 예측하는 것처럼 지구는 세기 중반에 지능 폭발을 아주 잘 경험할 수 있지만 지금까지의 논의에 따르면 인간(AI뿐만 아니라)도 그 혁명의 혜택을 볼 것입니다.

우리 사이 사이보그

초지능 인간에 대한 이러한 주장에 대한 공정한 비판은 우리가 세기 중반까지 유전자 편집을 마스터하더라도 이 새로운 세대의 인간이 우리의 발전에 상당한 발전에 기여할 수 있는 수준으로 성숙하기까지 20~30년이 더 걸릴 것이라는 것입니다. 사회는 물론 AI와 함께 지적 경쟁의 장을 확장합니다. 이 지연은 AI가 '악'으로 변하기로 결정한 경우 인류에 대한 상당한 유리한 출발을 제공하지 않을까요?

그렇기 때문에 2030년대부터 오늘날의 인간과 미래의 초인간을 잇는 다리로서 인간과 기계의 하이브리드인 사이보그라는 새로운 인간 부류의 시작을 보게 될 것입니다.

(공정하게 말해서 사이보그를 정의하는 방식에 따라 기술적으로 이미 존재합니다. 특히 전쟁 부상, 사고 또는 출생 시 유전적 결함의 결과로 의족을 가진 사람들이 있습니다. 그러나 이 장의 맥락에 집중하기 위해 우리는 우리의 정신과 지능을 향상시키기 위한 보철물에 초점을 맞출 것입니다.)

우리의 첫 번째 논의 컴퓨터의 미래 시리즈에서 연구자들은 현재 BCI(Brain-Computer Interface)라는 생체 전자 분야를 개발하고 있습니다. 여기에는 뇌 스캔 장치나 임플란트를 사용하여 뇌파를 모니터링하고 이를 코드로 변환한 다음 명령과 연결하여 컴퓨터에서 실행되는 모든 것을 제어하는 작업이 포함됩니다.

우리는 아직 초기 단계이지만 BCI를 사용하여 절단된 환자는 이제 로봇 팔다리 테스트 그들의 그루터기에 부착된 센서를 통하지 않고 그들의 마음에 의해 직접 통제됩니다. 마찬가지로, 중증 장애가 있는 사람들(예: 사지마비 환자)은 이제 BCI를 사용하여 전동 휠체어 조종 로봇 팔을 조작합니다. 그러나 절단 장애인과 장애인이 보다 독립적인 삶을 영위할 수 있도록 돕는 것은 BCI가 할 수 있는 범위가 아닙니다.

2030년대에 헬멧이나 헤어밴드처럼 보이던 것이 결국 우리의 마음을 디지털 클라우드(인터넷)에 연결할 뇌 임플란트(2040년대 후반)로 바뀌게 될 것입니다. 결국 이 인공 뇌는 우리 마음의 세 번째 반구 역할을 할 것입니다. 따라서 왼쪽 및 오른쪽 반구가 창의력과 논리 능력을 관리하는 동안 이 새로운 클라우드 기반 디지털 반구는 정보에 대한 거의 즉각적인 액세스를 촉진하고 인지 능력을 향상시킵니다. 인간이 종종 AI에 비해 부족한 속성, 즉 속도, 반복 및 정확도.

그리고 이러한 뇌 이식이 반드시 우리의 지능을 향상시키는 것은 아니지만 오늘날 스마트폰처럼 훨씬 더 유능하고 독립적으로 만들 것입니다.

다양한 인텔리전스가 가득한 미래

AI, 사이보그, 초지능 인간에 대한 이 모든 이야기는 고려해야 할 또 다른 지점을 열어줍니다. 미래는 인간 또는 지구의 역사에서 본 것보다 훨씬 더 풍부한 지능의 다양성을 보게 될 것입니다.

금세기가 끝나기 전에 우리는 다음으로 가득 찬 미래 세계에 대해 이야기하고 있습니다.

곤충 지능
동물 지능
인간 지능
사이버네틱으로 강화된 인간 지능
인공 일반 지능 (AGI)
인공 초지능 (그대로)
인간의 초지능
사이버네틱으로 강화된 인간의 초지능
가상 인간-AI 하이브리드 마인드
독자가 의견 섹션에서 브레인스토밍하고 공유하도록 권장하는 몇 가지 중간 범주가 더 있습니다.

다시 말해서, 우리 세계는 이미 다양한 종류의 종들이 살고 있으며 각각 고유한 유형의 지능을 가지고 있지만 미래에는 훨씬 더 다양한 지능이 나타날 것이며 이번에는 인지 사다리의 더 높은 쪽이 확장될 것입니다. 따라서 오늘날의 세대가 생태계에 기여하는 곤충 및 동물과 세상을 공유하는 방법을 배우는 것처럼 미래 세대는 오늘날 우리가 거의 상상할 수 없는 다양한 지능과 소통하고 협력하는 방법을 배워야 합니다.

물론, 역사는 '나눔'이 결코 인간에게 강력한 선택이 아니었음을 말해 줍니다. 인간의 팽창으로 인해 수십에서 수천 종의 종이 멸종되었으며, 팽창하는 제국의 정복으로 수백 개의 덜 발달한 문명이 사라졌습니다.

이러한 비극은 자원(식량, 물, 원자재 등)에 대한 인간의 필요와 부분적으로는 외국 문명이나 민족 사이의 두려움과 불신 때문입니다. 다시 말해, 과거와 현재의 비극은 문명 자체만큼이나 오래된 이유에 기인하며, 이러한 모든 새로운 지능 계층이 도입되면서 더 악화될 것입니다.

다양한 지능으로 가득 찬 세계의 문화적 영향

경이로움과 두려움은 이 모든 새로운 유형의 지능이 세상에 들어오면 사람들이 경험할 상충되는 감정을 가장 잘 요약하는 두 가지 감정입니다.

이 모든 새로운 인간과 AI 지능을 만드는 데 사용된 인간의 독창성과 그것이 만들어낼 수 있는 가능성에 대해 '경이'합니다. 그리고 현재 세대의 인간이 이러한 '향상된' 존재의 미래 세대에 대해 갖게 될 이해와 친숙의 부족으로 인한 '두려움'.

따라서 동물의 세계가 일반 곤충의 이해를 완전히 초월하고 인간의 세계가 일반 동물의 이해를 완전히 초월하는 것처럼 AI와 초지능 인간의 세계는 오늘날의 범주를 훨씬 넘어설 것입니다. 보통 사람은 이해할 수 있을 것입니다.

그리고 미래 세대가 이러한 새로운 더 높은 지능과 통신할 수 있을지라도, 우리가 많은 것을 공유하게 될 것 같지는 않습니다. AGI와 ASI를 소개하는 장에서 우리는 AI 지능을 인간 지능과 같이 생각하는 것이 왜 실수인지 설명했습니다.

간단히 말해서, 인간의 사고를 주도하는 본능적 감정은 자원, 짝짓기 파트너, 사회적 유대, 생존 등을 적극적으로 찾은 수천 년에 걸친 인간 세대의 진화적 생물학적 유산입니다. 미래의 AI에는 그러한 진화적 짐이 없을 것입니다. 대신, 이러한 디지털 인텔리전스에는 완전히 고유한 목표, 사고 방식, 가치 시스템이 있습니다.

마찬가지로, 현대인이 우리의 지성 덕분에 자연스러운 인간 욕망의 측면을 억제하는 법을 배운 것처럼(예: 헌신적인 관계에서 성적 파트너를 제한하고 명예와 미덕에 대한 상상의 개념으로 인해 낯선 사람을 위해 목숨을 걸고 위험을 감수합니다.) , 미래의 초인은 이러한 원초적 본능을 완전히 극복할 수 있습니다. 이것이 가능하다면 우리는 새로운 종류의 인간이 아니라 외계인을 실제로 다루고 있는 것입니다.

미래의 슈퍼 종족과 나머지 우리 사이에 평화가 있습니까?

평화는 신뢰에서 오고 신뢰는 친숙함과 공유된 목표에서 옵니다. 우리는 이미 강화되지 않은 인간이 이러한 슈퍼 지능과 인지적으로 공통점이 거의 없다는 것을 논의했기 때문에 친숙함을 테이블에서 제외할 수 있습니다.

한 시나리오에서, 이러한 지능 폭발은 완전히 새로운 형태의 불평등의 부상을 나타낼 것입니다. 이 불평등은 하층 계급의 사람들이 일어서는 것이 거의 불가능할 지능 기반 사회 계급을 생성합니다. 그리고 부자와 가난한 자 사이의 경제적 격차가 오늘날 불안을 야기하는 것처럼, 정보의 다른 계층/인구 사이의 격차는 다양한 형태의 박해 또는 전면전으로 귀결될 수 있는 충분한 두려움과 분노를 유발할 수 있습니다. 동료 만화책 독자들에게 이것은 Marvel의 X-men 프랜차이즈의 고전적인 박해 배경을 상기시킬 수 있습니다.

대안 시나리오는 이러한 미래의 초능력자들이 단순한 대중을 감정적으로 조종하여 사회에 수용하도록 하거나 최소한 모든 폭력을 피할 수 있는 방법을 찾아낼 것이라는 것입니다.

그렇다면 어떤 시나리오가 승리할까요?

아마도 우리는 중간에 어떤 일이 벌어지는 것을 보게 될 것입니다. 이 지능 혁명이 시작될 때 우리는 일반적인 '테크노패닉,' 기술 법률 및 정책 전문가인 Adam Thierer는 일반적인 사회적 패턴을 다음과 같이 설명합니다.

새로운 것에 대한 두려움으로 이어지는 세대 차이, 특히 사회적 관습을 파괴하거나 일자리를 없애는 세대 차이 일의 미래 시리즈);
실제로는 그다지 좋지 않았던 좋은 옛날에 대한 "과다 향수";
클릭수, 조회수, 광고 판매 대가로 새로운 기술과 트렌드에 대한 공포를 조장하는 기자와 전문가에 대한 인센티브
그들의 그룹이 이 신기술의 영향을 받는 방식에 따라 정부 자금 또는 조치를 위해 서로 팔꿈치를 대는 특별한 이해 관계.
대중 대중이 채택하는 신기술을 두려워하는 학계 및 문화 비평가의 엘리트주의적 태도
어제와 오늘의 도덕적, 문화적 논쟁을 내일의 새로운 기술에 투영하는 사람들.

그러나 모든 새로운 발전과 마찬가지로 사람들은 그것에 익숙해질 것입니다. 더 중요한 것은 두 종이 똑같이 생각하지 않을 수 있지만, 평화는 상호 공유된 이익이나 목표를 통해 찾을 수 있다는 것입니다.

예를 들어, 이러한 새로운 AI는 우리의 삶을 개선하는 새로운 기술과 시스템을 만들 수 있습니다. 그리고 그 대가로 자금 지원과 정부 지원은 특히 중국과 미국 AI 프로그램 간의 활발한 경쟁 덕분에 전반적으로 AI의 이익을 지속적으로 향상시킬 것입니다.

마찬가지로, 초인을 창조하는 것과 관련하여 많은 국가의 종교 파벌은 유아를 유전적으로 조작하는 경향에 저항할 것입니다. 그러나 실용성과 국익이 이 장벽을 점차 허물게 될 것입니다. 전자의 경우 부모는 유전자 편집 기술을 사용하여 자녀가 질병과 결손 없이 태어날 수 있도록 하고 싶지만 초기 목표는 보다 침습적인 유전자 향상을 향한 미끄러운 경사면입니다. 마찬가지로, 중국이 인구의 전체 세대를 유전적으로 향상시키기 시작한다면 미국은 이를 따르거나 XNUMX년 후에 영구적으로 뒤처지는 위험을 감수해야 하는 전략적 의무를 갖게 될 것이며, 나머지 세계도 마찬가지입니다.

이 장의 전체 내용이 강렬하지만 이 모든 것이 점진적인 과정임을 기억해야 합니다. 그것은 우리의 세상을 매우 다르고 매우 이상하게 만들 것입니다. 그러나 우리는 그것에 익숙해질 것이고 그것이 우리의 미래가 될 것입니다.