在人工智能主导的未来，人类会和平生活吗？ - 人工智能的未来 P6
在人工智能主导的未来，人类会和平生活吗？ - 人工智能的未来 P6
谈到人类，我们只是说在与“另一个”同居方面我们没有最好的记录。 无论是德国对犹太人的种族灭绝，还是卢旺达图西人的种族灭绝，西方国家对非洲人的奴役，还是东南亚的契约奴隶 现在 在中东海湾国家工作，甚至是目前在美国的墨西哥人或在某些欧盟国家的叙利亚难民所经历的迫害。 总而言之，我们对那些我们认为与我们不同的人的本能恐惧会导致我们采取行动来控制或（在极端情况下）摧毁我们害怕的人。
当人工智能真正变得像人类时，我们能期待什么不同吗？
我们会生活在一个与独立的人工智能机器人共存的未来，如星球大战传奇中所见，还是我们会像《银翼杀手》系列中所描绘的那样迫害和奴役人工智能？ （如果你还没有看过这些流行文化的主食，你还在等什么？）
这些是本期最后一章的问题 人工智能的未来 系列希望回答。 这很重要，因为如果领先的人工智能研究人员做出的预测是正确的，那么到本世纪中叶，我们人类将与大量不同的人工智能生物共享我们的世界——所以我们最好想办法与他们和平相处。
人类能否与人工智能竞争？
信不信由你，我们可以。
普通人（2018 年）已经优于最先进的人工智能。 正如我们在 开篇, 今天的狭义人工智能 (ANI) 在以下方面比人类好得多 具体的 他们设计的任务，但当被要求承担该设计之外的任务时毫无希望。 另一方面，与地球上的大多数其他动物一样，人类在适应各种环境中追求目标的能力方面表现出色——a 定义 由计算机科学家 Marcus Hutter 和 Shane Legg 倡导的智能。
这种普遍适应性的特征似乎没什么大不了，但它需要能够评估实现目标的障碍，计划实验以克服障碍，采取行动执行实验，从结果中学习，然后继续去追求目标。 地球上的所有生命每天都会本能地执行这种适应性循环数千到数百万次，在人工智能学会这样做之前，它们将仍然是毫无生气的工作工具。
但我知道你在想什么：关于人工智能未来的整个系列预测，只要有足够的时间，人工智能实体最终将变得和人类一样聪明，不久之后，就会比人类聪明得多。
本章不会质疑这种可能性。
但很多评论者陷入的陷阱是，由于进化需要数百万年才能产生生物大脑，一旦人工智能达到可以在短短几年、几个月的周期内改进自己的硬件和软件的地步，它将无可救药地被超越。 ，甚至几天。
值得庆幸的是，进化还有一些斗争，部分归功于基因工程的最新进展。
首先在我们的系列中介绍 人类进化的未来, 遗传学家已经确定 69 个不同的基因 这会影响智力，但它们加在一起对智商的影响不到 XNUMX%。 这意味着可能有成百上千个影响智力的基因，我们不仅要发现所有这些基因，还要学习如何以可预测的方式操纵所有基因，然后才能考虑篡改胎儿。脱氧核糖核酸。
但到 2040 年代中期，基因组学领域将成熟到可以彻底绘制胎儿基因组图谱的程度，并且可以计算机模拟对其 DNA 的编辑，以准确预测其基因组的变化将如何影响其未来的身体、情感，对本次讨论来说最重要的是它的智力属性。
换句话说，到本世纪中叶，大约在大多数人工智能研究人员认为人工智能将达到并可能超过人类水平的智能时，我们将获得对人类婴儿进行基因改造的能力，使其比之前的几代人更聪明。他们。
我们正走向一个超智能人类将与超智能 AI 并存的未来。
一个充满超级智能人类的世界的影响
那么，我们在这里谈论的有多聪明？ 就上下文而言，阿尔伯特爱因斯坦和斯蒂芬霍金的智商得分约为 160。一旦我们解开控制智力的基因组标记背后的秘密，我们就有可能看到人类天生的智商超过 1,000。
这很重要，因为像爱因斯坦和霍金这样的思想帮助激发了现在构成现代世界基石的科学突破。 例如，世界上只有一小部分人了解物理知识，但世界 GDP 的很大一部分取决于其发现——智能手机、现代电信系统 (Internet) 和 GPS 等技术离不开量子力学.
鉴于这种影响，如果我们生出整整一代天才，人类将经历什么样的进步？ 数以亿计的爱因斯坦？
答案是无法猜测的，因为世界上从未见过如此集中的超级天才。
这些人甚至会是什么样子？
试想一下，以记录下来的最聪明的人类为例， 威廉·詹姆斯·西迪斯 （1898-1944），智商约为 250。他两岁时就可以阅读。 六岁时，他会说八种语言。 他在 11 岁时被哈佛大学录取。而西迪斯的聪明程度只有生物学家推测人类有朝一日通过基因编辑所能达到的聪明程度的四分之一。
（旁注：我们在这里只谈论智能，我们甚至没有涉及可以使我们在身体上成为超人的基因编辑。 在这里阅读更多.)
事实上，人类和人工智能很可能通过创造一种正反馈循环来共同进化，在这种循环中，先进的人工智能帮助遗传学家掌握人类基因组，创造出越来越聪明的人类，然后人类将努力创造越来越聪明的人工智能，等等上。 所以，是的，正如人工智能研究人员预测的那样，地球很可能会在本世纪中叶经历一次智能爆炸，但根据我们迄今为止的讨论，人类（不仅仅是人工智能）将从这场革命中受益。
我们中间的电子人
对这种关于超级智能人类的论点的公平批评是，即使我们在本世纪中叶掌握了基因编辑，也需要再过 20 到 30 年，新一代人类才能成熟到可以为我们的人类做出重大贡献的程度。社会，甚至与人工智能一起超越智力竞争环境。 如果他们决定转向“邪恶”，这种滞后不会让人工智能在对抗人类方面取得重大进展吗？
这就是为什么作为今天的人类和明天的超人之间的桥梁，从 2030 年代开始，我们将看到一个新的人类类别的开始：半机械人，人类和机器的混合体。
（公平地说，根据你如何定义赛博格，它们在技术上已经存在——具体来说，由于战争创伤、事故或出生时的遗传缺陷而有假肢的人。但为了继续关注本章的上下文，我们'将专注于旨在增强我们的思想和智力的假肢。）
首先在我们的 计算机的未来 系列中，研究人员目前正在开发一个称为脑机接口 (BCI) 的生物电子学领域。 它涉及使用大脑扫描设备或植入物来监控你的脑电波，将它们转换为代码，然后将它们与命令相关联，以控制计算机运行的任何东西。
我们仍处于早期阶段，但通过使用 BCI，截肢者现在 测试机器人肢体 直接由他们的思想控制，而不是通过连接在他们树桩上的传感器。 同样，患有严重残疾的人（例如四肢瘫痪的人）现在 使用 BCI 引导他们的电动轮椅 并操纵机械臂。 但帮助截肢者和残疾人过上更独立的生活并不是 BCI 的能力范围。
2030 年代看起来像头盔或发带的东西最终将让位于大脑植入物（2040 年代后期），它将我们的思想连接到数字云（互联网）。 最终，这个大脑假体将成为我们大脑的第三个半球——因此，当我们的左右半球管理我们的创造力和逻辑能力时，这个新的、云计算的、数字半球将促进近乎即时的信息访问并增强认知能力人类通常不及人工智能对手的属性，即速度、重复和准确性。
虽然这些大脑植入物不一定会提高我们的智力，但它们会让我们更有能力和独立性，就像我们今天的智能手机一样。
充满多元智慧的未来
所有这些关于人工智能、半机械人和超级智能人类的讨论开启了另一个值得思考的问题：未来将看到比我们在人类甚至地球历史上所见过的更丰富的智能多样性。
想一想，在本世纪末之前，我们谈论的是一个充满以下内容的未来世界：
- 昆虫智能
- 动物智能
- 人类智能
- 控制论增强的人类智能
- 通用人工智能 (AGI)
- 人工超级智能 (ASI)
- 人类超级智能
- 控制论增强的人类超级智能
- 虚拟人-人工智能混合思维
- 我们鼓励读者集思广益并在评论部分分享更多介于两者之间的类别。
换句话说，我们的世界已经是各种各样的物种的家园，每个物种都有自己独特的智能类型，但未来将会看到更加多样化的智能，这一次会扩大认知阶梯的高端。 因此，正如今天的一代正在学习与为我们的生态系统做出贡献的昆虫和动物分享我们的世界一样，后代将不得不学习如何与我们今天几乎无法想象的各种智能进行交流和协作。
当然，历史告诉我们，“分享”从来都不是人类的强项。 由于人类的扩张，成百上千的物种已经灭绝，只有数百个不太先进的文明在扩张帝国的征服下消失了。
这些悲剧是由于人类对资源（食物、水、原材料等）的需求，部分是由于外国文明或民族之间的恐惧和不信任。 换句话说，过去和现在的悲剧都是由与文明本身一样古老的原因造成的，而且它们只会随着所有这些新的智能类别的引入而恶化。
充满多元智慧的世界的文化影响
惊奇和恐惧这两种情绪最能概括所有这些新型智能进入世界后人们将体验到的相互冲突的情绪。
“惊叹”人类创造所有这些新的人类和人工智能智能的聪明才智，以及它们可能创造的可能性。 然后“害怕”当代人类对这些“增强”生物的后代缺乏理解和熟悉。
所以就像动物的世界完全超出一般昆虫的理解范围，人类的世界完全超出一般动物的理解范围，人工智能甚至超智能人类的世界也将远远超出今天的范围。一般人都能理解。
即使后代能够与这些新的更高智能交流，我们也不会有很多共同点。 在介绍 AGI 和 ASI 的章节中，我们解释了为什么试图将 AI 智能视为人类智能是错误的。
简而言之，驱动人类思维的本能情绪是几千年来人类积极寻找资源、交配伙伴、社会纽带、生存等的进化生物学遗产。未来的人工智能不会有任何进化包袱。 相反，这些数字智能将拥有完全独特的目标、思维模式和价值体系。
同样，正如现代人类已经学会通过我们的智力抑制他们自然人类欲望的某些方面（例如，我们在承诺的关系中限制我们的性伴侣；由于想象中的荣誉和美德等概念，我们为陌生人冒着生命危险等） ，未来的超人可能会完全克服这些原始本能。 如果这是可能的，那么我们真的是在与外星人打交道，而不仅仅是一类新的人类。
未来的超级种族和我们其他人之间会和平吗？
和平来自信任，信任来自熟悉和共同目标。 我们可以不再熟悉，因为我们已经讨论了非增强人类与这些超级智力在认知上几乎没有共同点。
在一种情况下，这种智力爆炸将代表一种全新形式的不平等的兴起，这种不平等创造了以智力为基础的社会阶层，而下层阶级的人几乎不可能从中崛起。 正如贫富之间日益扩大的经济差距正在造成今天的动荡一样，不同阶级/智力群体之间的鸿沟可能会产生足够的恐惧和怨恨，进而演变成各种形式的迫害或全面战争。 对于那些漫画书读者来说，这可能会让你想起漫威 X 战警系列中经典的迫害背景故事。
另一种情况是，这些未来的超级知识分子只会想办法在情感上操纵更简单的群众，让他们接受他们进入他们的社会——或者至少到避免所有暴力的程度。
那么，哪种情况会胜出呢？
很有可能，我们会在中间看到一些东西。 在这场智能革命开始时，我们将看到通常的 '技术狂，”技术法律和政策专家亚当·蒂勒（Adam Thierer）描述为遵循通常的社会模式：
- 导致对新事物的恐惧的代际差异，尤其是那些破坏社会习俗或消除工作的差异（阅读人工智能对我们的影响 工作的未来 系列）;
- “怀旧”是对过去的美好时光，事实上，这些日子从来都不是那么美好；
- 鼓励记者和权威人士对新技术和趋势散布恐惧，以换取点击、浏览和广告销售；
- 特殊利益集团为了政府资金或行动而相互挤兑，具体取决于他们的团体如何受到这项新技术的影响；
- 害怕大众采用新技术的学术和文化批评家的精英主义态度；
- 人们将昨天和今天的道德和文化辩论投射到明天的新技术上。
但就像任何新的进步一样，人们会习惯它。 更重要的是，虽然两个物种的想法可能不同，但可以通过共同的利益或目标找到和平。
例如，这些新的人工智能可以创造新的技术和系统来改善我们的生活。 作为回报，资金和政府支持将继续推动人工智能的整体利益，特别是得益于中国和美国人工智能项目之间的积极竞争。
同样，在创造超人方面，许多国家的宗教派别都会抵制基因篡改婴儿的趋势。 但是，实用性和国家利益将逐渐打破这一障碍。 对于前者，父母会倾向于使用基因编辑技术来确保他们的孩子出生时没有疾病和缺陷，但最初的目标是朝着更具侵入性的基因增强方向迈进。 同样，如果中国开始在基因上增强其整个世代的人口，美国将在战略上必须效仿或冒着在 XNUMX 年后永远落后的风险——世界其他地区也将如此。
尽管整章读起来很紧张，但我们需要记住，这将是一个渐进的过程。 这将使我们的世界变得非常不同和非常奇怪。 但我们会习惯它，它会成为我们的未来。
358预测 
