我們將如何創建第一個超級人工智能：人工智能的未來 P3
我們將如何創建第一個超級人工智能：人工智能的未來 P3
在二戰的深處，納粹軍隊正在歐洲大部分地區肆虐。 他們擁有先進的武器、高效的戰時工業、狂熱的步兵，但最重要的是，他們擁有一台名為 Enigma 的機器。 該設備允許納粹部隊通過標准通信線路相互發送摩爾斯電碼信息，從而進行遠距離安全協作； 它是人類密碼破解者無法攻破的密碼機。
值得慶幸的是，盟軍找到了解決方案。 他們不再需要人類思維來破解謎團。 相反，通過已故艾倫圖靈的發明，盟軍建立了一種革命性的新工具，稱為 英國炸彈，一種機電設備，最終破譯了納粹的密碼，並最終幫助他們贏得了戰爭。
這台炸彈為現代計算機奠定了基礎。
在 Bombe 開發項目期間與圖靈一起工作的是英國數學家和密碼學家 IJ Good。 他很早就看到了這種新設備有朝一日可以帶來的最終遊戲。 在一個 1965紙， 他寫了：
“讓超智能機器被定義為可以遠遠超過任何人的所有智力活動的機器，無論多麼聰明。 由於機器的設計是這些智力活動之一，因此超智能機器可以設計出更好的機器。 然後毫無疑問會發生“智能爆炸”，人類的智能將被遠遠拋在後面......因此，第一台超智能機器是人類需要創造的最後一個發明，只要機器足夠溫順，可以告訴我們如何來控制它。”
創造第一個人工超級智能
到目前為止，在我們的人工智能未來系列中，我們已經定義了人工智能 (AI) 的三大類，從 狹義人工智能 (ANI) 到 人工智能 (AGI)，但在本系列章節中，我們將關注最後一類——在人工智能研究人員中引發興奮或恐慌發作的一類——人工超級智能 (ASI)。
要了解 ASI 是什麼，您需要回想上一章，我們概述了 AI 研究人員如何相信他們將創建第一個 AGI。 基本上，它將結合大數據來提供更好的算法（專注於自我改進和類人學習能力的算法），這些算法包含在日益強大的計算硬件中。
在那一章中，我們還概述了 AGI 思維（一旦它獲得了我們人類認為理所當然的這些自我提升和學習能力）最終將如何通過超快的思維速度、增強的記憶力、不疲倦的表現和即時升級能力。
但在這裡需要注意的是，AGI 只會自我改進到它可以訪問的硬件和數據的限制； 這個限制可大可小，取決於我們提供給它的機器人身體或我們允許它訪問的計算機的規模。
同時，AGI 和 ASI 之間的區別在於，後者在理論上永遠不會以物理形式存在。 它將完全在超級計算機或超級計算機網絡中運行。 根據其創建者的目標，它還可以完全訪問存儲在 Internet 上的所有數據，以及將數據輸入和通過 Internet 提供數據的任何設備或人員。 這意味著該 ASI 可以學習多少以及可以自我改進多少將沒有實際限制。
這就是問題所在。
了解智能爆炸
AI 在成為 AGI 時最終會獲得這種自我改進的過程（AI 社區稱之為遞歸自我改進的過程）可能會跳出一個看起來像這樣的正反饋循環：
創建一個新的 AGI，獲得對機器人身體或大型數據集的訪問權限，然後完成自我教育和提高其智能的簡單任務。 起初，這種 AGI 將具有嬰兒的智商，難以掌握新概念。 隨著時間的推移，它所學到的知識足以達到普通成年人的智商，但它並不止於此。 使用這種新發現的成人智商，將這種改進繼續到其智商與已知最聰明的人類相匹配的程度變得更加容易和更快。 但同樣，它並不止於此。
這個過程在每個新的智能水平上複合，遵循加速回報的法則，直到它達到無法計算的超級智能水平——換句話說，如果不加以控制並給予無限的資源，AGI 將自我改進為 ASI，一種智能自然界中從未存在過。
這就是 IJ Good 在描述這種“智能爆炸”或現代 AI 理論家（如 Nick Bostrom）所說的 AI 的“起飛”事件時首先確定的。
了解人工超級智能
在這一點上，你們中的一些人可能認為人類智能與 ASI 智能之間的主要區別在於雙方的思考速度。 雖然這種理論上的未來 ASI 確實會比人類思考得更快，但這種能力在當今的計算機領域已經相當普遍——我們的智能手機思考（計算）的速度比人腦快， 超級計算機 比智能手機快數百萬倍，未來的量子計算機的思考速度會更快。
不，速度不是我們在這裡解釋的智能的特徵。 就是質量。
您可以隨心所欲地加速薩摩耶或柯基犬的大腦，但這並不能轉化為對如何解釋語言或抽象概念的新理解。 即使再過一兩年，這些狗也不會一下子理解如何製造或使用工具，更不用說理解資本主義經濟制度和社會主義經濟制度之間的細微差別了。
在智力方面，人類在與動物不同的層面上運作。 同樣，如果 ASI 充分發揮其理論潛力，他們的思維將遠遠超出普通現代人的能力範圍。 對於某些上下文，讓我們看一下這些 ASI 的應用。
人工超級智能如何與人類一起工作？
假設某個政府或公司成功創建了 ASI，他們將如何使用它？ 根據 Bostrom 的說法，這些 ASI 可能採用三種獨立但相關的形式：
- 甲骨文。 在這裡，我們將與 ASI 進行交互，就像我們已經與 Google 搜索引擎進行的交互一樣； 我們會問它一個問題，但無論所說的問題多麼複雜，ASI 都會以適合您和您的問題上下文的方式完美地回答它。
- 精靈. 在這種情況下，我們將為 ASI 分配一個特定的任務，它會按照命令執行。 研究治療癌症的方法。 完畢。 找到隱藏在美國宇航局哈勃太空望遠鏡 10 年積壓圖像中的所有行星。 完畢。 設計一個工作中的聚變反應堆來解決人類的能源需求。 胡言亂語。
- 主權的. 在這裡，ASI 被分配了一個不限成員名額的任務，並被賦予執行它的自由。 從我們的公司競爭對手那裡竊取研發機密。 “簡單的。” 發現隱藏在我們境內的所有外國間諜的身份。 “在上面。” 確保美國經濟持續繁榮。 “沒問題。”
現在，我知道你在想什麼，這一切聽起來很牽強。 這就是為什麼重要的是要記住那裡的每一個問題/挑戰，即使是迄今為止困擾世界上最聰明的人的那些，它們都是可以解決的。 但是一個問題的難度是由解決它的智力來衡量的。
換句話說，對挑戰應用的頭腦越多，就越容易找到解決該挑戰的方法。 任何挑戰。 這就像一個成年人看著嬰兒努力理解為什麼他不能將方形積木放入圓形開口中——對於成年人來說，向嬰兒展示積木應該適合方形開口將是孩子們的遊戲。
同樣，如果這個未來的 ASI 充分發揮其潛力，這種思想將成為已知宇宙中最強大的智慧——強大到足以解決任何挑戰，無論多麼複雜。
這就是為什麼許多 AI 研究人員稱 ASI 是人類最後一個發明的原因。 如果確信與人類一起工作，它可以幫助我們解決世界上所有最緊迫的問題。 我們甚至可以要求它消除所有疾病並結束我們所知道的衰老。 人類第一次可以永久地欺騙死亡，進入一個新的繁榮時代。
但相反的情況也是可能的。
智慧就是力量。 如果管理不善或受到不良演員的指導，這個 ASI 可能會成為最終的壓迫工具，或者它可能完全消滅人類——想想終結者中的天網或黑客帝國電影中的建築師。
事實上，這兩種極端都不太可能。 未來總是比烏托邦和反烏托邦預測的要混亂得多。 這就是為什麼現在我們了解了 ASI 的概念，本系列的其餘部分將探討 ASI 將如何影響社會，社會將如何防禦流氓 ASI，以及如果人類和人工智能並存，未來會是什麼樣子-邊。 繼續閱讀。
人工智能係列的未來
此預測的下一次預定更新
預測參考
此預測引用了以下流行和機構鏈接：
此預測引用了以下 Quantumrun 鏈接：
358個預測 
