量子運行

圖片來源：量子運行

第一個通用人工智能將如何改變社會：人工智能的未來 P2

David Tal，出版商，未來主義者
@DavidTalWrites
LinkedIn

二，09 / 15 / 2020 - 13：08

我們建造了金字塔。我們學會了利用電力。我們了解宇宙大爆炸後（大部分）是如何形成的。當然，老生常談的例子，我們已經把一個人送上了月球。然而，儘管取得了所有這些成就，人類大腦仍然遠遠超出現代科學的理解範圍，默認情況下，它是已知宇宙中最複雜的物體——或者至少是我們對它的理解。

鑑於這一現實，我們還沒有建立與人類相媲美的人工智能 (AI)，這並不令人震驚。像 Data (Star Trek)、Rachael (Blade Runner) 和 David (Prometheus) 這樣的 AI，或者像 Samantha (Her) 和 TARS (Interstellar) 這樣的非類人 AI，這些都是 AI 發展下一個偉大里程碑的例子：通用人工智能（AGI， 有時也稱為 HLMI 或人類級機器智能).

換句話說，人工智能研究人員面臨的挑戰是：當我們甚至不完全了解自己的思維是如何工作的時候，我們如何才能建立一個與我們自己相媲美的人工思維？

我們將探討這個問題，以及人類將如何對抗未來的 AGI，最後，在第一個 AGI 向世界宣布後的第二天，社會將如何變化。

什麼是通用人工智能？

設計一個可以輕鬆擊敗國際象棋、Jeopardy 和圍棋中排名靠前的玩家的 AI（深藍色, 沃森和阿爾法圍棋分別）。設計一個人工智能，它可以為您提供任何問題的答案、建議您可能想要購買的物品或管理共享出租車車隊——整個價值數十億美元的公司都是圍繞它們建立的（谷歌、亞馬遜、優步）。甚至可以將您從該國的一側帶到另一側的AI……嗯，我們正在努力。

但是讓人工智能閱讀一本兒童讀物並理解它試圖教授的內容、意義或道德，或者讓人工智能分辨一張貓和斑馬的照片之間的區別，你最終會導致不止一些短路。

大自然花費了數百萬年的時間來發展一種計算設備（大腦），該設備擅長處理、理解、學習，然後在新情況和新環境中採取行動。與過去半個世紀的計算機科學相比，計算機科學專注於創建針對其設計的單一任務量身定制的計算設備。

換句話說，人機是通才，而人工計算機是專家。

創建 AGI 的目標是創建一個可以像人類一樣思考和學習的 AI，通過經驗而不是通過直接編程。

在現實世界中，這意味著未來的 AGI 通過自己在世界中的經驗（使用任何身體或我們給它的感覺器官/設備），並通過它自己的交互與其他人工智能和其他人類。

構建通用人工智能需要什麼

雖然在技術上很困難，但創建 AGI 必須是可能的。如果事實上，物理定律中有一個根深蒂固的屬性——計算的普遍性——基本上說明了一個物理對象可以做的所有事情，一台足夠強大的通用計算機原則上應該能夠複製/模擬。

然而，這很棘手。

值得慶幸的是，有很多聰明的人工智能研究人員在研究這個案例（更不用說有很多企業、政府和軍事資金支持他們），到目前為止，他們已經確定了他們認為有必要解決的三個關鍵因素，以便帶來AGI 進入我們的世界。

大數據. 人工智能開發最常見的方法涉及一種稱為深度學習的技術——一種特定類型的機器學習系統，它通過收集大量數據、在模擬神經元網絡（模仿人腦）中處理所述數據，然後使用這些發現來規劃自己的見解。 有關深度學習的更多詳細信息， 閱讀本.

例如，在2017，谷歌為其人工智能提供了數千張貓的圖像，其深度學習系統不僅用於學習如何識別貓，還用於區分不同的貓品種。不久之後，他們宣布即將發布谷歌鏡頭，一個新的搜索應用程序，讓用戶可以拍攝任何東西，谷歌不僅會告訴你它是什麼，而且會提供一些有用的上下文內容來描述它——在旅行時很方便，你想了解更多關於特定旅遊景點的信息。但在這裡，如果沒有目前在其圖像搜索引擎中列出的數十億張圖像，Google Lens 也將無法實現。

然而，這種大數據和深度學習的組合仍然不足以帶來 AGI。

更好的算法. 在過去的十年裡，谷歌的子公司和人工智能領域的領導者 DeepMind 通過將深度學習的優勢與強化學習相結合而引起轟動——這是一種免費的機器學習方法，旨在教人工智能如何在新環境中採取行動以實現一個既定的目標。

由於這種混合戰術，DeepMind 的首個 AI AlphaGo 不僅通過下載規則和研究人類高手的策略自學瞭如何玩 AlphaGo，而且在與自己對戰數百萬次之後，還能夠擊敗最優秀的 AlphaGo 玩家使用遊戲中從未見過的動作和策略。

同樣，DeepMind 的 Atari 軟件實驗包括為 AI 提供一個攝像頭以查看典型的遊戲屏幕，對其進行編程，使其能夠輸入遊戲命令（如操縱桿按鈕），並為其設定增加分數的單一目標。結果？幾天之內，它就自學瞭如何玩以及如何掌握數十款經典街機遊戲。

但是，儘管這些早期的成功令人興奮，但仍有一些關鍵挑戰需要解決。

一方面，人工智能研究人員正致力於教授人工智能一種叫做“分塊”的技巧，人類和動物的大腦都非常擅長這種技巧。簡而言之，當你決定出去買雜貨時，你可以想像你的最終目標（買一個鱷梨）和一個粗略的計劃（離開家，去雜貨店，買鱷梨，回家）。你不做的是計劃每一次呼吸，每一步，每一個可能的意外事件。相反，您的腦海中有一個概念（塊），即您想去哪裡，並根據出現的任何情況調整您的旅行。

儘管你可能覺得這種能力很常見，但這種能力是人類大腦仍然比人工智能擁有的關鍵優勢之一——它是在事先不知道每一個細節的情況下設定目標並追求它的適應性，儘管我們有任何障礙或環境變化。可能會遇到。這項技能將使 AGI 能夠更有效地學習，而無需上述大數據。

另一個挑戰是不僅要讀書，還要明白意思或背後的背景。從長遠來看，這裡的目標是讓人工智能閱讀一篇報紙文章，並能夠準確回答一系列關於它所閱讀內容的問題，有點像寫一篇讀書報告。這種能力將使人工智能從簡單的計算數字的計算器轉變為計算意義的實體。

總體而言，可以模仿人腦的自學習算法的進一步發展將在最終創建 AGI 中發揮關鍵作用，但除了這項工作之外，人工智能社區還需要更好的硬件。

更好的硬件. 使用上面解釋的當前方法，只有在我們認真提高可用於運行它的計算能力之後，AGI 才會成為可能。

就上下文而言，如果我們將人腦的思考能力轉換為計算項，那麼人類平均心智能力的粗略估計是 1,000 exaflop，相當於 XNUMX petaflops（'Flop' 代表浮點運算每第二，測量計算速度）。

相比之下，到 2018 年底，世界上最強大的超級計算機，日本的人工智能橋接雲將以 130 petaflops 嗡嗡聲，遠低於 XNUMX exaflop。

正如我們在超級計算機我們的章節計算機的未來系列，美國和中國都在努力到 2022 年建造自己的 exaflop 超級計算機，但即使他們成功了，這可能還不夠。

這些超級計算機以幾十兆瓦的功率運行，佔用數百平方米的空間，建造成本達數億美元。人腦僅使用 20 瓦的功率，可放入周長約 50 厘米的頭骨內，而我們有 2018 億人（XNUMX 年）。換句話說，如果我們想讓 AGI 像人類一樣普遍，我們需要學習如何更經濟地創造它們。

為此，人工智能研究人員開始考慮用量子計算機為未來的人工智能提供動力。更詳細的描述在量子計算機在我們的計算機未來系列的章節中，這些計算機的工作方式與我們過去半個世紀以來一直在建造的計算機完全不同。一旦到 2030 年代完善，單台量子計算機的計算量將超過目前在 2018 年全球運行的每台超級計算機。與當前的超級計算機相比，它們也將更小，消耗的能量也少得多。

通用人工智能如何優於人類？

讓我們假設上面列出的每一個挑戰都得到了解決，人工智能研究人員在創建第一個 AGI 方面取得了成功。 AGI 思維與我們自己的思維有何不同？

要回答這類問題，我們需要將 AGI 思維分為三類，即生活在機器人體內的思維（數據來自 星際迷航），那些具有物理形式但無線連接到互聯網/雲的那些（史密斯特工來自矩陣) 和那些完全生活在計算機或在線中的沒有物理形式的人 (Samantha from 她的).

首先，與網絡隔離的機器人體內的 AGI 將與人類思維競爭，但具有以下優勢：

記憶力：根據AGI機器人形態的設計，它們的短期記憶力和關鍵信息的記憶力肯定會優於人類。但歸根結底，假設我們將機器人設計成看起來像人類，那麼可以將多少硬盤空間裝入機器人是有物理限制的。出於這個原因，AGI 的長期記憶將與人類非常相似，主動忘記被認為對其未來功能不必要的信息和記憶（以釋放“磁盤空間”）。
速度：人腦內神經元的性能最高約為 200 赫茲，而現代微處理器以千兆赫茲級別運行，比神經元快數百萬倍。這意味著與人類相比，未來的 AGI 將比人類更快地處理信息和做出決策。請注意，這並不一定意味著這個 AGI 會比人類做出更聰明或更正確的決定，只是他們可以更快地得出結論。
表現：簡單地說，如果人腦在沒有休息或睡眠的情況下工作太久就會感到疲倦，而當它工作時，它的記憶力以及學習和推理的能力就會受損。同時，對於 AGI 來說，假設他們定期充電（電力），他們不會有這個弱點。
可升級性：對於人類來說，學習一個新習慣可能需要數週的練習，學習一項新技能可能需要數月時間，學習一項新職業可能需要數年時間。對於 AGI，他們將能夠通過經驗（如人類）和直接上傳數據來學習，類似於您定期更新計算機操作系統的方式。這些更新可以應用於 AGI 物理形態的知識升級（新技能）或性能升級。

接下來，讓我們看看具有物理形式但也無線連接到互聯網/雲的 AGI。與非連接 AGI 相比，我們可以在此級別看到的差異包括：

記憶：這些 AGI 將具有以前 AGI 類所具有的所有短期優勢，除了它們還將受益於完美的長期記憶，因為它們可以將這些記憶上傳到雲中以便在需要時進行訪問。顯然，在連接性較低的地區無法訪問此內存，但在 2020 年代和 2030 年代，當更多的世界上線時，這將變得不那麼令人擔憂。閱讀更多第一章我們互聯網的未來系列。
速度：根據這個 AGI 面臨的障礙類型，他們可以訪問更大的雲計算能力來幫助他們解決問題。
性能：與未連接的 AGI 相比，沒有區別。
可升級性：與可升級性相關的 AGI 之間的唯一區別在於，它們可以無線實時訪問升級，而不必訪問並插入升級倉庫。
集體：人類成為地球的主導物種不是因為我們是最大或最強壯的動物，而是因為我們學會瞭如何以各種方式進行交流和協作以實現集體目標，從獵殺猛獁像到建造國際空間站。一個 AGI 團隊將把這種合作提升到一個新的水平。鑑於上面列出的所有認知優勢，然後將其與面對面和遠距離無線通信的能力相結合，未來的 AGI 團隊/蜂巢思維理論上可以比人類團隊更有效地處理項目。

最後，最後一種 AGI 是沒有物理形式的版本，它在計算機內部運行，可以訪問其創建者提供的全部計算能力和在線資源。在科幻節目和書籍中，這些 AGI 通常採用專家虛擬助手/朋友或宇宙飛船的靈活操作系統的形式。但與其他兩類 AGI 相比，這個 AI 會在以下幾個方面有所不同；

速度：無限制（或者，至少在它可以訪問的硬件的限制範圍內）。
內存：無限
性能：由於可以訪問超級計算中心，因此提高了決策質量。
可升級性：絕對的、實時的，並且具有無限的認知升級選擇。當然，由於這個 AGI 類別沒有物理機器人形式，因此它不需要可用的物理升級，除非這些升級是針對其運行的超級計算機。
集體：與之前的 AGI 類別類似，這種無身體的 AGI 將與其 AGI 同事有效協作。然而，鑑於其更直接地訪問無限計算能力和訪問在線資源，這些 AGI 通常將在整個 AGI 集體中擔任領導角色。