クォンタムラン

画像クレジット: クォンタムラン

最初の人工超知能をどのように作成するか: 人工知能の未来 P3

David Tal、出版社、未来派
@DavidTalWrites
LinkedIn

火、09 / 15 / 2020 - 13：17

第二次世界大戦の真っ只中、ナチス軍はヨーロッパの大部分を猛スピードで駆け抜けていました。彼らは高度な兵器、効率的な戦時産業、熱狂的な歩兵を持っていましたが、何よりもエニグマと呼ばれる機械を持っていました。この装置により、ナチス軍は標準の通信回線を介して互いにモールス符号化されたメッセージを送信することにより、長距離にわたって安全に協力することができました。人間の暗号解読者には難攻不落の暗号機だった。

ありがたいことに、同盟国は解決策を見つけました。彼らはもはやエニグマを破るために人間の心を必要としませんでした。代わりに、故アラン・チューリングの発明を通じて、同盟国は、イギリスのボンベ、最終的にナチスの秘密コードを解読し、最終的に彼らが戦争に勝つのを助けた電気機械装置.

この Bombe は、現代のコンピューターの基礎を築きました。

Bombe 開発プロジェクトで Turing と協力していたのは、英国の数学者であり暗号学者である IJ Good でした。彼はゲームの終わりの早い段階で、この新しいデバイスがいつの日か実現する可能性があることを知っていました。で 1965紙、彼が書きました：

「超知性マシンを、どんなに賢い人間の知的活動のすべてをはるかに凌駕できるマシンと定義しよう。機械の設計はこれらの知的活動の XNUMX つであるため、超知能機械はさらに優れた機械を設計できます。その時、間違いなく「知性の爆発」が起こり、人間の知性ははるかに置き去りにされるだろう... したがって、最初の超知的な機械は、人間が作る必要のある最後の発明である.制御下に置くために。」

最初の人工超知能の作成

これまでの人工知能の未来シリーズでは、人工知能 (AI) の XNUMX つの広範なカテゴリを定義しました。人工知能 (ANI) に人工総合知能 (AGI) ですが、このシリーズの章では、最後のカテゴリ (AI 研究者の間で興奮またはパニック発作を引き起こすもの) である人工超知能 (ASI) に焦点を当てます。

ASI とは何かを理解するには、AI 研究者が最初の AGI を作成するとどのように考えているかを概説した前の章を思い出す必要があります。基本的には、ますます強力なコンピューティングハードウェアに格納された、より優れたアルゴリズム (自己改善と人間のような学習能力に特化したもの) を提供するビッグデータの組み合わせが必要になります。

その章では、AGI の精神 (私たち人間が当然と思っている自己改善能力と学習能力を獲得した後) が、優れた思考速度、強化された記憶力、疲れを知らないパフォーマンス、および即時アップグレード可能。

ただし、ここで重要なのは、AGI はアクセスできるハードウェアとデータの限界までしか自己改善しないということです。この制限は、与えるロボット本体やアクセスを許可するコンピューターの規模に応じて、大きくも小さくもなり得ます。

一方、AGI と ASI の違いは、後者は理論上、物理的な形で存在しないことです。スーパーコンピューターまたはスーパーコンピューターのネットワーク内で完全に動作します。作成者の目的によっては、インターネットに保存されているすべてのデータや、インターネットにデータを送信するデバイスや人間に完全にアクセスすることもできます。これは、この ASI が学習できる量と自己改善できる量に実質的な制限がないことを意味します。

そして、それがこすりです。

知能爆発を理解する

AI が AGI になるにつれて最終的に獲得するこの自己改善のプロセス (AI コミュニティが再帰的自己改善と呼ぶプロセス) は、次のような正のフィードバックループから外れることがあります。

新しい AGI が作成され、ロボット本体または大規模なデータセットへのアクセスが与えられ、その後、自分自身を教育し、知能を向上させるという単純なタスクが与えられます。最初は、この AGI の IQ は、新しい概念を理解するのに苦労している幼児の IQ になります。時間の経過とともに、平均的な大人の IQ に到達するのに十分なほど学習しますが、これで終わりではありません。この新たに発見された大人の IQ を使用すると、知られている最も賢い人間の IQ と一致する点までこの改善を続けることが、はるかに簡単かつ迅速になります。しかし、繰り返しますが、それだけではありません。

このプロセスは、知性の新しいレベルごとに複合化し、計り知れないレベルの超知性に達するまでリターンを加速する法則に従います。これまで自然界に存在したことはありません。

これは、IJ グッドがこの「知性の爆発」を説明したときに最初に特定したもの、またはニックボストロムのような現代の AI 理論家が AI の「離陸」イベントと呼んでいるものです。

人工超知能を理解する

この時点で、人間の知性と ASI の知性との主な違いは、どちらの側もどれだけ速く考えられるかだと考えている人もいるでしょう。この理論上の未来の ASI が人間よりも速く思考することは事実ですが、この能力は、今日のコンピューターセクター全体ですでにかなり一般的になっています。スーパーコンピュータはスマートフォンの何百万倍も速く思考し、将来の量子コンピューターはさらに速く思考するでしょう。

いいえ、速度はここで説明している知性の特徴ではありません。それは品質です。

サモエドやコーギーの脳を思いのままにスピードアップすることはできますが、それは言語や抽象的な概念を解釈する方法を新たに理解することにはなりません。さらにXNUMX年かXNUMX年経ったとしても、これらの犬はツールの作成方法や使用方法を突然理解することはなく、資本主義と社会主義の経済システムのより細かい違いを理解することは言うまでもありません.

知性に関して言えば、人間は動物とは異なる次元で活動しています。同様に、ASI がその理論的潜在能力を最大限に発揮した場合、彼らの心は、平均的な現代人の手の届かないレベルで機能します。いくつかのコンテキストについて、これらの ASI のアプリケーションを見てみましょう。

人工超知能は人類とどのように連携するのでしょうか?

ある政府または企業が ASI の作成に成功したと仮定すると、彼らはそれをどのように使用するでしょうか? Bostrom 氏によると、これらの ASI には、次の XNUMX つの別個の関連する形式があります。

オラクル ここでは、Google 検索エンジンと同じように ASI と対話します。私たちはそれに質問をしますが、その質問がどんなに複雑であっても、ASI はあなたとあなたの質問の文脈に合わせた方法で完璧に答えてくれます。
精霊. この場合、ASI に特定のタスクを割り当て、コマンドに従って実行します。がんの治療法を研究します。終わり。 NASA のハッブル宇宙望遠鏡からの 10 年分の画像のバックログに隠されているすべての惑星を見つけてください。終わり。人類のエネルギー需要を解決するために、稼働中の核融合炉を設計します。アブラカダブラ。
ソブリン. ここで、ASI には無制限の任務が割り当てられ、それを実行する自由が与えられます。競合他社から研究開発の秘密を盗みます。 "簡単。" 私たちの国境内に隠れているすべての外国のスパイの正体を発見してください。「それで」米国の継続的な経済的繁栄を確保する。 "問題ない。"

今、私はあなたが考えていることを知っています. だからこそ、これまでに世界の最も優秀な頭脳を困惑させたものでさえ、そこにあるすべての問題/課題はすべて解決可能であることを覚えておくことが重要です. しかし、問題の難しさは、それに取り組む知性によって測定されます。

言い換えれば、挑戦に向ける心が大きければ大きいほど、その挑戦に対する解決策を見つけるのがより簡単になります. あらゆる挑戦。それは、幼児が丸い開口部に四角いブロックをはめ込めない理由を理解するのに苦労しているのを見ている大人のようなものです。

同様に、この未来の ASI がその可能性を最大限に発揮した場合、この心は既知の宇宙で最も強力な知性になり、どんなに複雑であっても、あらゆる課題を解決できるほど強力になります。

これが、多くの AI 研究者が ASI を人間が作る必要のある最後の発明と呼んでいる理由です。人類と協力することを確信できれば、世界で最も差し迫った問題のすべてを解決するのに役立ちます。私たちが知っているように、すべての病気を排除し、老化を終わらせるように頼むことさえできます. 人類は初めて永久に死を回避し、新しい繁栄の時代に入ることができます。

しかし、その逆も可能です。

知性は力です。悪意のある人物によって誤って管理または指示された場合、この ASI は抑圧の究極のツールになるか、人類を完全に根絶する可能性があります。ターミネーターのスカイネットやマトリックス映画のアーキテクトを考えてみてください。

実際には、どちらの極端も起こりそうにありません。未来は常に、ユートピアやディストピアが予測するよりもはるかに厄介です。そのため、ASI の概念を理解したところで、このシリーズの残りの部分では、ASI が社会に与える影響、不正な ASI から社会を守る方法、人間と AI が共存した場合の未来について説明します。 -側。読む。