Quantumrun

KREDIT GAMBAR: Quantumrun

Adakah manusia akan hidup aman di masa depan yang dikuasai oleh kecerdasan buatan? - Masa depan kecerdasan buatan P6

David Tal, Penerbit, Futurist
@Davidtalwrites
LinkedIn

Sel, 09/15/2020 - 13:10

Apabila bercakap mengenai kemanusiaan, katakan sahaja kita tidak mempunyai rekod prestasi terbaik dalam hal bersekedudukan dengan 'yang lain.' Sama ada pembunuhan beramai-ramai Yahudi di Jerman atau Tutsi di Rwanda, perhambaan orang Afrika oleh negara-negara Barat atau hamba inden Asia Tenggara kini bekerja di negara-negara Teluk Timur Tengah, atau pun penganiayaan semasa yang dialami oleh warga Mexico di AS atau pelarian Syria di negara-negara EU terpilih. Secara keseluruhannya, ketakutan naluri kita terhadap mereka yang kita anggap berbeza daripada kita boleh menyebabkan kita mengambil tindakan yang sama ada mengawal atau (dalam kes yang melampau) memusnahkan mereka yang kita takuti.

Bolehkah kita mengharapkan sesuatu yang berbeza apabila kecerdasan buatan menjadi benar-benar seperti manusia?

Adakah kita akan hidup pada masa depan di mana kita wujud bersama makhluk AI-robot bebas, seperti yang dilihat dalam saga Star Wars, atau sebaliknya kita akan menganiaya dan memperhambakan makhluk AI seperti yang digambarkan dalam francais Bladerunner? (Jika anda belum melihat salah satu daripada budaya pop ini, apa yang anda tunggu lagi?)

Inilah soalan-soalan penutup bab ini Masa Depan Kecerdasan Buatan siri berharap untuk menjawab. Ini penting kerana jika ramalan yang dibuat oleh penyelidik AI terkemuka adalah betul, maka menjelang pertengahan abad, kita manusia akan berkongsi dunia kita dengan banyak makhluk AI yang pelbagai—jadi lebih baik kita memikirkan cara untuk hidup bersama mereka secara aman.

Bolehkah manusia bersaing dengan kecerdasan buatan?

Percaya atau tidak, kita boleh.

Purata manusia (pada 2018) sudah pun lebih tinggi daripada AI yang paling maju sekalipun. Seperti yang digariskan dalam kami bab pembukaan, kecerdasan sempit buatan (ANI) hari ini adalah jauh lebih baik daripada manusia di khusus tugas mereka direka untuknya, tetapi putus asa apabila diminta untuk mengambil tugas di luar reka bentuk itu. Manusia, sebaliknya, bersama-sama dengan kebanyakan haiwan lain di planet ini, cemerlang dalam kebolehsuaian kita untuk mengejar matlamat merentasi pelbagai persekitaran—a definisi perisikan yang dianjurkan oleh saintis komputer Marcus Hutter dan Shane Legg.

Sifat kebolehsuaian sejagat ini tidak kelihatan seperti masalah besar, tetapi ia menuntut keupayaan untuk menilai halangan kepada matlamat, merancang percubaan untuk mengatasi halangan itu, mengambil tindakan untuk melaksanakan eksperimen, belajar daripada keputusan, kemudian meneruskan untuk mengejar matlamat. Semua kehidupan di planet ini secara naluri melaksanakan gelung kebolehsuaian ini beribu-ribu hingga berjuta-juta kali setiap hari, dan sehingga AI boleh belajar melakukan perkara yang sama, mereka akan kekal sebagai alat kerja yang tidak bermaya.

Tetapi saya tahu apa yang anda fikirkan: Keseluruhan siri ramalan kecerdasan buatan masa depan ini yang diberi masa yang mencukupi, entiti AI akhirnya akan menjadi sama pintar seperti manusia, dan tidak lama selepas itu, jauh lebih pintar daripada manusia.

Bab ini tidak akan mempertikaikan kemungkinan itu.

Tetapi perangkap banyak pengulas adalah berfikir bahawa kerana evolusi mengambil masa berjuta-juta tahun untuk menghasilkan otak biologi, ia akan menjadi sia-sia apabila AI mencapai tahap di mana mereka boleh meningkatkan perkakasan dan perisian mereka sendiri dalam kitaran sesingkat tahun, bulan. , mungkin juga berhari-hari.

Syukurlah, evolusi mempunyai beberapa perjuangan yang tinggal di dalamnya, sebahagiannya berkat kemajuan terkini dalam kejuruteraan genetik.

Pertama kali diliputi dalam siri kami di masa depan evolusi manusia, ahli genetik telah mengenal pasti 69 gen berasingan yang memberi kesan kecerdasan, tetapi bersama-sama mereka hanya menjejaskan IQ kurang daripada lapan peratus. Ini bermakna mungkin terdapat ratusan, atau beribu-ribu, gen yang memberi kesan kepada kecerdasan, dan kita perlu bukan sahaja menemui kesemuanya, tetapi juga belajar cara meramalkan kesemuanya bersama-sama sebelum kita boleh mempertimbangkan untuk mengganggu janin. DNA.

Tetapi menjelang pertengahan 2040-an, bidang genomik akan matang ke tahap di mana genom janin boleh dipetakan dengan teliti, dan pengeditan pada DNAnya boleh disimulasikan komputer untuk meramalkan dengan tepat bagaimana perubahan pada genomnya akan memberi kesan kepada fizikal, emosi masa depannya. , dan yang paling penting untuk perbincangan ini, sifat kecerdasannya.

Dalam erti kata lain, menjelang pertengahan abad, apabila kebanyakan penyelidik AI percaya AI akan mencapai dan mungkin mengatasi kecerdasan peringkat manusia, kita akan memperoleh keupayaan untuk mengubah suai secara genetik keseluruhan generasi bayi manusia untuk menjadi lebih pintar daripada generasi sebelumnya. mereka.

Kami sedang menuju ke arah masa depan di mana manusia super pintar akan hidup bersama AI superintelligent.

Kesan dunia yang dipenuhi manusia super pintar

Jadi, betapa bijaknya kita bercakap di sini? Untuk konteks, IQ Albert Einstein dan Stephen Hawking mendapat markah sekitar 160. Sebaik sahaja kita membuka kunci rahsia di sebalik penanda genomik yang mengawal kecerdasan, kita berpotensi melihat manusia dilahirkan dengan IQ melebihi 1,000.

Ini penting kerana minda seperti Einstein dan Hawking telah membantu mencetuskan penemuan saintifik yang kini membariskan asas dunia moden kita. Sebagai contoh, hanya sebahagian kecil penduduk dunia memahami apa-apa tentang fizik, tetapi peratusan besar KDNK dunia bergantung pada penemuannya—teknologi seperti telefon pintar, sistem telekomunikasi moden (Internet) dan GPS tidak boleh wujud tanpa mekanik kuantum .

Memandangkan impak ini, apakah jenis kemajuan yang boleh dialami oleh manusia jika kita melahirkan seluruh generasi genius? Beratus-ratus juta Einstein?

Jawapannya mustahil untuk diteka kerana dunia tidak pernah melihat kepekatan super genius sebegitu.

Apakah orang-orang ini akan menjadi seperti?

Untuk rasa, pertimbangkan sahaja kes manusia yang paling bijak direkodkan, William James Sidis (1898-1944), yang mempunyai IQ kira-kira 250. Dia boleh membaca pada usia dua tahun. Dia bercakap lapan bahasa pada usia enam tahun. Dia diterima masuk ke Universiti Harvard pada usia 11 tahun. Dan Sidis hanya seperempat sepandaian ahli biologi berteori manusia suatu hari nanti boleh menjadi dengan penyuntingan genetik.

(Nota sampingan: kita hanya bercakap tentang kecerdasan di sini, kita tidak menyentuh pun tentang penyuntingan genetik yang boleh menjadikan kita manusia luar biasa. Baca lebih lanjut di sini.)

Sebenarnya, sangat mungkin manusia dan AI boleh berkembang bersama dengan mencipta sejenis gelung maklum balas positif, di mana AI maju membantu ahli genetik menguasai genom manusia untuk mencipta manusia yang semakin pintar, manusia yang kemudiannya akan berusaha untuk mencipta AI yang semakin pintar, dan sebagainya. pada. Jadi, ya, seperti yang diramalkan oleh penyelidik AI, Bumi boleh mengalami letupan kecerdasan pada pertengahan abad, tetapi berdasarkan perbincangan kami setakat ini, manusia (bukan hanya AI) akan mendapat manfaat daripada revolusi itu.

Cyborg di kalangan kita

Kritikan yang adil terhadap hujah tentang manusia super pintar ini ialah walaupun kita menguasai penyuntingan genetik menjelang pertengahan abad, ia akan mengambil masa 20 hingga 30 tahun lagi sebelum generasi baru manusia ini matang ke tahap di mana mereka boleh menyumbang kemajuan yang ketara kepada kita. masyarakat dan bahkan keluar padang permainan intelektual bersama AI. Tidakkah lag ini memberi AI permulaan yang ketara terhadap manusia jika mereka memutuskan untuk menjadi 'jahat'?

Inilah sebabnya, sebagai jambatan antara manusia hari ini dan manusia super esok, bermula pada tahun 2030-an, kita akan melihat permulaan kelas manusia baharu: cyborg, kacukan manusia dan mesin.

(Untuk bersikap adil, bergantung pada cara anda mentakrifkan cyborg, ia secara teknikal sudah wujud—khususnya, orang yang mempunyai anggota palsu akibat daripada luka perang, kemalangan atau kecacatan genetik semasa lahir. Tetapi untuk kekal fokus pada konteks bab ini, kami akan memberi tumpuan kepada prostetik yang bertujuan untuk menambah minda dan kecerdasan kita.)

Pertama kali dibincangkan dalam kami Masa Depan Komputer siri, penyelidik sedang membangunkan bidang bioelektronik yang dipanggil Brain-Computer Interface (BCI). Ia melibatkan penggunaan peranti pengimbasan otak atau implan untuk memantau gelombang otak anda, menukarnya kepada kod, dan kemudian mengaitkannya dengan arahan untuk mengawal apa sahaja yang dijalankan oleh komputer.

Kami masih di peringkat awal, tetapi melalui penggunaan BCI, orang amputasi kini menguji anggota robot dikawal secara langsung oleh fikiran mereka, bukannya melalui sensor yang dipasang pada tunggul mereka. Begitu juga, orang kurang upaya yang teruk (seperti orang yang mengalami quadriplegia) kini menggunakan BCI untuk mengemudi kerusi roda bermotor mereka dan memanipulasi senjata robot. Tetapi membantu orang yang diamputasi dan orang kurang upaya menjalani kehidupan yang lebih berdikari bukanlah setakat yang BCI akan mampu lakukan.

Apa yang pada tahun 2030-an akan kelihatan seperti topi keledar atau pita rambut akhirnya akan memberi laluan kepada implan otak (akhir 2040-an) yang akan menghubungkan fikiran kita ke awan digital (Internet). Akhirnya, prostesis otak ini akan bertindak sebagai hemisfera ketiga untuk minda kita—jadi sementara hemisfera kiri dan kanan kita menguruskan daya kreativiti dan logik kita, hemisfera digital baharu yang diberi awan ini akan memudahkan akses segera kepada maklumat dan meningkatkan kognitif. atribut di mana manusia sering kekurangan rakan sejawat AI mereka, iaitu kelajuan, pengulangan dan ketepatan.

Dan walaupun implan otak ini tidak semestinya meningkatkan kecerdasan kita, ia akan menjadikan kita jauh lebih berkebolehan dan berdikari, sama seperti telefon pintar kita hari ini.

Masa depan yang penuh dengan kecerdasan pelbagai

Semua perbincangan tentang AI, cyborg dan manusia super pintar ini membuka satu lagi perkara untuk dipertimbangkan: Masa depan akan menyaksikan kepelbagaian kecerdasan yang lebih kaya daripada yang pernah kita lihat dalam sejarah manusia atau bahkan Bumi.

Fikirkanlah, sebelum akhir abad ini, kita bercakap tentang dunia masa depan yang dipenuhi dengan:

Kecerdasan serangga
Kecerdasan haiwan
Kecerdasan manusia
Kecerdasan manusia yang dipertingkatkan secara sibernetik
Kecerdasan am buatan (AGI)
Kepintaran buatan (ASI)
Kecerdasan super manusia
Kecerdasan super manusia yang dipertingkatkan secara sibernetik
Minda hibrid manusia-AI maya
Beberapa lagi di antara kategori yang kami galakkan pembaca untuk sumbang saran dan kongsi di bahagian komen.

Dalam erti kata lain, dunia kita sudah pun menjadi rumah kepada pelbagai spesies, masing-masing mempunyai jenis kecerdasan mereka sendiri, tetapi masa depan akan menyaksikan kepelbagaian kecerdasan yang lebih besar, kali ini mengembangkan tahap kognitif yang lebih tinggi. Oleh itu, sebagaimana generasi hari ini sedang belajar untuk berkongsi dunia kita dengan serangga dan haiwan yang menyumbang kepada ekosistem kita, generasi akan datang perlu belajar cara berkomunikasi dan bekerjasama dengan pelbagai kepelbagaian kecerdasan yang hampir tidak dapat kita bayangkan hari ini.

Sudah tentu, sejarah memberitahu kita bahawa 'berkongsi' tidak pernah menjadi saman yang kuat untuk manusia. Beratus-ratus hingga beribu-ribu spesies telah pupus akibat pengembangan manusia, cuma beratus-ratus tamadun yang kurang maju telah lenyap di bawah penaklukan empayar yang berkembang.

Tragedi ini disebabkan oleh keperluan manusia untuk sumber (makanan, air, bahan mentah, dll.) dan sebahagiannya, ketakutan dan ketidakpercayaan yang dipegang antara tamadun atau bangsa asing. Dalam erti kata lain, tragedi masa lampau dan masa kini adalah disebabkan oleh sebab-sebab yang setua tamadun itu sendiri, dan ia hanya akan bertambah buruk dengan pengenalan semua kelas kecerdasan baru ini.

Kesan budaya dunia yang penuh dengan kecerdasan pelbagai

Keheranan dan ketakutan ialah dua emosi yang paling baik meringkaskan emosi bercanggah yang akan dialami orang apabila semua jenis kecerdasan baharu ini memasuki dunia.

'Terkejut' dengan kepintaran manusia yang digunakan untuk mencipta semua kecerdasan manusia dan AI baharu ini, dan kemungkinan yang mungkin mereka cipta. Dan kemudian 'khuatir' daripada kekurangan pemahaman dan kebiasaan generasi manusia sekarang dengan generasi akan datang makhluk 'dipertingkatkan' ini.

Jadi seperti dunia haiwan sepenuhnya di luar pemahaman serangga biasa, dan dunia manusia sepenuhnya di luar pemahaman haiwan biasa, dunia AI dan juga manusia super pintar akan jauh di luar skop apa yang ada pada hari ini. manusia biasa akan dapat memahami.

Dan walaupun generasi akan datang akan dapat berkomunikasi dengan kecerdasan baru yang lebih tinggi ini, ia tidak seperti kita akan mempunyai banyak persamaan. Dalam bab yang memperkenalkan AGI dan ASI, kami menjelaskan mengapa cuba memikirkan kecerdasan AI seperti kecerdasan manusia adalah satu kesilapan.

Secara ringkasnya, emosi naluri yang mendorong pemikiran manusia adalah warisan biologi evolusi dari generasi manusia yang bernilai beberapa milenium yang secara aktif mencari sumber, pasangan mengawan, ikatan sosial, kelangsungan hidup, dll. AI Masa Depan tidak akan mempunyai apa-apa bagasi evolusi itu. Sebaliknya, kecerdasan digital ini akan mempunyai matlamat, cara pemikiran, sistem nilai yang sepenuhnya unik untuk diri mereka sendiri.

Begitu juga, sebagaimana manusia moden telah belajar untuk menindas aspek keinginan semula jadi manusia berkat intelek kita (contohnya kita mengehadkan pasangan seksual kita apabila dalam hubungan yang komited; kita mempertaruhkan nyawa kita untuk orang yang tidak dikenali kerana konsep khayalan kehormatan dan kebaikan, dsb.) , manusia super masa depan boleh mengatasi naluri primal ini sepenuhnya. Jika ini boleh, maka kita benar-benar berhadapan dengan makhluk asing, bukan hanya manusia kelas baru.

Adakah akan ada keamanan antara perlumbaan super masa depan dan kita yang lain?

Keamanan datang dari kepercayaan dan kepercayaan datang dari kebiasaan dan tujuan bersama. Kita boleh menghilangkan kebiasaan kerana kita telah membincangkan bagaimana manusia yang tidak dipertingkatkan mempunyai sedikit persamaan, secara kognitif, dengan intelek super ini.

Dalam satu senario, ledakan kecerdasan ini akan mewakili kebangkitan bentuk ketidaksamaan yang sama sekali baru, yang mewujudkan kelas sosial berasaskan kecerdasan yang hampir mustahil untuk mereka daripada kelas bawahan untuk bangkit. Dan sama seperti jurang ekonomi yang semakin melebar antara orang kaya dan miskin menyebabkan kekacauan hari ini, jurang antara kelas/populasi kecerdasan yang berbeza boleh menjana ketakutan dan kebencian yang cukup yang kemudiannya boleh menjelma menjadi pelbagai bentuk penganiayaan atau peperangan habis-habisan. Bagi rakan pembaca buku komik di luar sana, ini mungkin mengingatkan anda tentang latar belakang penganiayaan klasik dari francais X-men Marvel.

Senario alternatif adalah bahawa intelek super masa depan ini hanya akan memikirkan cara untuk memanipulasi emosi orang ramai yang lebih mudah untuk menerima mereka ke dalam masyarakat mereka-atau sekurang-kurangnya ke tahap yang mengelakkan semua keganasan.

Jadi, senario mana yang akan menang?

Kemungkinan besar, kita akan melihat sesuatu berlaku di tengah-tengah. Pada permulaan revolusi perisikan ini, kita akan melihat perkara biasa 'teknopanik,' pakar undang-undang dan dasar teknologi, Adam Thierer, menggambarkan sebagai mengikut corak sosial biasa:

Perbezaan generasi yang membawa kepada ketakutan terhadap perkara baharu, terutamanya yang mengganggu adat istiadat sosial atau menghapuskan pekerjaan (baca tentang kesan AI dalam Masa Depan Kerja siri);
"Hypernostalgia" untuk zaman dahulu yang baik yang, pada hakikatnya, tidak pernah begitu baik;
Insentif untuk pemberita dan pakar untuk menimbulkan ketakutan tentang teknologi dan arah aliran baharu sebagai pertukaran untuk klik, paparan dan jualan iklan;
Kepentingan khusus yang saling bersiku untuk mendapatkan wang atau tindakan kerajaan bergantung pada cara kumpulan mereka dipengaruhi oleh teknologi baharu ini;
Sikap elitis daripada pengkritik akademik dan budaya yang takut dengan teknologi baharu yang diterima pakai oleh orang ramai;
Orang ramai mengunjurkan perdebatan moral dan budaya semalam dan hari ini kepada teknologi baharu hari esok.

Tetapi seperti mana-mana kemajuan baru, orang akan terbiasa dengannya. Lebih penting, walaupun dua spesies mungkin tidak berfikiran sama, keamanan boleh didapati melalui kepentingan atau matlamat yang dikongsi bersama.

Sebagai contoh, AI baharu ini boleh mencipta teknologi dan sistem baharu untuk meningkatkan kehidupan kita. Dan sebagai balasan, pembiayaan dan sokongan kerajaan akan terus memajukan kepentingan AI secara keseluruhan, terutamanya terima kasih kepada persaingan aktif antara program AI China dan AS.

Begitu juga, apabila ia datang untuk mencipta manusia super, puak agama di banyak negara akan menentang trend untuk mengganggu bayi mereka secara genetik. Walau bagaimanapun, kepraktisan dan kepentingan negara secara beransur-ansur akan memecahkan halangan ini. Bagi yang pertama, ibu bapa akan tergoda untuk menggunakan teknologi penyuntingan genetik untuk memastikan anak-anak mereka dilahirkan penyakit dan bebas kecacatan, tetapi matlamat awal itu adalah cerun yang licin ke arah peningkatan genetik yang lebih invasif. Begitu juga, jika China mula meningkatkan secara genetik keseluruhan generasi penduduk mereka, AS akan mempunyai keharusan strategik untuk mengikutinya atau berisiko ketinggalan secara kekal dua dekad kemudian-dan begitu juga dengan seluruh dunia.

Sehebat mana keseluruhan bab ini dibaca, kita perlu ingat bahawa ini semua akan menjadi proses yang beransur-ansur. Ia akan menjadikan dunia kita sangat berbeza dan sangat pelik. Tetapi kita akan terbiasa dengannya, dan ia akan menjadi masa depan kita.