Apa manungsa bakal urip kanthi tentrem ing mangsa ngarep sing didominasi intelijen buatan? - Masa depan intelijen buatan P6

Nalika nerangake djalmo manungso, ayo padha ngomong kita ora duwe track record paling gedhe nalika nerangake cohabitating karo 'sing liyane.' Dadi pembantaian wong-wong Yahudi ing Jerman utawa wong Tutsi ing Rwanda, perbudakan wong Afrika dening negara-negara Barat utawa budak-budak Asia Tenggara. saiki kerja ing negara-negara Teluk Timur Tengah, utawa malah buron saiki sing dialami dening wong-wong Meksiko ing AS utawa pengungsi Siria ing negara-negara Uni Eropa sing dipilih. Umumé, rasa wedi naluri kita marang wong sing kita anggep béda karo kita bisa nuntun kita tumindak sing bisa ngontrol utawa (ing kasus sing ekstrem) ngrusak wong sing kita wedi.

Apa kita bisa nyana apa-apa sing beda nalika intelijen buatan dadi kaya manungsa?

Apa kita bakal manggon ing mangsa sing bakal urip bebarengan karo makhluk AI-robot independen, kaya sing katon ing saga Star Wars, utawa bakal nganiaya lan nguwasani makhluk AI kaya sing digambarake ing franchise Bladerunner? (Yen sampeyan durung weruh salah siji saka pokok budaya pop iki, apa sing nunggu?)

Iki minangka pitakonan penutup bab iki Masa Depan Intelijen Ponggawa seri ngarep-arep kanggo njawab. Penting amarga yen ramalan sing digawe dening peneliti AI sing unggul bener, mula ing pertengahan abad, kita manungsa bakal nuduhake jagad kita kanthi maneka warna makhluk AI-dadi kita luwih ngerti cara kanggo urip bebarengan kanthi tentrem.

Apa manungsa bisa bersaing karo intelijen buatan?

Pracaya utawa ora, kita bisa.

Rata-rata manungsa (ing 2018) wis luwih unggul tinimbang AI sing paling maju. Minangka mbatesi ing kita bab pambuka, Kecerdasan sempit buatan (ANI) saiki luwih apik tinimbang manungsa spesifik tugas padha dirancang kanggo, nanging ora duwe pengarep-arep nalika takon kanggo njupuk ing tugas njaba desain sing. Manungsa, ing tangan liyane, bebarengan karo kewan liyane ing planet, unggul ing kemampuan adaptasi kanggo nggayuh tujuan ing macem-macem lingkungan-a definisi saka intelijen sing didhukung dening ilmuwan komputer Marcus Hutter lan Shane Legg.

Sifat adaptasi universal iki ora katon kaya masalah gedhe, nanging mbutuhake kemampuan kanggo netepake alangan kanggo tujuan, ngrancang eksperimen kanggo ngatasi alangan kasebut, njupuk tindakan kanggo nglakokake eksperimen, sinau saka asil, banjur nerusake. kanggo nggayuh gol. Kabeh urip ing planet iki kanthi naluri nindakake daur ulang adaptasi iki nganti pirang-pirang yuta kaping saben dina, lan nganti AI bisa sinau nindakake perkara sing padha, dheweke bakal tetep dadi alat kerja sing ora ana nyawa.

Nanging aku ngerti apa sing sampeyan pikirake: Seri iki babagan masa depan ramalan intelijen buatan sing diwenehi wektu sing cukup, entitas AI pungkasane bakal dadi pinter kaya manungsa, lan ora suwe, luwih pinter tinimbang manungsa.

Bab iki ora bakal mbantah kemungkinan kasebut.

Nanging jebakan akeh komentator mikir amarga evolusi butuh jutaan taun kanggo ngasilake otak biologis, mula bakal ora bisa ditandingi nalika AI tekan titik sing bisa nambah hardware lan piranti lunak dhewe ing siklus sing cendhak taun, wulan. , bisa uga dina.

Untunge, evolusi isih ana perang, sebagian amarga kemajuan anyar ing teknik genetika.

Pisanan dijamin ing seri kita ing masa depan evolusi manungsa, ahli genetika wis ngenali 69 gen kapisah sing impact Intelligence, nanging bebarengan padha mung mengaruhi IQ dening kurang saka wolung persen. Iki tegese bisa uga ana atusan, utawa ewonan, gen sing mengaruhi intelijen, lan kita ora mung kudu nemokake kabeh, nanging uga sinau carane bisa diprediksi ngapusi kabeh mau bebarengan sadurunge kita bisa nimbang ngrusak janin. DNA. 

Nanging ing pertengahan 2040-an, bidang genomik bakal diwasa nganti genom janin bisa dipetakan kanthi lengkap, lan suntingan DNA bisa disimulasi komputer kanggo prédhiksi kanthi akurat kepiye owah-owahan genom bakal mengaruhi fisik, emosional ing mangsa ngarep. , lan sing paling penting kanggo diskusi iki, atribut intelijen.

Ing tembung liya, ing pertengahan abad, nalika umume peneliti AI yakin AI bakal tekan lan bisa uga ngluwihi intelijen tingkat manungsa, kita bakal entuk kemampuan kanggo ngowahi kabeh generasi bayi manungsa kanthi genetis dadi luwih pinter tinimbang generasi sadurunge. wong-wong mau.

Kita nuju menyang masa depan ing ngendi manungsa super cerdas bakal urip bebarengan karo AI superintelligent.

Dampak saka jagad sing kebak manungsa super cerdas

Dadi, carane pinter kita ngomong ing kene? Kanggo konteks, IQ Albert Einstein lan Stephen Hawking ngetung udakara 160. Sawise mbukak kunci rahasia ing mburi tandha genomik sing ngontrol intelijen, kita bisa ndeleng manungsa sing lair kanthi IQ ngluwihi 1,000.

Iki penting amarga pikiran kaya Einstein lan Hawking mbantu nyepetake terobosan ilmiah sing saiki dadi dhasar ing jagad modern kita. Contone, mung sekedhik cilik saka populasi donya sing ngerti babagan fisika, nanging persen sing signifikan saka PDB donya gumantung marang temuan-teknologi kaya smartphone, sistem telekomunikasi modern (Internet), lan GPS ora bisa ana tanpa mekanika kuantum. .

Amarga pengaruh kasebut, kemajuan apa sing bisa dialami manungsa yen kita nglairake kabeh generasi jenius? Atusan yuta Einstein?

Jawaban kasebut ora bisa ditebak amarga jagad iki durung nate ndeleng konsentrasi para jenius super.

Wong-wong iki bakal kaya apa?

Kanggo rasa, nimbang kasus manungsa sing paling pinter sing direkam, William James Sidis (1898-1944), sing duwe IQ udakara 250. Dheweke bisa maca nalika umur rong taun. Dheweke ngomong wolung basa nalika umur enem. Dheweke diakoni ing Universitas Harvard nalika umur 11. Lan Sidis mung seprapat pinter kaya ahli biologi apa sing bisa ditindakake dening ahli biologi ing sawijining dina kanthi nyunting genetika.

(Cathetan sisih: kita mung ngomong babagan intelijen ing kene, kita malah ora ndemek panyuntingan genetik sing bisa nggawe awak manungsa super. Maca liyane kene.)

Nyatane, bisa uga manungsa lan AI bisa berkembang bebarengan kanthi nggawe jinis umpan balik positif, ing ngendi AI sing canggih mbantu para ahli genetika nguwasani génom manungsa kanggo nggawe manungsa sing luwih pinter, manungsa sing banjur bakal bisa nggawe AI sing luwih pinter, lan liya-liyane. ing. Dadi, ya, kaya sing diramalake dening peneliti AI, Bumi bisa uga ngalami bledosan intelijen ing pertengahan abad, nanging adhedhasar diskusi kita nganti saiki, manungsa (ora mung AI) bakal entuk manfaat saka revolusi kasebut.

Cyborgs antarane kita

Kritik sing adil kanggo argumentasi babagan manungsa super cerdas iki yaiku sanajan kita nguwasani panyuntingan genetik ing pertengahan abad, butuh 20 nganti 30 taun maneh sadurunge generasi anyar manungsa iki diwasa menyang titik sing bisa nyumbang kemajuan sing signifikan kanggo kita. masyarakat lan malah metu lapangan playing intelektual bebarengan AI. Apa lag iki ora bakal menehi AI wiwitan sing signifikan marang manungsa yen mutusake kanggo ngowahi 'ala'?

Mulane, minangka jembatan antarane manungsa saiki lan manungsa super sesuk, wiwit taun 2030-an, kita bakal weruh wiwitan kelas manungsa anyar: cyborg, hibrida manungsa lan mesin.

(Kanggo adil, gumantung carane sampeyan nemtokake cyborg, padha teknis wis ana-khusus, wong sing duwe anggota prostetik minangka akibat saka tatu perang, kacilakan, utawa cacat genetis nalika lair. Nanging supaya tetep fokus ing konteks bab iki, kita bakal fokus ing prosthetics kanggo nambah pikiran lan intelijen kita.)

Pisanan rembugan ing kita Masa Depan Komputer seri, peneliti saiki ngembangaken lapangan bioelectronics disebut Brain-Computer Interface (BCI). Iku kalebu nggunakake piranti mindhai otak utawa implan kanggo ngawasi gelombang otak, ngowahi dadi kode, banjur nggandhengake karo printah kanggo ngontrol apa wae sing ditindakake dening komputer.

Kita isih ing dina wiwitan, nanging liwat nggunakake BCI, amputasi saiki nguji anggota awak robot kontrol langsung dening pikirane, tinimbang liwat sensor ditempelake stump sing. Kajaba iku, wong sing ora duwe kabisan abot (kayata wong sing duwe quadriplegia) saiki nggunakake BCI kanggo setir kursi rodha motorized sing lan manipulasi lengen robot. Nanging ngewangi wong sing diamputasi lan wong sing ora duwe kabisan supaya bisa urip mandiri ora kaya sing bisa ditindakake BCI.

Apa ing 2030s bakal katon kaya helm utawa hairband pungkasanipun bakal menehi cara kanggo implan otak (pungkasan-2040s) sing bakal nyambungake pikiran kita menyang maya digital (Internet). Pungkasane, prosthesis otak iki bakal tumindak minangka belahan bumi katelu kanggo pikiran kita-dadi nalika hemisfer kiwa lan tengen kita ngatur kreativitas lan fakultas logika kita, belahan bumi digital sing anyar, awan-panganan iki bakal nggampangake akses cepet menyang informasi lan ningkatake kognitif. atribut ing ngendi manungsa asring kurang saka mitra AI, yaiku kacepetan, pengulangan, lan akurasi.

Lan nalika implan otak iki ora kudu nambah intelijen kita, nanging bakal nggawe kita luwih bisa lan mandiri, kaya sing ditindakake smartphone saiki.

Masa depan sing diisi karo macem-macem intelijen

Kabeh iki Dhiskusi AIs, cyborgs lan manungsa super cerdas mbukak titik liyane kanggo nimbang: Masa depan bakal weruh bhinéka akeh sugih saka Intelligence saka kita wis tau weruh ing sajarah manungsa utawa malah bumi.

Coba pikirake, sadurunge pungkasan abad iki, kita ngomong babagan jagad mbesuk sing diisi:

• Kecerdasan serangga
• Kepinteran kewan
• Kepinteran manungsa
• Kecerdasan manungsa sing ditingkatake kanthi cybernetically
• Kecerdasan umum buatan (AGI)
• Superintelligences Ponggawa (ASI)
• Kepinteran super manungsa
• Kecerdasan super manungsa kanthi cybernetically
• Pikiran hibrida manungsa-AI virtual
• Sawetara kategori ing antarane liyane sing disaranake para pamaca kanggo brainstorming lan nuduhake ing bagean komentar.

Ing tembung liya, jagad kita wis dadi papan kanggo macem-macem spesies, saben duwe jinis intelijen sing unik, nanging ing mangsa ngarep bakal ana macem-macem intelijen sing luwih gedhe, wektu iki ngembangake tangga kognitif sing luwih dhuwur. Dadi kaya generasi saiki sing sinau kanggo nuduhake jagad kita karo serangga lan kewan sing nyumbang kanggo ekosistem kita, generasi sabanjure kudu sinau babagan komunikasi lan kolaborasi karo macem-macem intelijen sing meh ora bisa kita bayangake saiki.

Mesthine, sejarah ngandhani yen 'berbagi' ora nate dadi pilihan sing kuat kanggo manungsa. Atusan nganti ewu spesies wis punah amarga ekspansi manungsa, mung atusan peradaban sing kurang maju wis ilang amarga ditaklukake kekaisaran sing berkembang.

Tragedi kasebut amarga kabutuhan manungsa kanggo sumber daya (pangan, banyu, bahan mentah, lan liya-liyane) lan sebagian, amarga rasa wedi lan ora percaya ing antarane peradaban utawa bangsa asing. Ing tembung liya, tragedi ing jaman biyen lan saiki amarga alasan sing sepuh kaya peradaban dhewe, lan mung bakal dadi luwih elek kanthi introduksi kabeh kelas intelijen anyar iki.

Dampak budaya saka jagad sing kebak karo macem-macem intelijen

Kaget lan dread minangka rong emosi sing paling apik kanggo ngringkes emosi sing konflik sing bakal dialami wong nalika kabeh jinis intelijen anyar iki mlebu ing jagad iki.

'Wonder' ing kapinteran manungsa digunakake kanggo nggawe kabeh anyar iki manungsa lan AI Intelligence, lan kemungkinan padha bisa nggawe. Lan banjur 'wedi' saka lack pangerten lan familiarity generasi saiki manungsa bakal duwe karo generasi mbesuk makhluk 'meningkat' iki.

Dadi kaya jagad kewan sing ora bisa dimangerteni serangga rata-rata, lan jagad manungsa pancen ngluwihi pangerten kewan rata-rata, jagad AI lan malah manungsa sing super cerdas bakal ngluwihi ruang lingkup apa sing saiki. manungsa rata-rata bakal bisa ngerti.

Lan sanajan generasi mbesuk bakal bisa komunikasi karo intelijen anyar sing luwih dhuwur iki, ora kaya kita bakal duwe akeh sing padha. Ing bab sing ngenalake AGI lan ASI, kita nerangake kenapa nyoba mikir babagan kecerdasan AI kaya kecerdasan manungsa bakal dadi kesalahan.

Sedhela, emosi insting sing mimpin pikiran manungsa minangka warisan biologi evolusi saka sawetara millennia generasi manungsa sing aktif golek sumber daya, partner kawin, ikatan sosial, kaslametané, etc. Future AI ora bakal duwe apa-apa saka bagasi evolusi. Nanging, intelijen digital iki bakal duwe tujuan, cara mikir, sistem nilai sing unik kanggo awake dhewe.

Mangkono uga, kaya manungsa modern wis sinau kanggo nyuda aspèk-aspèk saka kepinginan alamiah manungsa thanks kanggo intellects kita (contone, kita matesi partner seksual kita nalika setya sesambetan; kita resiko urip kita kanggo wong liyo amarga konsep khayalan saka pakurmatan lan kabecikan, etc.) , manungsa super ing mangsa ngarep bisa ngatasi naluri primal iki. Yen iki bisa, kita pancene dealing karo alien, ora mung kelas anyar manungsa.

Apa bakal tentrem ing antarane balapan super mbesuk lan kita liyane?

Katentreman asale saka kapercayan lan kapercayan asale saka akrab lan tujuan sing dienggo bareng. Kita bisa njupuk menowo saka meja amarga kita wis rembugan carane non-meningkat manungsa karo duwe sethitik ing umum, cognitively, karo super intellects iki.

Ing siji skenario, bledosan intelijen iki bakal makili munculé bentuk ketimpangan sing anyar, sing nggawe kelas sosial berbasis intelijen sing meh ora mungkin kanggo wong saka kelas ngisor. Lan kaya jurang ekonomi sing saya tambah akeh antarane wong sugih lan wong miskin sing nyebabake kerusuhan saiki, jurang antarane kelas / populasi intelijen sing beda-beda bisa nyebabake rasa wedi lan rasa nesu sing bisa dadi macem-macem bentuk buron utawa perang kabeh. Kanggo kanca-kanca sing maca buku komik ing kana, iki bisa uga ngelingake sampeyan babagan latar mburi buron klasik saka franchise X-men Marvel.

Skenario alternatif yaiku para intelektual super ing mangsa ngarep iki mung bakal nemtokake cara kanggo ngapusi massa sing luwih gampang supaya bisa nampa wong-wong mau menyang masyarakat-utawa paling ora menyang titik sing ngindhari kabeh kekerasan. 

Dadi, skenario sing bakal menang? 

Ing kabeh kemungkinan, kita bakal weruh soko muter metu ing tengah. Ing wiwitan revolusi intelijen iki, kita bakal weruh sing biasa "teknopanik kab,' sing ahli hukum lan kebijakan teknologi, Adam Thierer, nggambarake pola sosial sing biasa:

• Beda generasi sing nyebabake rasa wedi marang sing anyar, utamane sing ngganggu adat istiadat sosial utawa ngilangi proyek (waca babagan pengaruh AI ing kita Masa Depan seri);
• "Hypernostalgia" kanggo dina lawas apik sing, ing kasunyatan, padha tau kabeh sing apik;
• Insentif kanggo wartawan lan pakar kanggo wedi-monger babagan teknologi lan tren anyar minangka ijol-ijolan kanggo klik, tampilan, lan dodolan iklan;
• Kepentingan khusus saling sikut kanggo dhuwit utawa tumindak pemerintah gumantung kepiye klompoke kena pengaruh teknologi anyar iki;
• Sikap elitis saka kritikus akademik lan budaya sing wedi karo teknologi anyar sing diadopsi masyarakat umum;
• Wong nggambarake debat moral lan budaya wingi lan dina iki menyang teknologi anyar sesuk.

Nanging kaya advance anyar, wong bakal digunakake kanggo iku. Luwih penting, nalika rong spesies ora padha mikir, perdamaian bisa ditemokake liwat kapentingan utawa tujuan sing padha.

Contone, AI anyar iki bisa nggawe teknologi lan sistem anyar kanggo nambah urip kita. Lan minangka imbalan, pendanaan lan dhukungan pemerintah bakal terus ningkatake kapentingan AI sakabèhé, utamane amarga kompetisi aktif antarane program AI China lan AS.

Mangkono uga, nalika nggawe manungsa super, faksi agama ing pirang-pirang negara bakal nolak tren genetis ngganggu bayine. Nanging, kepraktisan lan kapentingan nasional mboko sithik bakal ngilangi alangan iki. Kanggo sing sadurunge, wong tuwa bakal digodha nggunakake teknologi panyuntingan genetik kanggo mesthekake yen anak-anake lair saka penyakit lan tanpa cacat, nanging tujuan awal kasebut minangka kemiringan sing lunyu menyang peningkatan genetik sing luwih invasif. Mangkono uga, yen China wiwit nggedhekake kabeh generasi pedunung, AS bakal duwe prentah strategis kanggo ngetutake utawa duwe risiko mundur kanthi permanen rong puluh taun sabanjure - lan uga ing saindenging jagad.

Minangka kuat minangka kabeh bab iki diwaca, kita kudu elinga yen iki kabeh bakal dadi proses bertahap. Iku bakal nggawe donya kita beda banget lan aneh banget. Nanging kita bakal biasa, lan bakal dadi masa depan kita.

Future of Artificial Intelligence seri

Artificial Intelligence minangka listrik sesuk: Future of Artificial Intelligence seri P1

Kepiye Intelijen Umum Artificial pisanan bakal ngganti masyarakat: Masa Depan Intelijen Artificial seri P2

Kepiye carane nggawe Superintelligence Ponggawa pisanan: Masa Depan Kecerdasan Buatan P3

Apa Superintelligence Artificial bakal ngilangi manungsa? Masa Depan Kecerdasan Buatan P4

Kepiye manungsa bakal mbela Superintelligence Ponggawa: Masa Depan Kecerdasan Buatan P5