Kuantumrun

KREDIT GAMBAR: Kuantumrun

Kepiye carane nggawe Superintelligence Artificial pisanan: Masa depan intelijen buatan P3

David Tal, Penerbit, Futurist
@DavidTalWrites
LinkedIn

Sel, 09/15/2020 - 13:17

Ing jero Perang Donya II, pasukan Nazi ngubengi akeh wilayah Eropa. Dheweke duwe senjata canggih, industri perang sing efisien, infantri sing didorong kanthi fanatik, nanging ing ndhuwur kabeh, dheweke duwe mesin sing diarani Enigma. Piranti iki ngidini pasukan Nazi bisa kerja sama kanthi aman ing jarak sing adoh kanthi ngirim pesen kode Morse menyang saben liyane liwat jalur komunikasi standar; iku mesin cipher impregnable kanggo pemecah kode manungsa.

Untunge, Sekutu nemokake solusi. Dheweke ora butuh pikiran manungsa maneh kanggo ngilangi Enigma. Nanging, liwat panemuan almarhum Alan Turing, Sekutu mbangun alat anyar revolusioner sing diarani Bom Inggris, piranti electromechanical sing pungkasanipun deciphered kode rahasia Nazi, lan pungkasanipun mbantu menang perang.

Bombe iki nyedhiyakake dhasar kanggo apa sing dadi komputer modern.

Makarya bebarengan karo Turing sajrone proyek pangembangan Bombe yaiku IJ Good, ahli matematika lan cryptolog Inggris. Dheweke weruh awal ing game pungkasan piranti anyar iki bisa nggawa siji dina. Ing Kertas 1965, dheweke nulis:

"Ayo mesin ultracerdas ditetepake minangka mesin sing bisa ngluwihi kabeh aktivitas intelektual saka wong sing pinter. Amarga desain mesin minangka salah sawijining kegiatan intelektual, mesin sing cerdas bisa ngrancang mesin sing luwih apik; mesthi ana "bledosan intelijen", lan intelijen manungsa bakal ditinggal adoh ... Mangkono mesin ultra-intelijen pisanan minangka penemuan pungkasan sing kudu ditindakake manungsa, yen mesin kasebut cukup jinak kanggo menehi pitutur marang kita. supaya bisa dikontrol."

Nggawe superintelligence Ponggawa pisanan

Nganti saiki ing seri Future of Artificial Intelligence, kita wis nemtokake telung kategori intelijen buatan (AI), saka artificial narrow intelligence (ANI) kanggo intelijen umum buatan (AGI), nanging ing bab seri iki, kita bakal fokus ing kategori pungkasan - sing nyebabake kasenengan utawa serangan panik ing antarane peneliti AI - superintelligence buatan (ASI).

Kanggo mbungkus sirah babagan apa iku ASI, sampeyan kudu mikir maneh bab pungkasan ing ngendi kita mbatesi kepiye peneliti AI percaya yen bakal nggawe AGI pisanan. Sejatine, iku bakal njupuk kombinasi data amba dipakani algoritma luwih (sing spesialisasine ing poto-dandan lan kabisan learning manungsa-kaya) manggon ing hardware komputerisasi saya kuat.

Ing bab kasebut, kita uga mbatesi kepiye pikiran AGI (yen entuk dandan lan kemampuan sinau sing bisa ditindakake manungsa) pungkasane bakal ngluwihi pikirane manungsa kanthi cepet mikir, memori sing luwih apik, kinerja sing ora kesel, lan upgrade cepet.

Nanging ing kene iku penting kanggo Wigati sing AGI mung bakal poto-ngapikake kanggo watesan saka hardware lan data wis akses kanggo; watesan iki bisa dadi gedhe utawa cilik gumantung ing awak robot kita menehi utawa ukuran komputer kita ngidini akses kanggo.

Kangge, bedane antarane AGI lan ASI yaiku sing terakhir, kanthi teoritis, ora bakal ana ing wujud fisik. Iku bakal operate tanggung ing superkomputer utawa jaringan superkomputer. Gumantung saka tujuan sing nggawe, bisa uga entuk akses lengkap menyang kabeh data sing disimpen ing Internet, uga piranti utawa manungsa apa wae sing ngirim data menyang lan liwat Internet. Iki tegese ora ana watesan praktis babagan sepira ASI iki bisa sinau lan kepiye bisa nambah dhewe.

Lan sing rub.

Ngerteni jeblugan intelijen

Proses perbaikan diri sing pungkasane bakal dipikolehi AI nalika dadi AGI (proses sing diarani komunitas AI minangka perbaikan diri rekursif) bisa uga bisa ngilangi umpan balik positif sing katon kaya iki:

AGI anyar digawe, diwenehi akses menyang awak robot utawa dataset gedhe, lan banjur diwenehi tugas prasaja kanggo ngajari dhewe, kanggo nambah Intelligence sawijining. Kaping pisanan, AGI iki bakal duwe IQ saka bayi sing berjuang kanggo nangkep konsep anyar. Sajrone wektu, sinau cukup kanggo nggayuh IQ saka wong diwasa rata-rata, nanging ora mandheg ing kene. Nggunakake IQ diwasa anyar iki, dadi luwih gampang lan luwih cepet kanggo nerusake dandan iki menyang titik ing ngendi IQ cocog karo manungsa sing paling pinter. Nanging maneh, ora mandheg ing kono.

Proses iki majemuk ing saben tingkat intelijen anyar, miturut hukum nyepetake bali nganti tekan tingkat superintelligence sing ora bisa diitung-ing tembung liya, yen ora dicenthang lan diwenehi sumber daya sing ora winates, AGI bakal ningkatake diri dadi ASI, kecerdasan sing durung tau ana ing alam.

Iki sing pisanan diidentifikasi dening IJ Good nalika nerangake 'bledosan intelijen' iki utawa apa sing diarani ahli teori AI modern, kayata Nick Bostrom, minangka acara 'takeoff' AI.

Ngerteni superintelligence buatan

Ing wektu iki, sawetara saka sampeyan bisa uga mikir yen prabédan utama antarane intelijen manungsa lan intelijen ASI yaiku sepira cepete salah siji pihak bisa mikir. Lan sanajan bener manawa ASI teoretis bakal mikir luwih cepet tinimbang manungsa, kemampuan iki wis umum ing sektor komputer saiki-smartphone kita mikir (ngitung) luwih cepet tinimbang pikiran manungsa, superkomputer mikir yuta kaping luwih cepet saka smartphone, lan komputer kuantum mangsa bakal mikir luwih cepet.

Ora, kacepetan dudu fitur intelijen sing kita jelasake ing kene. Iku kualitas.

Sampeyan bisa nyepetake otak Samoyed utawa Corgi sampeyan kabeh sing dikarepake, nanging ora nerjemahake pemahaman anyar babagan napsirake basa utawa ide abstrak. Malah kanthi tambahan utawa rong dasawarsa, doggo iki ora bakal ngerti carane nggawe utawa nggunakake piranti, apa maneh ngerti bedane sing luwih apik antarane sistem ekonomi kapitalis lan sosialis.

Nalika nerangake intelijen, manungsa ngoperasikake pesawat sing beda karo kewan. Mangkono uga, yen ASI bisa nggayuh potensi teoretis sing lengkap, pikirane bakal mlaku ing tingkat sing ngluwihi tekane manungsa modern rata-rata. Kanggo sawetara konteks, ayo deleng aplikasi ASI kasebut.

Kepiye superintelijen buatan bisa kerja bareng karo manungsa?

Yen pamrentah utawa perusahaan tartamtu sukses nggawe ASI, kepiye carane nggunakake? Miturut Bostrom, ana telung bentuk sing kapisah nanging ana hubungane karo ASI iki:

Oracle. Ing kene, kita bakal sesambungan karo ASI sing padha karo mesin telusur Google; kita bakal takon pitakonan, nanging ora ketompo carane Komplek ngandika pitakonan, ASI bakal njawab sampurna lan ing cara sing cocog kanggo sampeyan lan konteks pitakonan Panjenengan.
Genie. Ing kasus iki, kita bakal nemtokake ASI tugas tartamtu, lan bakal nglakokaké minangka prentah. Riset tamba kanggo kanker. rampung. Temokake kabeh planet sing didhelikake ing backlog gambar 10 taun saka Teleskop Angkasa Hubble NASA. rampung. Insinyur reaktor fusi sing bisa digunakake kanggo ngatasi kebutuhan energi manungsa. Abracadabra.
Allah. Ing kene, ASI diwenehi misi sing mbukak lan diwenehi kebebasan kanggo nglakokake. Nyolong rahasia R&D saka pesaing perusahaan kita. "Gampang." Temokake identitas kabeh mata-mata asing sing ndhelik ing wates kita. "Ing." Njamin kamakmuran ekonomi Amerika Serikat terus. "Ora masalah."

Saiki, aku ngerti apa sing sampeyan pikirake, iki kabeh muni banget. Pramila penting kanggo elinga yen saben masalah / tantangan sing ana, malah sing wis stumped pikiran paling padhang ing donya nganti saiki, kabeh iku bisa ditanggulangi. Nanging kangelan saka masalah diukur dening akal kanggo ngatasi masalah.

Ing tembung liyane, pikiran sing luwih gedhe ditrapake kanggo tantangan, luwih gampang golek solusi kanggo tantangan kasebut. Tantangan apa wae. Kaya wong diwasa sing nonton bocah cilik berjuang kanggo mangerteni kenapa dheweke ora bisa masang blok persegi menyang bukaan bunder-kanggo wong diwasa, nuduhake bayi yen blok kasebut kudu pas liwat bukaan kothak bakal dadi dolanan bocah.

Mangkono uga, yen ASI mbesuk iki bisa nggayuh potensi sing lengkap, pikiran iki bakal dadi akal sing paling kuat ing alam semesta sing wis dingerteni - cukup kuat kanggo ngatasi tantangan apa wae, sanajan rumit.

Iki sebabe akeh peneliti AI nyebutake ASI minangka penemuan pungkasan sing kudu ditindakake manungsa. Yen yakin bisa kerja bareng karo manungsa, bisa mbantu ngatasi kabeh masalah sing paling penting ing donya. Kita malah bisa takon kanggo ngilangi kabeh penyakit lan mungkasi tuwa kaya sing kita ngerti. Manungsa bisa kanggo pisanan ngapusi pati permanen lan mlebu umur anyar kamakmuran.

Nanging ngelawan uga bisa.

Intelligence punika daya. Yen salah ngatur utawa diutus dening aktor ala, ASI iki bisa dadi alat paling oppression, utawa bisa flat out exterminate djalmo manungso kabeh-mikir Skynet saka Terminator utawa Arsitek saka film Matrix.

Sejatine, ora ana sing ekstrem. Masa depan tansah luwih messier tinimbang utopians lan distopian prediksi. Pramila saiki kita ngerti konsep ASI, sisa seri iki bakal njelajah kepiye ASI bakal mengaruhi masyarakat, kepiye masyarakat bakal mbela ASI nakal, lan kepiye masa depan bakal katon yen manungsa lan AI urip bebarengan. - sisih. Wacanen.