Quantumrun

CREDIT NG LARAWAN: Quantumrun

Paano namin gagawin ang unang Artificial Superintelligence: Kinabukasan ng artificial intelligence P3

David Tal, Publisher, Futurist
@DavidTalWrites
LinkedIn

Martes, 09/15/2020 - 13:17

Sa malalim na bahagi ng Ikalawang Digmaang Pandaigdig, ang mga puwersa ng Nazi ay umuusad sa halos buong Europa. Mayroon silang mga advanced na armas, mahusay na industriya ng panahon ng digmaan, panatiko na hinimok ng infantry, ngunit higit sa lahat, mayroon silang isang makina na tinatawag na Enigma. Pinahintulutan ng device na ito ang mga pwersa ng Nazi na ligtas na makipagtulungan sa malalayong distansya sa pamamagitan ng pagpapadala ng mga Morse-coded na mensahe sa isa't isa sa mga karaniwang linya ng komunikasyon; ito ay isang cipher machine na hindi mapipigilan ng mga human code breaker.

Sa kabutihang palad, nakahanap ng solusyon ang mga Allies. Hindi na nila kailangan ng isip ng tao para masira ang Enigma. Sa halip, sa pamamagitan ng isang imbensyon ng yumaong si Alan Turing, ang mga Allies ay nagtayo ng isang rebolusyonaryong bagong tool na tinatawag na Bomba ng Britanya, isang electromechanical na aparato na sa wakas ay natukoy ang lihim na code ng mga Nazi, at sa huli ay nakatulong sa kanila na manalo sa digmaan.

Ang Bombe na ito ay naglatag ng batayan para sa kung ano ang naging modernong computer.

Nagtatrabaho sa tabi ni Turing sa panahon ng proyekto ng pagpapaunlad ng Bombe ay si IJ Good, isang British Mathematician at cryptologist. Nakita niya nang maaga sa pagtatapos ng laro na maaaring idulot ng bagong device na ito balang araw. Sa isang 1965 papel, sumulat siya:

"Hayaan ang isang ultra-intelligent na makina ay tukuyin bilang isang makina na higit na malalampasan ang lahat ng intelektwal na aktibidad ng sinumang tao gayunpaman matalino. Dahil ang disenyo ng mga makina ay isa sa mga intelektwal na aktibidad na ito, ang isang ultra-intelligent na makina ay maaaring magdisenyo ng mas mahusay na mga makina; pagkatapos ay walang pag-aalinlangan na magkakaroon ng "pagsabog ng katalinuhan," at ang katalinuhan ng tao ay maiiwan sa malayo... Kaya ang unang ultra-intelligent na makina ay ang huling imbensyon na kailangang gawin ng tao, sa kondisyon na ang makina ay sapat na masunurin upang sabihin sa atin kung paano para mapanatili itong kontrolado."

Paglikha ng unang artipisyal na superintelligence

Sa ngayon sa aming serye ng Future of Artificial Intelligence, tinukoy namin ang tatlong malawak na kategorya ng artificial intelligence (AI), mula sa artipisyal na makitid na katalinuhan (ANI) sa artipisyal na pangkalahatang katalinuhan (AGI), ngunit sa seryeng kabanata na ito, tututuon tayo sa huling kategorya—ang nagdudulot ng excitement o panic attack sa mga AI researcher—artificial superintelligence (ASI).

Para maisip mo kung ano ang ASI, kailangan mong balikan ang huling kabanata kung saan binalangkas namin kung paano naniniwala ang mga mananaliksik ng AI na gagawa sila ng unang AGI. Karaniwan, mangangailangan ito ng kumbinasyon ng malalaking data na nagpapakain ng mas mahuhusay na algorithm (mga nagdadalubhasa sa pagpapabuti ng sarili at mga kakayahan sa pag-aaral na tulad ng tao) na nasa lalong malakas na hardware ng computing.

Sa kabanatang iyon, binalangkas din namin kung paano ang isang AGI mind (kapag natamo nito ang mga kakayahan sa pagpapaunlad sa sarili at pag-aaral na ating mga tao) sa kalaunan ay hihigit sa pagganap ng isip ng tao sa pamamagitan ng higit na bilis ng pag-iisip, pinahusay na memorya, walang pagod na pagganap, at agarang pag-upgrade.

Ngunit narito, mahalagang tandaan na ang isang AGI ay magpapaunlad lamang sa sarili hanggang sa mga limitasyon ng hardware at data na mayroon itong access; ang limitasyong ito ay maaaring malaki o maliit depende sa katawan ng robot na ibinibigay natin dito o sa sukat ng mga computer na pinapayagan natin itong ma-access.

Samantala, ang pagkakaiba sa pagitan ng isang AGI at isang ASI ay ang huli, ayon sa teorya, ay hindi kailanman iiral sa isang pisikal na anyo. Ito ay ganap na gagana sa loob ng isang supercomputer o network ng mga supercomputer. Depende sa mga layunin ng mga tagalikha nito, maaari rin itong makakuha ng ganap na access sa lahat ng data na nakaimbak sa Internet, gayundin sa anumang device o tao na nagpapakain ng data sa at sa Internet. Nangangahulugan ito na walang praktikal na limitasyon sa kung gaano karami ang matututuhan ng ASI na ito at kung gaano ito mapapabuti sa sarili.

At iyon ang kuskusin.

Pag-unawa sa pagsabog ng katalinuhan

Ang prosesong ito ng pagpapahusay sa sarili na sa kalaunan ay makukuha ng mga AI kapag sila ay naging mga AGI (isang proseso na tinatawag ng komunidad ng AI na recursive self-improvement) ay maaaring potensyal na mawala sa isang positibong feedback loop na mukhang ganito:

Ang isang bagong AGI ay nilikha, binibigyan ng access sa isang robot body o isang malaking dataset, at pagkatapos ay binibigyan ng simpleng gawain ng pagtuturo sa sarili nito, ng pagpapabuti ng katalinuhan nito. Sa una, ang AGI na ito ay magkakaroon ng IQ ng isang sanggol na nagpupumilit na maunawaan ang mga bagong konsepto. Sa paglipas ng panahon, sapat na itong natututo upang maabot ang IQ ng isang karaniwang nasa hustong gulang, ngunit hindi ito titigil dito. Gamit ang bagong natagpuang adult na IQ na ito, nagiging mas madali at mas mabilis na ipagpatuloy ang pagpapahusay na ito sa isang punto kung saan tumutugma ang IQ nito sa pinakamatalinong kilalang tao. Ngunit muli, hindi ito titigil doon.

Ang prosesong ito ay nagsasama-sama sa bawat bagong antas ng katalinuhan, na sumusunod sa batas ng pagpapabilis ng pagbabalik hanggang sa maabot nito ang hindi mabilang na antas ng superintelligence—sa madaling salita, kung hindi masusuri at bibigyan ng walang limitasyong mga mapagkukunan, ang isang AGI ay magpapaunlad sa sarili sa isang ASI, isang talino na ay hindi kailanman umiral sa kalikasan.

Ito ang unang natukoy ni IJ Good noong inilarawan niya itong 'intelligence explosion' o kung ano ang tawag ng mga modernong AI theorists, tulad ni Nick Bostrom, sa 'takeoff' event ng AI.

Pag-unawa sa isang artipisyal na superintelligence

Sa puntong ito, malamang na iniisip ng ilan sa inyo na ang pangunahing pagkakaiba sa pagitan ng katalinuhan ng tao at katalinuhan ng ASI ay kung gaano kabilis makapag-isip ang magkabilang panig. At bagama't totoo na ang teoretikal na hinaharap na ASI na ito ay mag-iisip nang mas mabilis kaysa sa mga tao, ang kakayahang ito ay medyo karaniwan na sa buong sektor ng kompyuter ngayon—ang ating smartphone ay nag-iisip (nagko-compute) nang mas mabilis kaysa sa isip ng tao, isang supercomputer nag-iisip ng milyun-milyong beses na mas mabilis kaysa sa isang smartphone, at ang hinaharap na quantum computer ay mag-iisip pa rin nang mas mabilis.

Hindi, ang bilis ay hindi ang tampok ng katalinuhan na ipinapaliwanag namin dito. Ito ay ang kalidad.

Maaari mong pabilisin ang utak ng iyong Samoyed o Corgi sa lahat ng gusto mo, ngunit hindi iyon isasalin sa isang bagong pag-unawa kung paano i-interpret ang wika o abstract na mga ideya. Kahit na may dagdag na dekada o dalawa, ang mga doggo na ito ay hindi biglaang mauunawaan kung paano gumawa o gumamit ng mga kasangkapan, lalo pa't unawain ang mga mas pinong pagkakaiba sa pagitan ng kapitalista at sosyalistang sistemang pang-ekonomiya.

Pagdating sa katalinuhan, ang mga tao ay nagpapatakbo sa ibang eroplano kaysa sa mga hayop. Gayundin, kung maabot ng isang ASI ang buong potensyal na teoretikal, ang kanilang mga isip ay gagana sa isang antas na hindi maaabot ng karaniwang modernong tao. Para sa ilang konteksto, tingnan natin ang mga aplikasyon ng mga ASI na ito.

Paano maaaring gumana ang isang artificial superintelligence kasama ng sangkatauhan?

Ipagpalagay na ang isang partikular na pamahalaan o korporasyon ay matagumpay sa paglikha ng isang ASI, paano nila ito magagamit? Ayon kay Bostrom, mayroong tatlong magkahiwalay ngunit magkakaugnay na mga anyo na maaaring gawin ng ASI na ito:

Oracle Dito, makikipag-ugnayan kami sa isang ASI katulad ng ginagawa namin sa Google search engine; tatanungin namin ito ng isang katanungan, ngunit gaano man kakomplikado ang nasabing tanong, sasagutin ito ng ASI nang perpekto at sa paraang naaayon sa iyo at sa konteksto ng iyong tanong.
dyini. Sa kasong ito, magtatalaga kami ng isang ASI ng isang partikular na gawain, at isasagawa ito gaya ng iniutos. Magsaliksik ng lunas para sa kanser. Tapos na. Hanapin ang lahat ng mga planeta na nakatago sa loob ng backlog ng 10 taong halaga ng mga larawan mula sa Hubble Space Telescope ng NASA. Tapos na. Inhinyero ang isang gumaganang fusion reactor upang malutas ang pangangailangan ng enerhiya ng sangkatauhan. Abracadabra.
pinakamataas na puno. Dito, ang ASI ay itinalaga ng isang bukas na misyon at binibigyan ng kalayaan upang maisagawa ito. Nakawin ang mga lihim ng R&D mula sa aming katunggali sa kumpanya. "Madali." Tuklasin ang mga pagkakakilanlan ng lahat ng mga dayuhang espiya na nagtatago sa loob ng aming mga hangganan. "Nasa nito." Tiyakin ang patuloy na kaunlaran ng ekonomiya ng Estados Unidos. "Walang problema."

Ngayon, alam ko na kung ano ang iniisip mo, ang lahat ng ito ay mukhang napakalayo. Iyon ang dahilan kung bakit mahalagang tandaan na ang bawat problema/hamon sa labas, kahit na ang mga nalilito sa pinakamaliwanag na isipan sa mundo hanggang sa kasalukuyan, lahat sila ay malulutas. Ngunit ang hirap ng isang problema ay nasusukat sa talino na humaharap dito.

Sa madaling salita, kung mas malaki ang pag-iisip sa isang hamon, mas madali itong makahanap ng solusyon sa nasabing hamon. Anumang hamon. Ito ay tulad ng isang may sapat na gulang na nanonood ng isang sanggol na nagpupumilit na maunawaan kung bakit hindi niya maipasok ang isang parisukat na bloke sa isang bilog na butas—para sa nasa hustong gulang, ang pagpapakita sa sanggol na ang bloke ay dapat magkasya sa square opening ay isang larong pambata.

Gayundin, sakaling maabot ng hinaharap na ASI ang buong potensyal nito, ang isip na ito ang magiging pinakamakapangyarihang talino sa kilalang uniberso—sapat na makapangyarihan upang malutas ang anumang hamon, gaano man kakomplikado.

Ito ang dahilan kung bakit tinawag ng maraming mananaliksik ng AI ang ASI na huling imbensyon na kailangang gawin ng tao. Kung kumbinsido na magtrabaho kasama ng sangkatauhan, makakatulong ito sa amin na malutas ang lahat ng pinakamabigat na problema sa mundo. Maaari pa nga nating hilingin dito na alisin ang lahat ng sakit at wakasan ang pagtanda gaya ng alam natin. Magagawa ng sangkatauhan sa unang pagkakataon na dayain ang kamatayan nang permanente at pumasok sa isang bagong panahon ng kasaganaan.

Ngunit ang kabaligtaran ay posible rin.

Ang katalinuhan ay kapangyarihan. Kung mali ang pamamahala o itinuro ng mga masasamang aktor, ang ASI na ito ay maaaring maging pinakapang-aapi na kasangkapan, o maaari nitong ganap na puksain ang sangkatauhan—isipin ang Skynet mula sa Terminator o ang Arkitekto mula sa mga pelikulang Matrix.

Sa totoo lang, hindi malamang ang extreme. Ang hinaharap ay palaging mas magulo kaysa sa hula ng mga utopians at distopian. Kaya naman ngayong naiintindihan na natin ang konsepto ng isang ASI, tutuklasin ng iba pang bahagi ng seryeng ito kung paano makakaapekto ang isang ASI sa lipunan, kung paano magdedepensa ang lipunan laban sa isang masamang ASI, at kung ano ang magiging hitsura ng hinaharap kung ang mga tao at AI ay mabubuhay nang magkatabi. - gilid. Magbasa pa.