Оё суперинтеллекти сунъӣ инсониятро нест мекунад? Ояндаи зеҳни сунъӣ P4

Муайян ихтироъҳо ҳастанд, ки миллатҳо ҳама чизро истифода мебаранд. Ин ихтироъҳоест, ки ҳама чиз аз аввалин будан вобаста аст ва ҳар чизи камтар метавонад маънои таҳдиди стратегӣ ва марговарро барои зинда мондани миллат дошта бошад.

Ин ихтироъҳои таърихӣ аксар вақт пайдо намешаванд, аммо вақте ки онҳо рӯй медиҳанд, ҷаҳон қатъ мешавад ва ояндаи пешгӯишаванда норавшан мешавад.

Охирин ихтироъ дар давоми бадтарин Ҷанги Дуюми Ҷаҳонӣ пайдо шуд. Ҳангоме ки фашистон дар тамоми ҷабҳаҳо дар ҷаҳони кӯҳна, дар дунёи нав, махсусан дар дохили як пойгоҳи махфии артиши берун аз Лос-Аламос, қувваозмоӣ мекарданд, иттифоқчиён дар болои яроқ барои хотима додан ба ҳама силоҳ сахт кор мекарданд.

Лоиҳа дар аввал хурд буд, аммо баъдан афзоиш ёфт, то 130,000 23 нафар аз ИМА, Британияи Кабир ва Канада, аз ҷумла бисёре аз мутафаккирони бузургтарини ҷаҳонро дар он вақт кор кунанд. Номи рамзии Лоиҳаи Манҳеттен ва бо назардошти буҷаи номаҳдуд - тақрибан 2018 миллиард доллар дар соли XNUMX - ин артиши заковати инсонӣ дар ниҳоят ба сохтани аввалин бомбаи ҳастаӣ муваффақ шуд. Дере нагузашта, Ҷанги Дуюми Ҷаҳонӣ бо ду таркиши атомӣ анҷом ёфт.

Ин аслиҳаи ҳастаӣ асри атомро оғоз кард, манбаи амиқи нави энергияро ба вуҷуд овард ва ба инсоният имкон дод, ки худро дар тӯли дақиқаҳо нест кунад — чизеро, ки мо сарфи назар аз ҷанги сард пешгирӣ мекардем.

Эҷоди интеллекти сунъӣ (ASI) боз як таърихи боз як ихтироъест, ки қудрати он (ҳам мусбат ва ҳам харобиовар) аз бомбаи ҳастаӣ хеле болотар аст.

Дар боби охирини силсилаи Ояндаи зеҳни сунъӣ мо омӯхтем, ки ASI чист ва чӣ гуна муҳаққиқон нақша доранд, ки як рӯз онро бунёд кунанд. Дар ин боб, мо дида мебароем, ки кадом созмонҳо таҳқиқоти зеҳни сунъиро (AI) пеш мебаранд, ASI пас аз ба даст овардани шуури ба инсон монанд чӣ мехоҳад ва чӣ гуна он метавонад ба инсоният дар сурати нодуруст идора кардан ё зери таъсири режимхои на он кадар хуб.

Кӣ барои сохтани интеллекти сунъӣ кор мекунад?

Бо дарназардошти он, ки таъсиси ASI барои таърихи инсоният то чӣ андоза муҳим хоҳад буд ва то чӣ андоза он ба созандаи худ бартарии калон медиҳад, шунидани он ки бисёре аз гурӯҳҳо бавосита дар ин лоиҳа кор мекунанд, набояд тааҷҷубовар бошад.

(Бавосита, мо дар назар дорем, ки кор дар таҳқиқоти AI, ки дар ниҳоят аввалинро эҷод мекунад зеҳни умумии сунъӣ (AGI), ки худаш ба зудӣ ба аввалин ASI оварда мерасонад.)

Барои оғоз, вақте ки сухан дар бораи сарлавҳаҳо меравад, пешвоёни возеҳи таҳқиқоти пешрафтаи AI ширкатҳои беҳтарини технологӣ дар ИМА ва Чин мебошанд. Дар ҷабҳаи ИМА, ба он ширкатҳои монанди Google, IBM ва Microsoft ва дар Чин ширкатҳои монанди Tencent, Baidu ва Alibaba дохил мешаванд. Аммо азбаски таҳқиқоти AI дар муқоиса бо таҳияи як чизи физикӣ, ба мисли реактори беҳтари ҳастаӣ, нисбатан арзон аст, ин ҳам соҳаест, ки созмонҳои хурдтар метавонанд дар он рақобат кунанд, ба монанди донишгоҳҳо, стартапҳо ва ... созмонҳои сояафкан (хаёлҳои бадкирдори Бондро барои Инаш).

Аммо дар паси парда такони воқеии таҳқиқоти AI аз ҷониби ҳукуматҳо ва низомиёни онҳост. Мукофоти иқтисодӣ ва низомии аввалин касе, ки ASI эҷод кардааст, хеле бузург аст (дар поён оварда шудааст) барои хавфи ақиб мондан. Ва хатари охирин будан, ҳадди аққал барои режимҳои муайян қобили қабул нест.

Бо дарназардошти ин омилҳо, арзиши нисбатан пасти таҳқиқи AI, барномаҳои беохири тиҷоратии AI ва бартарии иқтисодӣ ва низомии аввалин будан дар эҷоди АИ, бисёре аз пажӯҳишгарони AI бовар доранд, ки эҷоди ASI ногузир аст.

Кай мо суперинтеллекти сунъӣ эҷод мекунем

Дар боби худ дар бораи AGI, мо қайд кардем, ки чӣ гуна як пурсиши муҳаққиқони беҳтарини AI боварӣ дошт, ки мо аввалин AGI-ро бо хушбинона то соли 2022, воқеият то соли 2040 ва то соли 2075 ноумедона эҷод мекунем.

Ва дар мо боби охир, мо шарҳ додем, ки чӣ гуна эҷод кардани ASI умуман натиҷаи дастур додани AGI барои худшиносии беохир ва додани захираҳо ва озодии ин кор аст.

Аз ин сабаб, дар ҳоле ки як AGI барои ихтироъ то даҳсолаҳо тӯл мекашад, эҷоди ASI метавонад танҳо чанд соли дигарро дар бар гирад.

Ин нукта ба мафҳуми "фаъолияти ҳисоббарорӣ" монанд аст, ки дар он пешниҳод шудааст когаз, аз ҷониби мутафаккирони пешқадами AI Люк Мюлхаузер ва Ник Бостром якҷоя навишта шудаанд. Асосан, агар эҷоди AGI аз пешрафти кунунӣ дар иқтидори ҳисоббарорӣ, ки аз ҷониби Қонуни Мур асос ёфтааст, ақиб мемонад, пас вақте ки муҳаққиқон як AGI-ро ихтироъ мекунанд, он қадар қудрати ҳисоббарории арзон дастрас хоҳад буд, ки AGI дорои иқтидор хоҳад буд. он бояд зуд ба сатҳи ASI ҷаҳида шавад.

Ба ибораи дигар, вақте ки шумо ниҳоят сарлавҳаҳоро хонед, ки эълон мекунад, ки баъзе ширкати технологӣ аввалин AGI-и ҳақиқиро ихтироъ кардааст, пас аз чанде пас эълони аввалин ASI-ро интизор шавед.

Дар дохили тафаккури суперинтеллекти сунъӣ?

Хуб, мо муайян кардем, ки бисёре аз бозигарони калон бо ҷайбҳои амиқ AI-ро таҳқиқ мекунанд. Ва он гоҳ пас аз ихтироъ шудани аввалин AGI, мо мебинем, ки ҳукуматҳои ҷаҳонӣ (арбӣ) ба зудӣ ба сӯи ASI равшанӣ андохтанд, то дар мусобиқаи умумиҷаҳонии силоҳи AI (ASI) аввалин шаванд.

Аммо вақте ки ин ASI таъсис дода мешавад, он чӣ гуна фикр мекунад? Он чӣ мехоҳад?

Саги дӯстона, фили ғамхор, роботи зебо — чун одамон, мо одат дорем, ки тавассути антропологияи онҳо, яъне ба ашё ва ҳайвонот истифода бурдани хислатҳои инсонӣ бо ашё алоқамандӣ кунем. Ин аст, ки фарзияи аввалини табиии одамон ҳангоми фикр кардан дар бораи ASI ин аст, ки вақте ки он бо ягон роҳ ҳушдор мешавад, вай ба мо монанд фикр мекунад ва рафтор мекунад.

Хуб, ҳатман нест.

идрок. Барои як, он чизе, ки аксарият фаромӯш мекунанд, ин аст, ки дарк нисбӣ аст. Тарзи фикрронии мо аз ҷониби муҳити мо, таҷрибаҳои мо ва махсусан биологияи мо ташаккул меёбад. Дар аввал шарҳ дода шудааст боби сеюм аз мо Ояндаи эволютсияи инсон силсила, мисоли майнаи моро дида бароед:

Ин мағзи мост, ки ба мо кӯмак мекунад, ки ҷаҳони атрофро дарк кунем. Ва ин на бо шино кардани болои сари мо, ба атроф нигоҳ кардан ва моро бо контроллери Xbox идора кардан; он ин корро тавассути дар дохили қуттӣ (ноггинҳои мо) иҳота кардан ва коркарди ҳар як маълумоте, ки аз узвҳои ҳассоси мо дода мешавад - чашм, бинӣ, гӯшҳо ва ғайра.

Аммо ҳамон тавре, ки карҳо ё нобиноён нисбат ба одамони қобили меҳнат умри хеле камтар доранд, бинобар маҳдудиятҳои маъюбии онҳо дар бораи чӣ гуна дарк кардани ҷаҳон, ҳамин чизро метавон дар бораи ҳамаи одамон бо сабаби маҳдудиятҳои асосии мо гуфт. маҷмӯи узвҳои ҳассос.

Дар ин бора фикр кунед: чашмони мо камтар аз даҳ триллион ҳиссаи тамоми мавҷҳои рӯшноиро дарк мекунанд. Мо нурҳои гаммаро дида наметавонем. Мо рентгенҳоро дида наметавонем. Мо нурҳои ултрабунафшро дида наметавонем. Ва маро ба инфрасурх, микромавҷҳо ва мавҷҳои радио оғоз накунед!

Ҳама шӯхӣ як сӯ, тасаввур кунед, ки ҳаёти шумо чӣ гуна хоҳад буд, шумо ҷаҳонро чӣ гуна тасаввур карда метавонед, ақли шумо чӣ гуна метавонад кор кунад, агар шумо аз пораи ночизи нуре, ки дар айни замон чашмони шумо иҷозат медиҳанд, дида тавонед. Ба ҳамин монанд, тасаввур кунед, ки агар ҳисси бӯи шумо ба ҳисси саг баробар бошад ё ҳисси шунавоӣ ба фил баробар бошад, шумо ҷаҳонро чӣ гуна қабул мекунед.

Ҳамчун одамон, мо аслан ҷаҳонро тавассути як сӯрох мебинем ва ин дар тафаккуре, ки мо барои фаҳмидани ин дарки маҳдуд таҳия кардаем, инъикос меёбад.

Дар ҳамин ҳол, аввалин ASI дар дохили суперкомпютер тавлид мешавад. Ба ҷои узвҳо, воридоте, ки он дастрас хоҳад шуд, дорои маҷмӯаҳои азими додаҳо, эҳтимолан (эҳтимол) ҳатто дастрасӣ ба худи Интернет мебошад. Тадқиқотчиён метавонанд ба он дастрасӣ ба камераҳои CCTV ва микрофонҳои тамоми шаҳр, маълумоти ҳассос аз дронҳо ва моҳвораҳо ва ҳатто шакли физикии бадан ё ҷисми роботро фароҳам оранд.

Тавре ки шумо тасаввур карда метавонед, тафаккуре, ки дар дохили суперкомпютер таваллуд шудааст, бо дастрасии мустақим ба Интернет, ба миллионҳо чашму гӯшҳои электронӣ ва як қатор дигар сенсорҳои пешрафта на танҳо аз мо фарқ мекунад, балки ақле, ки метавонад маъно дошта бошад. аз ҳамаи ин вурудоти ҳассос бояд аз мо низ беохир бартарӣ дошта бошад. Ин ақлест, ки ба мо ва дигар шаклҳои ҳаёти сайёра комилан бегона хоҳад буд.

Ҳадафҳои. Чизи дигаре, ки одамон гумон мекунанд, ин аст, ки вақте ки ASI ба як сатҳи олии зеҳнӣ мерасад, вай фавран хоҳиши пайдо кардани ҳадафҳо ва вазифаҳои худро амалӣ хоҳад кард. Аммо ин ҳам ҳатман дуруст нест.

Бисёре аз муҳаққиқони AI боварӣ доранд, ки иктишофии ASI ва ҳадафҳои он "ортогоналӣ" мебошанд, яъне новобаста аз он ки он то чӣ андоза оқилона аст, ҳадафҳои ASI бетағйир боқӣ мемонанд. 

Пас, новобаста аз он ки AI дар ибтидо барои тарҳрезии памперси беҳтар, ба ҳадди аксар расонидани даромад дар бозори саҳҳомӣ ё стратегияи роҳҳои мағлуб кардани душман дар майдони ҷанг офарида шудааст, пас аз расидан ба сатҳи ASI, ҳадафи аслӣ тағир намеёбад; он чӣ тағир хоҳад ёфт, самаранокии ASI барои расидан ба ин ҳадафҳо мебошад.

Аммо хатар дар ин ҷост. Агар ASI, ки худро ба як ҳадафи мушаххас оптимизатсия кунад, пас мо беҳтараш мутмаин бошем, ки он ба ҳадафе мувофиқат мекунад, ки ба ҳадафҳои инсоният мувофиқат мекунад. Дар акси ҳол, натиҷаҳо метавонанд марговар шаванд.

Оё интеллекти сунъӣ барои инсоният хатари мавҷудият дорад?

Пас чӣ мешавад, агар ASI дар ҷаҳон озод карда шавад? Агар он барои бартарӣ дар бозори саҳҳомӣ ё таъмини бартарии низомии ИМА оптимизатсия карда шавад, оё ASI дар доираи ин ҳадафҳои мушаххас худдорӣ намекунад?

Эҳтимол.

То ба ҳол мо муҳокима кардем, ки чӣ гуна ASI бо ҳадаф(ҳо)-и дар ибтидо таъиншуда ва дар амалӣ кардани ин ҳадафҳо ба таври ғайриинсонӣ салоҳиятдор хоҳад буд. Мушкилот дар он аст, ки агенти оқилона ҳадафҳои худро бо василаҳои муассиртарин амалӣ хоҳад кард, агар сабабе барои рад кардан дода нашавад.

Масалан, агенти оқилона як қатор зерҳадафҳоро (яъне ҳадафҳо, ҳадафҳои инструменталӣ, сангҳои зина), ки ба ӯ дар роҳи расидан ба ҳадафи ниҳоии худ кӯмак мекунанд, пеш меорад. Барои одамон, ҳадафи калидии зери шуури мо такрористеҳсолкунӣ, интиқол додани генҳои шумо (яъне ҷовидонии ғайримустақим) мебошад. Зермақсадҳо ба ин мақсад аксар вақт метавонанд дар бар гиранд:

• Зинда мондан, тавассути дастрасӣ ба ғизо ва об, калон шудан ва қавӣ шудан, омӯхтани муҳофизати худ ё сармоягузорӣ ба шаклҳои гуногуни муҳофизат ва ғайра. 
• Ҷалби ҳамсар, тавассути машқ кардан, ташаккул додани шахсияти ҷолиб, либоси зебо ва ғайра.
• Насл ба даст овардан, маълумот гирифтан, ба кори сердаромад гузоштан, харидани домҳои зиндагии синфи миёна ва ғайра.

Барои аксарияти куллии мо, мо тавассути ҳамаи ин зерҳадафҳо ва бисёр чизҳои дигар, бо умеди он, ки дар ниҳоят ба ин ҳадафи ниҳоии такрористеҳсолкунӣ ноил хоҳем шуд.

Аммо агар ин ҳадафи ниҳоӣ ё ҳатто ягон зерҳадафҳои муҳимтаре таҳдид карда шавад, бисёре аз мо берун аз минтақаҳои тасаллии маънавии худ амалҳои дифоъӣ меандешем, аз он ҷумла фиреб, дуздӣ ё ҳатто куштор.

Ба ҳамин монанд, дар олами ҳайвонот, берун аз доираи ахлоқи инсонӣ, бисёр ҳайвонҳо дар бораи куштани чизе, ки ба худ ё насли онҳо таҳдид мекард, ду маротиба фикр намекунанд.

ASI-и оянда ҳеҷ фарқе нахоҳад дошт.

Аммо ба ҷои насл, ASI ба ҳадафи аслӣ, ки барои он офарида шудааст, тамаркуз хоҳад кард ва дар роҳи расидан ба ин ҳадаф, агар як гурӯҳи муайяни одамон ё ҳатто тамоми башариятро пайдо кунад, дар роҳи расидан ба ҳадафҳои худ монеа эҷод мекунад. , пас ... карори окилона кабул мекунад.

(Дар ин ҷо шумо метавонед ҳама гуна сенарияи марбут ба AI, рӯзи қиёматро, ки шумо дар бораи китоб ё филми фантастикии дӯстдоштаи худ хондаед, васл кунед.)

Ин бадтарин сенарияест, ки муҳаққиқони AI воқеан аз он нигаронанд. ASI аз нафрат ё бадкорӣ амал намекунад, танҳо бепарвоӣ, ҳамон тавре ки як бригадаи сохтмонӣ дар бораи булдозер кардани теппаи мӯрчагон ҳангоми сохтани манораи нави кондо ду маротиба фикр намекунад.

Ёддошти тараф. Дар ин лаҳза, баъзеи шумо шояд дар ҳайрат бошед, ки "Оё муҳаққиқони AI наметавонанд ҳадафҳои асосии ASI-ро пас аз он таҳрир кунанд, агар мо фаҳмем, ки он амал мекунад?"

На дарвоқеъ.

Пас аз ба камол расидани ASI, ҳама гуна кӯшиши таҳрир кардани ҳадаф(ҳо)-и аслии он метавонад ҳамчун як таҳдид баррасӣ шавад ва барои дифоъ аз худ амалҳои шадидро талаб мекунад. Бо истифода аз тамоми намунаи такрористеҳсоли инсон, ки аз пештара буд, тақрибан ба он монанд аст, ки дузд таҳдид мекунад, ки кӯдакро аз батни модари ояндадор дуздад - шумо лаънат карда метавонед, ки модар барои ҳифзи фарзандаш чораҳои шадид меандешад.

Боз, мо дар ин ҷо на дар бораи ҳисобкунак гап мезанем, балки дар бораи мавҷудияти «зинда» ва касе, ки рӯзе аз тамоми одамони сайёра хеле оқилтар мешавад.

Номаълум

Дар паси афсона Қуттии Пандора як ҳақиқати камтар маълум аст, ки одамон аксар вақт фаромӯш мекунанд: кушодани қуттӣ ногузир аст, агар шумо аз ҷониби каси дигар набошед. Дониши мамнӯъ хеле васвасаи он аст, ки то абад дар маҳбас бимонад.

Аз ин рӯ, кӯшиши ба даст овардани як созишномаи ҷаҳонӣ барои қатъ кардани ҳама таҳқиқот дар бораи AI, ки метавонад ба ASI оварда расонад, бефоида аст - созмонҳои зиёде ҳастанд, ки дар ин технология ҳам расман ва ҳам дар соя кор мекунанд.

Дар ниҳоят, мо намедонем, ки ин сохтори нав, ин ASI барои ҷомеа, технология, сиёсат, сулҳ ва ҷанг чӣ маъно хоҳад дошт. Мо одамон бори дигар оташро ихтироъ мекунем ва ин офариниш моро ба куҷо мебарад, комилан маълум нест.

Ба боби аввали ин силсила бармегардем, як чизе, ки мо аниқ медонем, ин аст, ки зеҳн қудрат аст. Интеллект назорат аст. Одамон метавонанд тасодуфан ба ҳайвоноти хатарноктарин дар ҷаҳон дар боғҳои маҳаллии худ ташриф оранд, на аз он сабаб, ки мо аз ин ҳайвонҳо аз ҷиҳати ҷисмонӣ қавӣ ҳастем, балки аз он сабаб ки мо хеле оқилтарем.

Бо назардошти хатарҳои эҳтимолии ASI, ки зеҳни бузурги худро барои андешидани амалҳое, ки мустақиман ё нохост ба зинда мондани насли башар таҳдид мекунанд, истифода мебарад, мо аз худ вазифадорем, ки ҳадди аққал кӯшиш кунем, ки кафолатҳоеро таҳия кунем, ки ба одамон имкон медиҳанд, ки дар дохили ронанда бимонанд. нишаст -ин мавзуи боби оянда мебошад.

Ояндаи силсилаи зеҳни сунъӣ

П1: Интеллекти сунъӣ нерӯи барқи фардо аст

П2: Чӣ гуна аввалин зеҳни умумии сунъӣ ҷомеаро тағир медиҳад

П3: Чӣ гуна мо аввалин суперинтеллекти сунъиро эҷод мекунем

П5: Чӣ гуна одамон аз суперинтеллекти сунъӣ дифоъ хоҳанд кард

П6: Оё одамон дар ояндае, ки зеҳни сунъӣ ҳукмфармост, осоишта зиндагӣ хоҳанд кард?