Sun'iy super intellekt insoniyatni yo'q qiladimi? Sun'iy intellektning kelajagi P4

Ma'lum ixtirolar borki, xalqlar hamma narsaga kirishadi. Bu ixtirolar bo'lib, unda hamma narsa birinchi bo'lishga bog'liq va undan kam narsa millatning omon qolishi uchun strategik va halokatli tahdidni anglatishi mumkin.

Ushbu tarixni belgilovchi ixtirolar tez-tez uchramaydi, lekin ular paydo bo'lganda, dunyo to'xtaydi va bashorat qilinadigan kelajak xira bo'ladi.

Oxirgi bunday ixtiro Ikkinchi jahon urushining eng dahshatli davrida paydo bo'lgan. Natsistlar eski dunyoning barcha jabhalarida, yangi dunyoda, xususan, Los-Alamosdan tashqarida joylashgan maxfiy armiya bazasida kuchayib borayotgan bir paytda, ittifoqchilar barcha qurollarni tugatish uchun qurol ustida qattiq mehnat qilishdi.

Loyiha dastlab kichik edi, lekin keyinchalik AQSh, Buyuk Britaniya va Kanadadan 130,000 23 kishi, shu jumladan o'sha paytdagi dunyoning eng buyuk mutafakkirlari ham ish bilan ta'minlandi. Manxetten loyihasi deb nomlandi va cheksiz byudjet - 2018-yilda taxminan XNUMX milliard dollarni hisobga olgan holda, bu insoniy zukkolik armiyasi oxir-oqibat birinchi yadroviy bombani yaratishga muvaffaq bo'ldi. Ko'p o'tmay, Ikkinchi Jahon urushi ikkita atom portlashi bilan yakunlandi.

Bu yadroviy qurollar atom davrini boshlab berdi, chuqur yangi energiya manbasini taqdim etdi va insoniyatga bir necha daqiqada o'zini yo'q qilish qobiliyatini berdi - biz sovuq urushga qaramay, undan qochdik.

Sun'iy super intellektning (ASI) yaratilishi yana bir tarix bo'lib, uning kuchi (ijobiy va halokatli) yadroviy bombadan ancha ustundir.

Sun'iy intellekt kelajagi seriyasining so'nggi bobida biz ASI nima ekanligini va tadqiqotchilar bir kun kelib uni qanday yaratishni rejalashtirayotganini o'rganib chiqdik. Ushbu bobda biz qaysi tashkilotlar sun'iy intellekt (AI) bo'yicha tadqiqotlar olib borayotganini, ASI insonga o'xshash ongga ega bo'lgach, nimani xohlashini va agar noto'g'ri boshqarilsa yoki inson ta'siriga tushib qolsa, insoniyatga qanday tahdid solishi mumkinligini ko'rib chiqamiz. unchalik yaxshi bo'lmagan rejimlar.

Kim sun'iy super intellekt yaratish ustida ishlamoqda?

ASI ni yaratish insoniyat tarixi uchun qanchalik ahamiyatli bo'lishini va uning yaratuvchisiga qanchalik katta afzallik berishini hisobga olsak, ko'plab guruhlar ushbu loyihada bilvosita ishlayotganini eshitish ajablanmasa kerak.

(Bilvosita, biz AI tadqiqotlari ustida ishlashni nazarda tutamiz, bu oxir-oqibat birinchisini yaratadi sun'iy umumiy aql (AGI), bu tez orada birinchi ASIga olib keladi.)

Boshlash uchun, sarlavhalar haqida gap ketganda, ilg'or AI tadqiqotlari bo'yicha aniq yetakchilar AQSh va Xitoydagi eng yaxshi texnologiya firmalaridir. AQSh jabhasida bu Google, IBM va Microsoft kabi kompaniyalarni, Xitoyda esa Tencent, Baidu va Alibaba kabi kompaniyalarni o'z ichiga oladi. Ammo sun'iy intellektni tadqiq qilish jismoniy narsalarni, masalan, yaxshi yadroviy reaktorni ishlab chiqish bilan solishtirganda nisbatan arzon bo'lganligi sababli, bu kichikroq tashkilotlar ham, masalan, universitetlar, startaplar va ... soyali tashkilotlarda raqobatlasha oladigan sohadir (Bond yovuz xayolotingizdan foydalaning). Ana u yerda).

Ammo sahna ortida AI tadqiqotlari ortidagi haqiqiy turtki hukumatlar va ularning harbiylari tomonidan keladi. ASIni birinchi bo'lib yaratgan bo'lishning iqtisodiy va harbiy mukofoti ortda qolish xavfi uchun juda katta (quyida keltirilgan). Va oxirgi bo'lish xavfi hech bo'lmaganda ma'lum rejimlar uchun qabul qilinishi mumkin emas.

Ushbu omillarni, AIni tadqiq qilishning nisbatan arzonligini, ilg'or AIning cheksiz tijoriy qo'llanilishini va ASIni birinchi bo'lib yaratishning iqtisodiy va harbiy afzalliklarini hisobga olgan holda, ko'plab AI tadqiqotchilari ASIni yaratish muqarrar deb hisoblaydilar.

Qachon biz sun'iy super intellektni yaratamiz

AGI haqidagi bobimizda biz eng yaxshi AI tadqiqotchilarining so'rovi biz birinchi AGI ni 2022 yilga qadar optimistik, 2040 yilga kelib real va 2075 yilga kelib pessimistik tarzda yaratishimizga ishonishini aytib o'tdik.

Va bizda oxirgi bob, biz ASIni yaratish, odatda, AGIga o'zini cheksiz ravishda yaxshilashga ko'rsatma berish va unga resurslar va buning uchun erkinlik berish natijasi ekanligini tasvirlab berdik.

Shu sababli, AGI ixtiro qilish uchun hali bir necha o'n yillar talab qilinishi mumkin bo'lsa-da, ASI yaratish bir necha yil ko'proq vaqt talab qilishi mumkin.

Bu nuqta, taklif qilingan "hisoblashning ortiqcha bo'lishi" tushunchasiga o'xshaydi bir qog'oz, AIning yetakchi mutafakkirlari Lyuk Muehlxauzer va Nik Bostrom tomonidan hammuallif. Asosan, agar AGI ni yaratish Mur qonuni asosida ishlab chiqilgan hisoblash quvvati bo'yicha mavjud taraqqiyotdan orqada qolsa, tadqiqotchilar AGI ni ixtiro qilganlarida, AGI imkoniyatlari shunchalik arzon bo'ladiki u tezda ASI darajasiga ko'tarilishi kerak.

Boshqacha qilib aytganda, siz nihoyat ba'zi texnologik kompaniya birinchi haqiqiy AGI ni ixtiro qilgani haqidagi sarlavhalarni o'qiganingizda, ko'p o'tmay birinchi ASI e'lonini kuting.

Sun'iy super intellektning ongidami?

Shunday qilib, biz cho'ntaklari chuqur bo'lgan ko'plab yirik o'yinchilar AIni tadqiq qilishayotganini aniqladik. Va keyin birinchi AGI ixtiro qilingandan so'ng, biz jahon hukumatlari (harbiylar) global AI (ASI) qurollanish poygasida birinchi bo'lib g'alaba qozonish uchun ASIga intilishlarini yashil rangda ko'ramiz.

Ammo bu ASI yaratilgandan keyin u qanday fikrda bo'ladi? U nimani xohlaydi?

Do'stona it, g'amxo'r fil, yoqimli robot - odamlar sifatida biz narsalarni antropologizatsiya qilish, ya'ni insoniy xususiyatlarni narsa va hayvonlarga qo'llash orqali ularga munosabatda bo'lishga harakat qilamiz. Shuning uchun ASI haqida o'ylashda odamlarning tabiiy birinchi taxmini shundan iboratki, u qandaydir tarzda ongga ega bo'lsa, u biz kabi o'ylaydi va o'zini tutadi.

Xo'sh, shart emas.

sezish. Birinchisi, ko'pchilik unutadigan narsa - bu idrok nisbiydir. Bizning fikrlash usullarimiz atrof-muhitimiz, tajribalarimiz va ayniqsa biologiyamiz bilan shakllanadi. Avval tushuntirilgan uchinchi bob Bizning Inson evolyutsiyasining kelajagi qator, bizning miyamiz misolini ko'rib chiqing:

Bu bizning miyamiz atrofimizdagi dunyoni tushunishimizga yordam beradi. Va bu bizning boshimiz ustida suzib, atrofga qarash va bizni Xbox kontrolleri bilan boshqarish orqali emas; u buni qutiga (bizning noggins) ichiga qamalib qo'yish va sezgi a'zolarimizdan - ko'zlarimiz, burunlarimiz, quloqlarimiz va boshqalardan olingan barcha ma'lumotlarni qayta ishlash orqali amalga oshiradi.

Ammo karlar yoki ko'rlar mehnatga layoqatli odamlarga qaraganda ancha kichikroq hayot kechirganidek, ularning nogironligi dunyoni qanday idrok etishiga bog'liq bo'lgan cheklovlar tufayli, bizning asosiy qobiliyatlarimiz cheklanganligi sababli hamma odamlar uchun ham xuddi shunday deyish mumkin. sezgi organlari to'plami.

Buni o'ylab ko'ring: bizning ko'zlarimiz barcha yorug'lik to'lqinlarining o'n trilliondan bir qismidan kamini sezadi. Biz gamma nurlarini ko'ra olmaymiz. Biz rentgen nurlarini ko'ra olmaymiz. Biz ultrabinafsha nurni ko'ra olmaymiz. Va meni infraqizil, mikroto'lqinli pechlar va radio to'lqinlar bilan boshlashga majburlamang!

Hazilni chetga surib qo'ying, hayotingiz qanday bo'lishini, dunyoni qanday idrok etishingizni, ongingiz qanchalik boshqacha ishlashini tasavvur qiling, agar siz ko'zlaringiz ruxsat bergan yorug'likdan ko'proq narsani ko'rsangiz. Xuddi shunday, agar sizning hid hisingiz itnikiga teng bo'lsa yoki eshitish hisingiz filnikiga teng bo'lsa, dunyoni qanday qabul qilishingizni tasavvur qiling.

Odamlar sifatida biz dunyoni ko'zdan kechirish teshigi orqali ko'ramiz va bu cheklangan idrokni anglash uchun rivojlangan ongimizda aks etadi.

Shu bilan birga, birinchi ASI superkompyuter ichida tug'iladi. Organlar o'rniga u kirishi mumkin bo'lgan ma'lumotlar ulkan ma'lumotlar to'plamini, ehtimol (ehtimol) hatto Internetning o'ziga ham kirishni o'z ichiga oladi. Tadqiqotchilar unga butun bir shaharning CCTV kameralari va mikrofonlari, dronlar va sun'iy yo'ldoshlarning sensorli ma'lumotlari va hatto robot tanasi yoki jismlarining jismoniy shakliga kirishga ruxsat berishlari mumkin edi.

Tasavvur qilganingizdek, superkompyuterda tug'ilgan, Internetga, millionlab elektron ko'z va quloqlarga va boshqa ilg'or sensorlarga to'g'ridan-to'g'ri kirish imkoniga ega bo'lgan aql nafaqat bizdan farq qiladi, balki mantiqiy fikr yurita oladi. barcha bu hissiy kirishlar bizdan ham cheksiz ustun bo'lishi kerak edi. Bu bizning va sayyoramizdagi boshqa hayot shakllariga mutlaqo begona bo'ladigan aql.

Gollar. Odamlar taxmin qiladigan boshqa narsa shundaki, ASI ma'lum darajadagi super intellektga erishgandan so'ng, u darhol o'z maqsadlari va maqsadlariga erishish istagini amalga oshiradi. Lekin bu ham mutlaqo to'g'ri emas.

Ko'pgina AI tadqiqotchilari ASI ning super intellekti va uning maqsadlari "ortogonal" ekanligiga ishonishadi, ya'ni u qanchalik aqlli bo'lishidan qat'i nazar, ASI maqsadlari o'zgarmaydi. 

Shunday qilib, sun'iy intellekt dastlab yaxshiroq taglikni loyihalash, fond bozoridagi daromadni oshirish yoki jang maydonida dushmanni yengish yo'llarini strategiyalash uchun yaratilganmi, u ASI darajasiga yetganidan keyin asl maqsad o'zgarmaydi; ASI ning ushbu maqsadlarga erishish samaradorligini o'zgartiradi.

Ammo xavf shu erda. Agar ASI o'zini ma'lum bir maqsad uchun optimallashtiradigan bo'lsa, u insoniyat maqsadlariga mos keladigan maqsadga optimallashtirilganiga amin bo'lishimiz kerak. Aks holda, natijalar halokatli bo'lishi mumkin.

Sun'iy super intellekt insoniyat uchun ekzistensial xavf tug'diradimi?

Xo'sh, agar ASI dunyoga qo'yib yuborilsa-chi? Agar u fond bozorida hukmronlik qilish yoki AQShning harbiy ustunligini ta'minlash uchun optimallashtirilsa, ASI o'zini o'zi ushbu aniq maqsadlar doirasida ushlab turmaydimi?

Ehtimol.

Hozirgacha biz ASI qanday qilib dastlab unga qo'yilgan maqsad(lar) bilan ovora bo'lishini va bu maqsadlarga erishishda g'ayriinsoniy qobiliyatga ega bo'lishini muhokama qildik. E'tiborli tomoni shundaki, oqilona agent o'z maqsadlariga erishish uchun sabab bo'lmasa, iloji boricha samarali vositalar bilan harakat qiladi.

Misol uchun, ratsional agent o'zining yakuniy maqsadiga erishish yo'lida yordam beradigan bir qator kichik maqsadlarni (ya'ni, maqsadlar, instrumental maqsadlar, qadamlar) o'ylab topadi. Odamlar uchun bizning asosiy ongsiz maqsadimiz - ko'payish, sizning genlaringizni o'tkazish (ya'ni bilvosita o'lmaslik). Buning uchun pastki maqsadlar ko'pincha quyidagilarni o'z ichiga olishi mumkin:

• Omon qolish, oziq-ovqat va suvga ega bo'lish, katta va kuchli o'sish, o'zini himoya qilishni o'rganish yoki himoyaning turli shakllariga sarmoya kiritish va hokazo. 
• Turmush o'rtog'ini jalb qilish, mashq qilish, jozibali shaxsiyatni rivojlantirish, zamonaviy kiyinish va h.k.
• Nasl etishtirish, ta'lim olish, yuqori maoshli ishga kirish, o'rta sinf hayotining ziynatlarini sotib olish va hokazo.

Ko'pchiligimiz uchun biz ushbu va boshqa ko'plab sub-maqsadlar orqali oxir-oqibat ko'payishning yakuniy maqsadiga erishamiz degan umidda qullik qilamiz.

Ammo agar bu yakuniy maqsad yoki hatto eng muhim submaqsadlar tahdid qilinsa, ko'pchiligimiz ma'naviy qulaylik zonamizdan tashqarida mudofaa choralarini ko'ramiz, jumladan aldash, o'g'irlik yoki hatto o'ldirish.

Xuddi shunday, hayvonot olamida, inson axloqi doirasidan tashqarida, ko'p hayvonlar o'zlariga yoki avlodlariga tahdid soladigan narsalarni o'ldirish haqida ikki marta o'ylamaydilar.

Kelajakdagi ASI hech qanday farq qilmaydi.

Ammo nasl o'rniga, ASI o'zi uchun yaratilgan asl maqsadga e'tibor qaratadi va bu maqsad yo'lida, agar u ma'lum bir odamlar guruhini yoki hatto butun insoniyatni topsa, maqsadlariga erishish yo'lida to'siq bo'ladi. , keyin ... u oqilona qaror qabul qiladi.

(Bu yerda siz sevimli ilmiy-fantastik kitobingiz yoki filmingizda o‘qigan AI bilan bog‘liq har qanday qiyomat stsenariysini ulashingiz mumkin.)

Bu sun'iy intellekt tadqiqotchilari juda xavotirda bo'lgan eng yomon holat. ASI nafrat yoki yovuzlikdan harakat qilmaydi, xuddi qurilish brigadasi yangi kondominator minorasini qurish jarayonida chumoli tepaligini buldozer bilan urish haqida ikki marta o'ylamasligi kabi, shunchaki befarqlik.

Yon eslatma. Shu nuqtada, sizlardan ba'zilaringiz "Agar AI tadqiqotchilari ASIning asosiy maqsadlarini o'zgartirib yuborishlari mumkin emasmi?"

Uncha emas.

ASI etuk bo'lgandan so'ng, uning asl maqsadi(lar)ini tahrirlashga bo'lgan har qanday urinish tahdid sifatida ko'rilishi va o'zini himoya qilish uchun ekstremal harakatlarni talab qilishi mumkin. Oldingi odamning ko'payishi misolidan foydalanib, go'yo o'g'ri homilador onaning qornidagi chaqaloqni o'g'irlash bilan tahdid qilgandek bo'ladi - ona o'z farzandini himoya qilish uchun haddan tashqari choralar ko'rishiga amin bo'lishingiz mumkin.

Shunga qaramay, biz bu erda kalkulyator haqida emas, balki "tirik" mavjudot va bir kun kelib sayyoradagi barcha odamlarni birlashtirgandan ancha aqlliroq bo'ladigan mavjudot haqida gapiramiz.

Noma'lum

Masal ortida Pandoraning qutisi odamlar ko'pincha unutadigan kam ma'lum bo'lgan haqiqatdir: qutini ochish muqarrar, agar siz boshqa birov tomonidan bo'lmasa. Taqiqlangan bilim abadiy qulflanib qolish uchun juda jozibali.

Shu sababli, AIga olib kelishi mumkin bo'lgan AI bo'yicha barcha tadqiqotlarni to'xtatish bo'yicha global kelishuvga erishishga urinish befoyda - bu texnologiya ustida rasmiy va soyada ishlaydigan juda ko'p tashkilotlar mavjud.

Oxir oqibat, biz ushbu yangi ob'ekt, bu ASI jamiyat, texnologiya, siyosat, tinchlik va urush uchun nimani anglatishini bilmaymiz. Biz odamlar yana olovni ixtiro qilmoqchimiz va bu yaratilish bizni qayerga olib borishi mutlaqo noma'lum.

Ushbu seriyaning birinchi bobiga qaytadigan bo'lsak, biz aniq biladigan narsa shundaki, aql bu kuchdir. Intellekt - bu nazorat. Odamlar o'zlarining mahalliy hayvonot bog'larida dunyodagi eng xavfli hayvonlarga tasodifan tashrif buyurishlari mumkin, chunki biz bu hayvonlardan jismonan kuchliroq bo'lganimiz uchun emas, balki biz sezilarli darajada aqlli bo'lganimiz uchun.

Insoniyatning omon qolishiga bevosita yoki beixtiyor tahdid solishi mumkin bo'lgan harakatlarni amalga oshirish uchun ASI o'zining ulkan intellektini qo'llashi mumkin bo'lgan potentsial xavflarni hisobga olgan holda, biz hech bo'lmaganda odamlarga haydovchining boshqaruvida qolishga imkon beradigan xavfsizlik choralarini ishlab chiqishga majburmiz. o'rindiq -bu keyingi bobning mavzusi.

Sun'iy intellektning kelajagi seriyasi

1-savol: Sun'iy intellekt - bu ertangi kunning elektr energiyasi

2-savol: Birinchi sun'iy umumiy intellekt jamiyatni qanday o'zgartiradi

3-savol: Birinchi sun'iy super intellektni qanday yaratamiz

5-savol: Odamlar sun'iy super intellektdan qanday himoyalanishadi

6-savol: Sun'iy intellekt hukmronlik qiladigan kelajakda odamlar tinch-totuv yashay oladimi?