Quantumrun

TASVIR KREDIT: Quantumrun

Birinchi sun'iy super intellektni qanday yaratamiz: sun'iy intellektning kelajagi P3

Devid Tal, nashriyotchi, futurist
@DavidTalWrites
LinkedIn

Seshanba, 09 - 15:2020

Ikkinchi Jahon urushi davrida fashistlar qo'shinlari Evropaning ko'p qismini bosib o'tishdi. Ularning ilg'or qurollari, samarali urush sanoati, aqidaparastlar tomonidan boshqariladigan piyoda askarlari bor edi, lekin eng muhimi, ularda Enigma nomli mashina bor edi. Ushbu qurilma fashist kuchlariga standart aloqa liniyalari orqali bir-biriga Morze kodli xabarlarni yuborish orqali uzoq masofalarda xavfsiz hamkorlik qilish imkonini berdi; Bu inson kodini buzuvchilar uchun chidab bo'lmaydigan shifrlash mashinasi edi.

Yaxshiyamki, ittifoqchilar yechim topdilar. Enigmani buzish uchun ularga endi inson aqli kerak emas edi. Buning o'rniga, marhum Alan Tyuringning ixtirosi orqali ittifoqchilar inqilobiy yangi vositani yaratdilar. Britaniya bombasi, elektromexanik qurilma nihoyat fashistlarning maxfiy kodini shifrlagan va oxir-oqibat urushda g'alaba qozonishlariga yordam bergan.

Ushbu Bombe zamonaviy kompyuterga asos solgan.

Bombe loyihasini ishlab chiqishda Tyuring bilan birga ishlagan IJ Good, britaniyalik matematik va kriptolog edi. U bu yangi qurilma bir kun kelib olib kelishi mumkin bo'lgan o'yinning boshida ko'rdi. a.da 1965 ta qog'oz, u yozgan:

"O'ta aqlli mashina har qanday aqlli odamning barcha intellektual faoliyatidan ancha ustun turadigan mashina sifatida ta'riflansin. Mashinalarning dizayni ushbu intellektual faoliyatlardan biri bo'lganligi sababli, ultraintellektli mashina yanada yaxshi mashinalarni loyihalashi mumkin; Shubhasiz, "aql-idrok portlashi" sodir bo'ladi va insonning aql-zakovati ancha orqada qolar edi... Shunday qilib, birinchi o'ta aqlli mashina, agar mashina bizga qanday qilib buni amalga oshirishni aytib beradigan darajada itoatkor bo'lsa, inson qilish kerak bo'lgan oxirgi ixtirodir. uni nazorat ostida ushlab turish uchun”.

Birinchi sun'iy super intellektni yaratish

Hozirgacha “Sun’iy intellekt kelajagi” turkumida biz sun’iy intellektning (AI) uchta keng toifasini aniqladik. sun'iy tor intellekt (ANI) ga sun'iy umumiy aql (AGI), ammo ushbu seriyali bobda biz oxirgi toifaga e'tibor qaratamiz - AI tadqiqotchilari orasida hayajon yoki vahima hujumlarini keltirib chiqaradigan - sun'iy super intellekt (ASI).

ASI nima ekanligini tushunish uchun siz AI tadqiqotchilari birinchi AGI ni qanday yaratishiga ishonishlarini bayon qilgan oxirgi bobni o'ylab ko'rishingiz kerak. Asosan, bu katta ma'lumotlarni ta'minlaydigan yaxshi algoritmlarni (o'z-o'zini takomillashtirishga va insonga o'xshash o'rganish qobiliyatiga ixtisoslashgan) tobora kuchayib borayotgan hisoblash uskunalariga joylashtirilgan kombinatsiyani talab qiladi.

Ushbu bobda biz AGI aqli (u biz odamlar uchun odatiy deb hisoblaydigan o'z-o'zini takomillashtirish va o'rganish qobiliyatlarini qo'lga kiritgandan so'ng) oxir-oqibatda fikrlashning yuqori tezligi, rivojlangan xotira, tinimsiz ishlash va tinimsiz ishlash orqali inson ongidan qanday ustun turishini ham tasvirlab berdik. zudlik bilan yangilanish imkoniyati.

Ammo shuni ta'kidlash kerakki, AGI faqat o'zi foydalanishi mumkin bo'lgan apparat va ma'lumotlar chegaralarigacha o'zini-o'zi yaxshilaydi; bu chegara biz beradigan robot tanasiga yoki biz unga kirishga ruxsat bergan kompyuterlar miqyosiga qarab katta yoki kichik bo'lishi mumkin.

Ayni paytda, AGI va ASI o'rtasidagi farq shundaki, ikkinchisi nazariy jihatdan hech qachon jismoniy shaklda mavjud bo'lmaydi. U butunlay superkompyuter yoki superkompyuterlar tarmog'ida ishlaydi. Yaratuvchilarning maqsadlariga qarab, u Internetda saqlangan barcha ma'lumotlarga, shuningdek, Internetga va Internet orqali ma'lumotlarni uzatuvchi har qanday qurilma yoki insonga to'liq kirish huquqiga ega bo'lishi mumkin. Bu shuni anglatadiki, ushbu ASI qanchalik ko'p o'rganishi va qanchalik o'z-o'zini yaxshilashi mumkinligi haqida amaliy chegara bo'lmaydi.

Va bu ishqalanish.

Razvedka portlashini tushunish

AIlar oxir-oqibat AGIga aylanganda erishadigan bu o'z-o'zini takomillashtirish jarayoni (AI hamjamiyati bu jarayonni rekursiv o'zini-o'zi takomillashtirish deb ataydi) quyidagi kabi ko'rinadigan ijobiy teskari aloqa aylanishidan chiqib ketishi mumkin:

Yangi AGI yaratiladi, unga robot tanasi yoki katta ma'lumotlar to'plamiga kirish huquqi beriladi, so'ngra o'zini o'zi o'rgatish, uning intellektini yaxshilash kabi oddiy vazifa beriladi. Dastlab, bu AGI yangi tushunchalarni tushunish uchun kurashayotgan chaqaloqning IQ darajasiga ega bo'ladi. Vaqt o'tishi bilan u o'rtacha kattalar IQ darajasiga erishish uchun etarli darajada o'rganadi, lekin bu bilan to'xtamaydi. Ushbu yangi kashf etilgan kattalar IQ dan foydalanib, bu yaxshilanishni davom ettirish, uning IQ darajasi eng aqlli odamlarnikiga mos keladigan darajada davom etish osonroq va tezroq bo'ladi. Ammo yana takror aytaman, bu bilan tugamaydi.

Bu jarayon intellektning har bir yangi darajasida birikadi, daromadlarni tezlashtirish qonuniga amal qilib, u beqiyos darajadagi aql-zakovat darajasiga yetguncha, boshqacha qilib aytganda, agar nazorat qilinmasa va cheksiz resurslar berilsa, AGI o'z-o'zidan ASIga, ya'ni intellektga aylanadi. tabiatda hech qachon mavjud bo'lmagan.

IJ Gud ushbu "razvedka portlashi" yoki Nik Bostrom kabi zamonaviy sun'iy intellekt nazariyotchilari AIning "ko'tarilish" hodisasi deb ataganini birinchi marta aniqlagan.

Sun'iy super intellektni tushunish

Shu nuqtada, ba'zilaringiz, ehtimol, inson aqli va ASI aqli o'rtasidagi asosiy farq har ikki tomonning qanchalik tez o'ylashi mumkin deb o'ylayotgandirsiz. Va bu nazariy kelajak ASI odamlardan tezroq fikrlashi haqiqat bo'lsa-da, bu qobiliyat bugungi kompyuter sektorida allaqachon odatiy holdir - bizning smartfonimiz inson aqlidan tezroq o'ylaydi (hisoblaydi). Superkompyuter smartfondan millionlab marta tezroq o'ylaydi va kelajakdagi kvant kompyuteri hali ham tezroq o'ylaydi.

Yo'q, tezlik biz bu erda tushuntirayotgan aqlning xususiyati emas. Bu sifat.

Siz Samoyed yoki Corgi miyangizni xohlagancha tezlashtirishingiz mumkin, ammo bu tilni yoki mavhum g'oyalarni qanday talqin qilishni yangi tushunchaga aylantirmaydi. Qo'shimcha o'n yoki ikki yil bo'lsa ham, bu doggolar birdaniga kapitalistik va sotsialistik iqtisodiy tizim o'rtasidagi farqlarni tushunish u yoqda tursin, asboblarni qanday yasash yoki ulardan foydalanishni birdan anglamaydilar.

Aql-idrok haqida gap ketganda, odamlar hayvonlardan farqli tekislikda ishlaydi. Xuddi shunday, agar ASI o'zining to'liq nazariy salohiyatiga erishsa, ularning ongi o'rtacha zamonaviy insonning imkoni bo'lmagan darajada ishlaydi. Ayrim kontekst uchun keling, ushbu ASI ilovalarini ko'rib chiqaylik.

Qanday qilib sun'iy super intellekt insoniyat bilan birga ishlashi mumkin?

Agar ma'lum bir hukumat yoki korporatsiya ASI yaratishda muvaffaqiyatli bo'lsa, ular undan qanday foydalanishlari mumkin? Bostromning so'zlariga ko'ra, ushbu ASI olishi mumkin bo'lgan uchta alohida, ammo o'zaro bog'liq shakllar mavjud:

Oracle Bu erda biz ASI bilan xuddi Google qidiruv tizimi bilan o'zaro aloqada bo'lar edik; biz unga savol beramiz, lekin aytilgan savol qanchalik murakkab bo'lmasin, ASI unga mukammal va sizga va savolingiz kontekstiga moslashtirilgan tarzda javob beradi.
Genie. Bunday holda, biz ASIga ma'lum bir vazifani topshiramiz va u buyruq berilganidek bajaradi. Saraton kasalligini davolashni o'rganing. Bajarildi. NASAning Hubble kosmik teleskopidan olingan 10 yillik suratlar orqasida yashiringan barcha sayyoralarni toping. Bajarildi. Insoniyatning energiya talabini hal qilish uchun ishlaydigan termoyadroviy reaktorni yarating. Abrakadabra.
Hukmdor. Bu erda ASIga ochiq topshiriq beriladi va uni bajarish uchun erkinlik beriladi. Korporativ raqobatchimizdan AR-GE sirlarini o'g'irlang. "Oson." Bizning chegaralarimiz ichida yashiringan barcha xorijiy josuslarning kimligini bilib oling. "Ustida." Qo'shma Shtatlarning doimiy iqtisodiy farovonligini ta'minlash. "Muammo yo'q."

Endi men nima deb o'ylayotganingizni bilaman, bularning barchasi juda uzoqqa o'xshaydi. Shuning uchun ham shuni yodda tutish kerakki, u yerdagi har bir muammo/muammo, hattoki bugungi kunga qadar dunyoning eng yorqin ongini hayratda qoldirgan muammolar ham, ularning barchasi hal qilinishi mumkin. Ammo muammoning qiyinligi uni hal qilishda aql bilan o'lchanadi.

Boshqacha qilib aytadigan bo'lsak, muammoga qanchalik ko'p ong qo'llanilsa, ushbu muammoning echimini topish osonroq bo'ladi. Har qanday qiyinchilik. Bu go‘dakning nega to‘rtburchak blokni dumaloq teshikka sig‘dira olmasligini tushunish uchun kurashayotganini tomosha qilayotgan kattalar o‘xshaydi – kattalar uchun chaqaloqqa blok kvadrat teshikdan o‘tishi kerakligini ko‘rsatish bolalar o‘yini bo‘lardi.

Xuddi shunday, agar kelajakdagi ASI o'zining to'liq salohiyatiga erishsa, bu aql ma'lum koinotdagi eng kuchli intellektga aylanadi - qanchalik murakkab bo'lmasin, har qanday muammoni hal qilish uchun etarlicha kuchli.

Shuning uchun ko'plab AI tadqiqotchilari ASIni odam qilishlari kerak bo'lgan so'nggi ixtiro deb atashadi. Agar insoniyat bilan birga ishlashga ishonch hosil qilsak, u bizga dunyodagi eng dolzarb muammolarni hal qilishda yordam beradi. Biz hatto undan barcha kasalliklarni yo'q qilishni va biz bilganimizdek qarishni tugatishni so'rashimiz mumkin. Insoniyat birinchi marta o'limni doimiy ravishda aldab, yangi farovonlik davriga kirishi mumkin.

Ammo buning aksi ham mumkin.

Aql - bu kuch. Agar yomon aktyorlar tomonidan noto'g'ri boshqarilsa yoki ko'rsatma berilsa, bu ASI zulmning yakuniy vositasiga aylanishi mumkin yoki u insoniyatni butunlay yo'q qilishi mumkin - o'ylang, Terminatordan Skynet yoki Matritsadagi Arxitektor.

Darhaqiqat, hech qanday ekstremal bo'lishi mumkin emas. Kelajak har doim utopiklar va distopiyachilar bashorat qilganidan ancha chigalroqdir. Shuning uchun endi biz ASI tushunchasini tushunganimizdan so'ng, ushbu seriyaning qolgan qismi ASI jamiyatga qanday ta'sir qilishi, jamiyat yolg'on ASIdan qanday himoyalanishi va odamlar va AI yonma-yon yashasa, kelajak qanday ko'rinishini o'rganadi. -yon. Davom eting.