Quantumrun

ЗУРГИЙН ЗЭЭЛ: Quantumrun

Бид анхны хиймэл оюун ухааныг хэрхэн бүтээх вэ: Хиймэл оюун ухааны ирээдүй P3

Дэвид Тал, Хэвлэн нийтлэгч, футурист
@DavidTalWrites
LinkedIn

Мягмар, 09/15/2020 - 13:17

Дэлхийн XNUMX-р дайны гүнд нацистууд Европын ихэнх хэсгийг дайран өнгөрч байв. Тэд дэвшилтэт зэвсэг, дайны үеийн үр ашигтай үйлдвэрлэл, фанатуудаар удирдуулсан явган цэрэгтэй байсан ч хамгийн гол нь Enigma нэртэй машинтай байв. Энэхүү төхөөрөмж нь нацист хүчинд стандарт харилцаа холбооны шугамаар Морзын кодтой мессеж илгээх замаар хол зайд аюулгүй хамтран ажиллах боломжийг олгосон; Энэ нь хүний код таслагчдад үл нэвтрэх шифр машин байв.

Аз болоход холбоотнууд шийдлийг олсон. Тэдэнд Enigma-г задлахад хүний оюун ухаан хэрэггүй болсон. Харин оронд нь талийгаач Алан Тюрингийн бүтээлээр холбоотнууд хувьсгалт шинэ хэрэгсэл бүтээжээ. Британийн бөмбөг, нацистуудын нууц кодыг тайлж эцэст нь дайнд ялахад нь тусалсан цахилгаан механик төхөөрөмж.

Энэхүү Bombe нь орчин үеийн компьютер болох үндэс суурийг тавьсан юм.

Бомбэ бүтээх төслийн үеэр Тюрингтэй хамт ажиллаж байсан нь Британийн математикч, криптологич ИЖ Гуд байв. Тэрээр энэ шинэ төхөөрөмж хэзээ нэгэн цагт авчирч чадах эцсийн тоглолтын эхэн үед харсан. Дотор 1965 цаас, тэр бичсэн:

"Хэт ухаалаг машиныг ухаантай байсан ч аливаа хүний оюуны үйл ажиллагаанаас хол давж чадах машин гэж тодорхойлъё. Машинуудын дизайн нь эдгээр оюуны үйл ажиллагааны нэг учраас хэт ухаалаг машин нь илүү сайн машинуудыг зохион бүтээх боломжтой; тэгвэл эргэлзээгүй "Тагнуулын тэсрэлт" болж, хүний оюун ухаан маш их хоцрох болно... Тиймээс анхны хэт ухаалаг машин нь хүний хийх ёстой хамгийн сүүлийн шинэ бүтээл юм, хэрэв машин нь бидэнд хэрхэн яаж хийхийг хэлж өгөхүйц эелдэг байх ёстой. хяналтанд байлгахын тулд."

Анхны хиймэл оюун ухааныг бий болгох

Өнөөг хүртэл бид "Хиймэл оюун ухааны ирээдүй" цувралдаа хиймэл оюун ухааныг (AI) гурван том ангиллыг тодорхойлсон. хиймэл нарийн оюун ухаан (ANI) хүртэл хиймэл ерөнхий оюун ухаан (AGI), гэхдээ энэ цуврал бүлэгт бид хиймэл оюун ухаан судлаачдын дунд сэтгэлийн хөөрөл эсвэл үймээн дайралтыг бий болгодог сүүлийн ангилалд анхаарлаа хандуулах болно - хиймэл супер оюун ухаан (ASI).

ASI гэж юу болох талаар толгойгоо эргүүлэхийн тулд хиймэл оюун ухаан судлаачид анхны AGI-ийг бий болгоно гэж хэрхэн үзэж байгаа талаар дурдсан сүүлийн бүлгийг эргэн санах хэрэгтэй. Үндсэндээ энэ нь улам хүчирхэг болж буй тооцоолох техник хангамжид агуулагдах том өгөгдлийг тэжээх илүү сайн алгоритмуудыг (өөрийгөө сайжруулах, хүнтэй адил сурах чадвараар мэргэшсэн) хослуулах шаардлагатай болно.

Энэ бүлэгт бид мөн AGI оюун ухаан (хүмүүс бидний ердийн зүйл гэж үздэг өөрийгөө хөгжүүлэх, суралцах чадварыг олж авсны дараа) бодлын дээд зэргийн хурд, сайжруулсан ой санамж, уйгагүй гүйцэтгэл, оюун ухаанаараа хүний оюун ухааныг хэрхэн давж гарахыг мөн тодорхойлсон. шуурхай шинэчлэх боломжтой.

Гэхдээ энд AGI нь зөвхөн өөрийн хандах боломжтой техник хангамж, өгөгдлийн хязгаарт хүртэл өөрийгөө сайжруулах болно гэдгийг анхаарах нь чухал юм; Энэ хязгаар нь бидний өгсөн роботын бие эсвэл бидний нэвтрэхийг зөвшөөрдөг компьютерийн цар хүрээнээс хамаарч том эсвэл жижиг байж болно.

Үүний зэрэгцээ, AGI болон ASI-ийн ялгаа нь сүүлийнх нь онолын хувьд хэзээ ч физик хэлбэрээр оршин тогтнохгүй байх явдал юм. Энэ нь бүхэлдээ супер компьютер эсвэл суперкомпьютеруудын сүлжээнд ажиллах болно. Бүтээгчдийн зорилгоос хамааран энэ нь интернетэд хадгалагдсан бүх өгөгдөл, мөн интернет рүү болон интернетээр өгөгдөл дамжуулах ямар ч төхөөрөмж эсвэл хүнээс бүрэн хандах боломжтой. Энэ нь энэ АЗИ хэр ихийг сурч, хэр зэрэг өөрийгөө сайжруулахад практик хязгаарлалт байхгүй гэсэн үг юм.

Энэ бол үрэлт юм.

Тагнуулын дэлбэрэлтийг ойлгох

AI-ууд нь AGI болохынхоо хэрээр өөрийгөө сайжруулах энэхүү үйл явц (AI-ийн нийгэмлэгийн рекурсив өөрийгөө сайжруулах гэж нэрлэдэг үйл явц) нь иймэрхүү харагдах эерэг санал хүсэлтийн гогцоог арилгах боломжтой:

Шинэ AGI бүтээгдэж, роботын бие эсвэл том өгөгдлийн багцад хандах эрх олгож, дараа нь өөрийгөө сургах, оюун ухааныг нь сайжруулах энгийн даалгавар өгдөг. Эхлээд энэ AGI нь шинэ ойлголтыг ойлгоход хэцүү нярай хүүхдийн IQ-тэй байх болно. Цаг хугацаа өнгөрөх тусам дундаж насанд хүрсэн хүний IQ-д хүрэх хангалттай суралцдаг ч үүгээр зогсохгүй. Шинээр олдсон насанд хүрэгчдийн IQ-г ашигласнаар энэ сайжруулалтыг үргэлжлүүлэх нь илүү хялбар бөгөөд хурдан болж, IQ нь хамгийн ухаалаг хүмүүсийнхтэй таарч байна. Гэхдээ дахин хэлэхэд энэ нь үүгээр зогсохгүй.

Энэхүү үйл явц нь оюун ухааны шинэ түвшин бүрт нэгдэж, өгөөжийг хурдасгах хуулийг дагаж, асар их оюун ухааны тоолж баршгүй түвшинд хүрэх хүртэл явагддаг—өөрөөр хэлбэл хяналтгүй орхиж, хязгааргүй нөөцөөр хангавал AGI өөрөө өөрийгөө ASI буюу оюун ухаан болгон сайжруулна. байгальд урьд өмнө хэзээ ч байгаагүй.

IJ Good энэ "тагнуулын тэсрэлт" буюу Ник Бостром зэрэг орчин үеийн хиймэл оюун ухааны онолчид хиймэл оюун ухааны "хөөрөх" үйл явдлыг тайлбарлахдаа үүнийг анх олж мэдсэн юм.

Хиймэл оюун ухааныг ойлгох

Энэ үед та нарын зарим нь хүний оюун ухаан болон ASI-ийн оюун ухаан хоёрын гол ялгаа нь аль аль тал нь хэр хурдан сэтгэж чаддагт л байдаг гэж бодож байгаа байх. Энэхүү онолын ирээдүйн ASI нь хүнээс илүү хурдан сэтгэх нь үнэн боловч энэ чадвар нь өнөөгийн компьютерийн салбарт аль хэдийн нэлээд түгээмэл болсон - манай ухаалаг утас нь хүний оюун ухаанаас илүү хурдан сэтгэдэг (тооцоолдог). супер компьютер ухаалаг гар утаснаас хэдэн сая дахин хурдан сэтгэдэг бөгөөд ирээдүйн квант компьютер ч илүү хурдан сэтгэх болно.

Үгүй ээ, хурд бол бидний энд тайлбарлаж буй оюун ухааны онцлог шинж чанар биш юм. Энэ бол чанар.

Та Samoyed эсвэл Corgi-ийн тархийг хүссэнээрээ хурдасгаж чадна, гэхдээ энэ нь хэл, хийсвэр санааг хэрхэн тайлбарлах талаар шинэ ойлголт болж чадахгүй. Арав, хоёр жилийн дараа ч гэсэн эдгээр нохойнууд капиталист болон социалист эдийн засгийн тогтолцооны ялгааг ойлгох нь бүү хэл, багаж хэрэгслийг хэрхэн хийх, ашиглахаа гэнэт ойлгохгүй байх болно.

Тагнуулын тухайд хүмүүс амьтнаас өөр хавтгайд ажилладаг. Үүний нэгэн адил, ASI нь онолын бүрэн чадавхидаа хүрсэн тохиолдолд тэдний оюун ухаан орчин үеийн дундаж хүний хүрэхээс хамаагүй өндөр түвшинд ажиллах болно. Зарим контекстийн хувьд эдгээр ASI-ийн хэрэглээг харцгаая.

Хиймэл оюун ухаан хүн төрөлхтний хажууд хэрхэн ажиллах вэ?

Тодорхой засгийн газар эсвэл корпораци ASI-г бий болгоход амжилттай болсон гэж үзвэл тэд үүнийг хэрхэн ашиглаж болох вэ? Бостромын хэлснээр эдгээр ASI нь гурван тусдаа боловч холбоотой хэлбэрүүд байж болно:

Oracle. Энд бид Google хайлтын системтэй адил ASI-тай харьцах болно; Бид түүнээс асуулт асуух болно, гэхдээ хэчнээн төвөгтэй асуулт байсан ч ASI нь танд болон таны асуултын нөхцөл байдалд тохирсон байдлаар төгс хариулах болно.
Genie. Энэ тохиолдолд бид ASI-д тодорхой даалгавар өгөх бөгөөд энэ нь тушаалын дагуу гүйцэтгэх болно. Хорт хавдрыг эмчлэх аргыг судал. Дууслаа. НАСА-гийн Хаббл сансрын дурангаас 10 жилийн турш хадгалагдсан зургуудын дотор нуугдаж буй бүх гаригуудыг олоорой. Дууслаа. Хүн төрөлхтний эрчим хүчний хэрэгцээг шийдвэрлэхийн тулд ажиллаж байгаа хайлуулах реакторын инженер. Абракадабра.
Эрхт. Энд ASI-д нээлттэй даалгавар өгч, түүнийг хэрэгжүүлэх эрх чөлөөг өгдөг. Манай компанийн өрсөлдөгчөөс R&D нууцыг хулгайл. "Амархан." Манай хил дотор нуугдаж буй гадаадын бүх тагнуулчдын хэн болохыг олж мэдээрэй. "Үүндээр." АНУ-ын эдийн засгийн хөгжил цэцэглэлтийг хангах. "Асуудалгүй."

Одоо би таны юу бодож байгааг мэдэж байна, энэ бүхэн үнэхээр хол сонсогдож байна. Тийм ч учраас өнөөг хүртэл дэлхийн хамгийн гэгээлэг оюун ухааныг төөрөлдүүлж байсан асуудал/сорилт бүр бүгд шийдэгдэх боломжтой гэдгийг санах нь чухал юм. Гэхдээ аливаа асуудлын хүндрэл нь түүнийг шийдвэрлэх оюун ухаанаар хэмжигддэг.

Өөрөөр хэлбэл, оюун ухаан нь сорилтод хэр их анхаарал хандуулна, тэр бэрхшээлийн шийдлийг олоход хялбар болно. Аливаа сорилт. Энэ нь том хүн нялх хүүхдийг яагаад дугуй нүхэнд дөрвөлжин блок багтаж чадахгүй байгааг ойлгохыг хичээж буйг харж байгаатай адил юм—насанд хүрсэн хүний хувьд нялх хүүхдэд блок дөрвөлжин нүхээр багтах ёстойг харуулах нь хүүхдийн тоглоом болно.

Үүний нэгэн адил, хэрэв энэ ирээдүйн ASI нь бүрэн хүчин чадлаараа хүрч чадвал энэ оюун ухаан нь мэдэгдэж буй орчлон ертөнцийн хамгийн хүчирхэг оюун ухаан болох болно - хичнээн төвөгтэй байсан ч аливаа сорилтыг шийдвэрлэх хангалттай хүчтэй.

Тийм ч учраас олон хиймэл оюун ухаан судлаачид ASI-г хүний хийх ёстой хамгийн сүүлийн шинэ бүтээл гэж нэрлэж байна. Хэрэв хүн төрөлхтөнтэй мөр зэрэгцэн ажиллахад итгэлтэй байвал энэ нь дэлхийн хамгийн тулгамдсан бүх асуудлыг шийдвэрлэхэд тусална. Бид түүнээс бүх өвчнийг устгаж, бидний мэддэг шиг хөгшрөлтийг зогсоохыг хүсч болно. Хүн төрөлхтөн анх удаа үхлийг бүрмөсөн хуурч, хөгжил цэцэглэлтийн шинэ эринд орж чадна.

Гэхдээ эсрэгээрээ бас боломжтой.

Оюун ухаан бол хүч юм. Хэрэв муу жүжигчид буруу удирдаж, зааварчилбал энэ ASI нь дарангуйллын эцсийн хэрэгсэл болж, эсвэл хүн төрөлхтнийг бүрмөсөн устгаж магадгүй юм—Терминаторын Скайнет эсвэл Матрицын Архитекторын тухай бодоорой.

Үнэн хэрэгтээ хэт туйлшралын аль нь ч боломжгүй юм. Ирээдүй нь утопист, дистопистуудын таамаглаж байснаас үргэлж илүү замбараагүй байдаг. Тийм ч учраас одоо бид ASI гэсэн ойлголтыг ойлгож байгаа тул энэ цувралын үлдсэн хэсэг нь ASI нь нийгэмд хэрхэн нөлөөлөх, нийгэм хуурамч ASI-аас хэрхэн хамгаалах, мөн хүмүүс болон хиймэл оюун ухаан зэрэгцэн амьдарвал ирээдүй хэрхэн харагдахыг судлах болно. - тал. Үргэлжлүүлэн уншина уу.