آیا انسان ها در آینده ای که هوش مصنوعی بر آن تسلط دارد با آرامش زندگی خواهند کرد؟ - آینده هوش مصنوعی P6

وقتی صحبت از انسانیت به میان می‌آید، بیایید بگوییم که در مورد زندگی مشترک با «دیگری» بهترین سابقه را نداریم. چه نسل کشی یهودیان در آلمان باشد و چه توتسی ها در رواندا، به بردگی گرفتن آفریقایی ها توسط کشورهای غربی یا بردگان مستعفی آسیای جنوب شرقی. اکنون کار در کشورهای حوزه خلیج فارس در خاورمیانه یا حتی آزار و اذیت فعلی مکزیکی ها در ایالات متحده یا پناهندگان سوری در کشورهای منتخب اتحادیه اروپا. در مجموع، ترس غریزی ما از کسانی که آنها را متفاوت از خود می‌دانیم، می‌تواند ما را به اقداماتی سوق دهد که یا کنترل می‌کنند یا (در موارد شدید) کسانی را که می‌ترسیم نابود می‌کنند.

آیا وقتی هوش مصنوعی واقعاً شبیه انسان می شود، می توانیم انتظار متفاوتی داشته باشیم؟

آیا در آینده ای زندگی خواهیم کرد که در آن با موجودات ربات هوش مصنوعی مستقل همزیستی کنیم، همانطور که در حماسه جنگ ستارگان دیده می شود، یا در عوض موجودات هوش مصنوعی را همانطور که در فرنچایز Bladerunner نشان داده شده است مورد آزار و شکنجه و بردگی قرار خواهیم داد؟ (اگر هیچ یک از این محصولات اصلی فرهنگ پاپ را ندیده اید، منتظر چه چیزی هستید؟)

اینها سوالاتی هستند که این فصل پایانی این فصل است آینده هوش مصنوعی سریال امیدوار است پاسخ دهد. این مهم است زیرا اگر پیش‌بینی‌های محققان برجسته هوش مصنوعی درست باشد، در اواسط قرن، ما انسان‌ها دنیای خود را با انبوهی از موجودات هوش مصنوعی به اشتراک خواهیم گذاشت – بنابراین بهتر است راهی برای زندگی مسالمت‌آمیز در کنار آنها پیدا کنیم.

آیا انسان ها می توانند با هوش مصنوعی رقابت کنند؟

باور کنیم یا نه، ما می توانیم.

انسان متوسط ​​(در سال 2018) در حال حاضر حتی از پیشرفته ترین هوش مصنوعی برتر است. همانطور که در ما مشخص شده است فصل افتتاحیههوش مصنوعی امروزی (ANI) بسیار بهتر از انسان است خاص وظایفی که برای آنها طراحی شده بودند، اما وقتی از آنها خواسته شد که کاری خارج از آن طرح را بر عهده بگیرند، ناامیدکننده هستند. از سوی دیگر، انسان‌ها، همراه با بسیاری از حیوانات دیگر روی این سیاره، در سازگاری ما برای پیگیری اهداف در طیف وسیعی از محیط‌ها عالی هستند. تعریف از هوش مورد حمایت دانشمندان کامپیوتر مارکوس هاتر و شین لگ.

این خصیصه سازگاری جهانی چندان چیز مهمی به نظر نمی رسد، اما نیازمند توانایی ارزیابی یک مانع برای رسیدن به هدف، برنامه ریزی آزمایشی برای غلبه بر آن مانع، انجام اقدامی برای اجرای آزمایش، یادگیری از نتایج و سپس ادامه است. برای دنبال کردن هدف تمام زندگی روی کره زمین به طور غریزی این حلقه سازگاری را هزاران تا میلیون ها بار در روز اجرا می کند، و تا زمانی که هوش مصنوعی بتواند همین کار را بیاموزد، ابزارهای کاری بی جان باقی خواهند ماند.

اما می‌دانم به چه فکر می‌کنید: کل این مجموعه در مورد آینده هوش مصنوعی پیش‌بینی می‌کند که با توجه به زمان کافی، موجودیت‌های هوش مصنوعی در نهایت به اندازه انسان‌ها باهوش‌تر خواهند شد و اندکی پس از آن، بسیار باهوش‌تر از انسان‌ها خواهند شد.

این فصل این احتمال را مورد مناقشه قرار نمی دهد.

اما دامی که بسیاری از مفسران در آن گرفتار می‌شوند این است که فکر می‌کنند چون تکامل میلیون‌ها سال طول کشیده تا مغزهای بیولوژیکی تولید کند، زمانی که هوش مصنوعی به نقطه‌ای برسد که بتواند سخت‌افزار و نرم‌افزار خود را در چرخه‌هایی به‌اندازه سال‌ها، ماه‌ها بهبود بخشد، به طرز ناامیدکننده‌ای پیشی خواهد گرفت. ، شاید حتی روزها

خوشبختانه، فرگشت تا حدودی به لطف پیشرفت‌های اخیر در مهندسی ژنتیک، درگیر جنگ است.

اولین بار در سری ما در مورد پوشش داده شد آینده تکامل انسان، ژنتیک شناسان شناسایی کرده اند 69 ژن مجزا که بر هوش تأثیر می‌گذارند، اما روی هم تنها کمتر از هشت درصد بر ضریب هوشی تأثیر می‌گذارند. این بدان معناست که ممکن است صدها یا هزاران ژن وجود داشته باشد که بر هوش تأثیر می گذارد و ما نه تنها باید همه آنها را کشف کنیم، بلکه باید یاد بگیریم که چگونه به طور قابل پیش بینی همه آنها را با هم دستکاری کنیم قبل از اینکه حتی بتوانیم به دستکاری جنین فکر کنیم. DNA 

اما در اواسط دهه 2040، زمینه ژنومیک به نقطه‌ای بالغ می‌شود که می‌توان ژنوم جنین را به طور کامل ترسیم کرد و ویرایش‌های DNA آن را می‌توان شبیه‌سازی کامپیوتری کرد تا به‌طور دقیق پیش‌بینی کند که چگونه تغییرات در ژنوم آن بر آینده فیزیکی و عاطفی جنین تأثیر می‌گذارد. و مهمترین در این بحث، ویژگی های هوش آن است.

به عبارت دیگر، در اواسط قرن، زمانی که اکثر محققان هوش مصنوعی بر این باورند که هوش مصنوعی به هوش سطح انسان می‌رسد و احتمالاً از آن پیشی می‌گیرد، ما توانایی اصلاح ژنتیکی نسل‌های کامل نوزادان انسان را به‌دست خواهیم آورد تا به طور قابل‌توجهی باهوش‌تر از نسل‌های قبلی باشند. آنها

ما به سمت آینده ای می رویم که در آن انسان های فوق هوشمند در کنار هوش مصنوعی فوق هوشمند زندگی خواهند کرد.

تاثیر دنیایی پر از انسان های فوق العاده باهوش

بنابراین، ما در اینجا چقدر هوشمندانه صحبت می کنیم؟ برای زمینه، ضریب هوشی آلبرت انیشتین و استیون هاوکینگ در حدود 160 به دست آمد. هنگامی که رازهای پشت نشانگرهای ژنومی کنترل کننده هوش را کشف کنیم، به طور بالقوه می‌توانیم انسان‌هایی را ببینیم که با ضریب هوشی بیش از 1,000 متولد شده‌اند.

این مهم است زیرا ذهن هایی مانند انیشتین و هاوکینگ به جرقه پیشرفت های علمی کمک کردند که اکنون بستر دنیای مدرن ما را تشکیل می دهد. برای مثال، تنها بخش کوچکی از جمعیت جهان چیزی در مورد فیزیک می‌دانند، اما درصد قابل توجهی از تولید ناخالص داخلی جهان به یافته‌های آن وابسته است - فناوری‌هایی مانند تلفن هوشمند، سیستم مخابراتی مدرن (اینترنت) و GPS بدون مکانیک کوانتومی نمی‌توانند وجود داشته باشند. .

با توجه به این تأثیر، اگر ما یک نسل کامل از نوابغ به دنیا بیاوریم، بشریت چه نوع پیشرفت هایی را می تواند تجربه کند؟ صدها میلیون انیشتین؟

حدس زدن پاسخ غیرممکن است زیرا جهان هرگز چنین غلظتی از نابغه های فوق العاده را ندیده است.

این افراد حتی چگونه خواهند بود؟

برای طعم دادن، فقط مورد باهوش ترین انسان ثبت شده را در نظر بگیرید، ویلیام جیمز سیدیس (1898-1944)، که ضریب هوشی او حدود 250 بود. او تا دو سالگی می توانست بخواند. او تا شش سالگی به هشت زبان صحبت می کرد. او تا 11 سالگی در دانشگاه هاروارد پذیرفته شد. سیدیس تنها یک چهارم به اندازه آنچه که زیست شناسان معتقدند انسان ها می توانند روزی با ویرایش ژنتیکی تبدیل شوند، باهوش است.

(نکته جانبی: ما در اینجا فقط در مورد هوش صحبت می کنیم، ما حتی به ویرایش ژنتیکی که می تواند ما را از نظر فیزیکی مافوق انسان کند، دست نمی زنیم. اطلاعات بیشتر در اینجا.)

در واقع، بسیار ممکن است که انسان و هوش مصنوعی بتوانند با ایجاد نوعی حلقه بازخورد مثبت، تکامل یابند، که در آن هوش مصنوعی پیشرفته به ژنتیک‌دانان کمک می‌کند تا با تسلط بر ژنوم انسان، انسان‌هایی باهوش‌تر خلق کنند، انسان‌هایی که سپس برای ایجاد هوش مصنوعی باهوش‌تر کار خواهند کرد، و غیره. بر. بنابراین، بله، همانطور که محققان هوش مصنوعی پیش‌بینی می‌کنند، زمین به خوبی می‌تواند یک انفجار اطلاعاتی را در اواسط قرن تجربه کند، اما بر اساس بحثی که تاکنون انجام دادیم، انسان‌ها (نه فقط هوش مصنوعی) از این انقلاب سود خواهند برد.

سایبورگ ها در میان ما

یک انتقاد منصفانه به این استدلال در مورد انسان های فوق هوشمند این است که حتی اگر تا اواسط قرن بر ویرایش ژنتیکی تسلط داشته باشیم، ۲۰ تا ۳۰ سال دیگر طول می کشد تا این نسل جدید انسان ها به مرحله ای بالغ شوند که بتوانند پیشرفت های قابل توجهی در زندگی ما داشته باشند. جامعه و حتی میدان بازی فکری در کنار هوش مصنوعی. آیا اگر هوش مصنوعی تصمیم به تبدیل شدن به «شیطان» کند، این تأخیر باعث نمی‌شود که راه‌اندازی قابل توجهی علیه بشریت ایجاد کند؟

به همین دلیل است که به‌عنوان پلی بین انسان‌های امروزی و ابرانسان‌های فردا، از دهه 2030، شاهد آغاز طبقه جدیدی از انسان‌ها خواهیم بود: سایبورگ، ترکیبی از انسان و ماشین.

(با انصاف، بسته به اینکه سایبورگ‌ها را چگونه تعریف می‌کنید، آنها از نظر فنی از قبل وجود دارند - به‌ویژه افرادی که اعضای مصنوعی در نتیجه زخم‌های جنگی، تصادفات یا نقص‌های ژنتیکی در بدو تولد دارند. روی پروتزهایی که برای تقویت ذهن و هوش ما هستند، تمرکز خواهیم کرد.)

اولین بار در ما مورد بحث قرار گرفت آینده کامپیوترها این سری، محققان در حال حاضر در حال توسعه یک زمینه بیوالکترونیک به نام رابط مغز و کامپیوتر (BCI) هستند. این شامل استفاده از یک دستگاه اسکن مغز یا ایمپلنت برای نظارت بر امواج مغزی شما، تبدیل آنها به کد، و سپس مرتبط کردن آنها با دستورات برای کنترل هر چیزی که توسط رایانه اجرا می شود، است.

ما هنوز در روزهای اولیه هستیم، اما با استفاده از BCI، افراد قطع عضو اکنون هستند آزمایش اندام های روباتیک مستقیماً توسط ذهن آنها کنترل می شود، نه از طریق حسگرهای متصل به کنده آنها. به همین ترتیب، افراد دارای معلولیت شدید (مانند افراد مبتلا به چهار پلژی) در حال حاضر هستند از BCI برای هدایت ویلچرهای موتوری خود استفاده می کنند و بازوهای رباتیک را دستکاری کنید. اما کمک به افراد قطع عضو و افراد دارای معلولیت برای داشتن زندگی مستقل تری در حد توانایی BCI نیست.

چیزی که در دهه 2030 شبیه کلاه ایمنی یا بند مو خواهد بود، در نهایت جای خود را به کاشت مغزی (اواخر دهه 2040) خواهد داد که ذهن ما را به ابر دیجیتال (اینترنت) متصل می کند. در نهایت، این پروتز مغز به عنوان نیمکره سوم برای ذهن ما عمل خواهد کرد – بنابراین در حالی که نیمکره چپ و راست ما خلاقیت و قوای منطقی ما را مدیریت می کنند، این نیمکره دیجیتال جدید، که از ابر تغذیه می شود، دسترسی تقریباً فوری به اطلاعات را تسهیل می کند و قدرت شناختی را تقویت می کند. ویژگی هایی که در آن انسان ها اغلب نسبت به همتایان هوش مصنوعی خود کوتاهی می کنند، یعنی سرعت، تکرار و دقت.

و در حالی که این کاشت‌های مغزی لزوماً هوش ما را تقویت نمی‌کنند، اما ما را بسیار تواناتر و مستقل‌تر می‌کنند، درست مانند گوشی‌های هوشمند امروزی.

آینده ای پر از هوش های متنوع

تمام این صحبت‌ها در مورد هوش مصنوعی، سایبورگ‌ها و انسان‌های فوق‌هوشمند، نکته دیگری را برای بررسی باز می‌کند: آینده شاهد تنوع بسیار غنی‌تری از هوش‌ها از آنچه تاکنون در تاریخ بشر یا حتی زمین دیده‌ایم، خواهد بود.

در مورد آن فکر کنید، قبل از پایان این قرن، ما در مورد دنیای آینده صحبت می کنیم که پر از موارد زیر است:

• هوش حشرات
• هوش حیوانات
• هوش های انسانی
• هوش انسانی سایبرنتیکی افزایش یافته است
• هوش های عمومی مصنوعی (AGI)
• ابر هوش مصنوعی (ASI)
• هوش فوق العاده انسان
• هوش فوق العاده انسان به صورت سایبرنتیکی افزایش یافته است
• ذهن های ترکیبی انسان و هوش مصنوعی مجازی
• چند دسته دیگر که ما خوانندگان را تشویق می کنیم تا در بخش نظرات به طوفان فکری بپردازند و به اشتراک بگذارند.

به عبارت دیگر، دنیای ما در حال حاضر میزبان طیف متنوعی از گونه‌ها است که هر کدام انواع هوش‌های منحصر به فرد خود را دارند، اما در آینده شاهد تنوع بیشتری از هوش‌ها خواهیم بود، که این بار سطح بالاتر نردبان شناختی را گسترش خواهد داد. بنابراین همانطور که نسل امروز یاد می‌گیرد دنیای ما را با حشرات و حیواناتی که به اکوسیستم ما کمک می‌کنند به اشتراک بگذارد، نسل‌های آینده نیز باید بیاموزند که چگونه با طیف وسیعی از هوش‌هایی که امروزه به سختی می‌توانیم تصور کنیم، ارتباط برقرار کرده و همکاری کنند.

البته، تاریخ به ما می‌گوید که «اشتراک‌گذاری» هرگز برای انسان‌ها مناسب نبوده است. صدها تا هزاران گونه به دلیل گسترش بشر منقرض شده اند، فقط صدها تمدن کمتر پیشرفته تحت تسخیر امپراتوری های در حال گسترش ناپدید شده اند.

این فجایع به دلیل نیاز بشر به منابع (غذا، آب، مواد خام و غیره) و تا حدی به دلیل ترس و بی اعتمادی بین تمدن ها یا مردم خارجی است. به عبارت دیگر، تراژدی های گذشته و حال به دلایلی به قدمت خود تمدن است و با معرفی این همه طبقات جدید هوش بدتر می شود.

تاثیر فرهنگی دنیایی مملو از هوش های متنوع

شگفتی و ترس دو احساسی هستند که به بهترین نحو احساسات متضادی را که افراد پس از ورود همه این انواع هوش های جدید به جهان تجربه خواهند کرد، خلاصه می کنند.

شگفتی از نبوغ انسانی که برای ایجاد تمام این هوش های جدید انسانی و هوش مصنوعی و امکاناتی که ممکن است ایجاد کنند. و سپس «ترس» از عدم درک و آشنایی نسل‌های کنونی انسان‌ها با نسل‌های آینده این موجودات «تقویت‌یافته» خواهند بود.

بنابراین همانطور که دنیای حیوانات کاملاً فراتر از درک یک حشره معمولی است و دنیای انسان ها کاملاً فراتر از درک حیوانات معمولی است ، دنیای هوش مصنوعی و حتی انسان های فوق هوشمند بسیار فراتر از محدوده آنچه امروز است. انسان معمولی قادر به درک خواهد بود.

و حتی اگر نسل‌های آینده بتوانند با این هوش‌های بالاتر ارتباط برقرار کنند، اینطور نیست که ما چیزهای مشترک زیادی داشته باشیم. در فصل‌های معرفی AGI و ASI، توضیح دادیم که چرا تلاش برای فکر کردن به هوش‌های هوش مصنوعی مانند هوش انسانی اشتباه است.

به طور خلاصه، احساسات غریزی که تفکر انسان را به حرکت در می‌آورند، میراث بیولوژیکی تکاملی چندین هزاره نسل‌های انسانی است که فعالانه به دنبال منابع، شرکای جفت‌گیری، پیوندهای اجتماعی، بقا و غیره بودند. هوش مصنوعی آینده هیچ‌یک از آن توشه تکاملی را نخواهد داشت. در عوض، این هوش های دیجیتالی اهداف، شیوه های تفکر، سیستم های ارزشی کاملا منحصر به خود خواهند داشت.

به همین ترتیب، همانطور که انسان‌های مدرن آموخته‌اند که جنبه‌هایی از خواسته‌های طبیعی انسانی خود را به لطف عقل ما سرکوب کنند (مثلاً شریک جنسی خود را در هنگام روابط متعهدانه محدود می‌کنیم؛ به دلیل مفاهیم خیالی افتخار و فضیلت، جان خود را برای غریبه‌ها به خطر می‌اندازیم، و غیره). ، ابرانسان های آینده ممکن است به طور کامل بر این غرایز اولیه غلبه کنند. اگر این امکان پذیر باشد، پس ما واقعاً با بیگانگان سروکار داریم، نه فقط با یک طبقه جدید از انسان ها.

آیا صلح بین ابر نژادهای آینده و بقیه ما برقرار خواهد بود؟

آرامش از اعتماد می آید و اعتماد از آشنایی و اهداف مشترک. ما می‌توانیم آشنایی را از روی میز حذف کنیم، زیرا قبلاً بحث کردیم که چگونه انسان‌های تقویت‌نشده با این عقل‌های فوق‌العاده اشتراکات چندانی از نظر شناختی ندارند.

در یک سناریو، این انفجار اطلاعاتی نشان‌دهنده ظهور شکل کاملاً جدیدی از نابرابری است، شکلی که طبقات اجتماعی مبتنی بر هوش را ایجاد می‌کند که برای طبقه‌های پایین‌تر قیام از آن‌ها تقریبا غیرممکن خواهد بود. و درست همانطور که شکاف اقتصادی در حال افزایش بین غنی و فقیر امروز باعث ناآرامی می شود، شکاف بین طبقات/جمعیت های مختلف اطلاعاتی می تواند ترس و رنجش کافی ایجاد کند که سپس می تواند به اشکال مختلف آزار و اذیت یا جنگ همه جانبه تبدیل شود. برای دوستان خوانندگان کتاب های مصور، این ممکن است شما را به یاد داستان کلاسیک آزار و شکنجه سری X-men مارول بیاندازد.

سناریوی جایگزین این است که این ابرعقلان آینده فقط راه‌هایی برای دستکاری عاطفی توده‌های ساده‌تر برای پذیرش آن‌ها در جامعه خود بیابند – یا حداقل تا حدی که از هرگونه خشونت اجتناب شود. 

بنابراین، کدام سناریو برنده خواهد شد؟ 

به احتمال زیاد، شاهد اتفاقاتی در وسط خواهیم بود. در آغاز این انقلاب اطلاعاتی، ما معمول را خواهیم دید "تکنوپانیکآدام تیرر، متخصص قانون و سیاست فناوری، از الگوی اجتماعی معمولی پیروی می کند:

• تفاوت های نسلی که منجر به ترس از چیزهای جدید می شود، به ویژه آنهایی که آداب اجتماعی را مختل می کنند یا مشاغل را حذف می کنند (در مورد تأثیر هوش مصنوعی در ما بخوانید آینده کار سلسله)؛
• "هیپرنوستالژی" برای روزهای خوب قدیم که، در واقعیت، هرگز آنقدر خوب نبودند.
• انگیزه برای خبرنگاران و کارشناسان برای ترساندن در مورد فناوری جدید و روندها در ازای کلیک ها، بازدیدها و فروش تبلیغات؛
• منافع ویژه ای که یکدیگر را برای پول یا اقدام دولت، بسته به اینکه گروهشان تحت تأثیر این فناوری جدید قرار می گیرد، ارنج می کنند.
• نگرش‌های نخبه‌گرایانه منتقدان دانشگاهی و فرهنگی که از فناوری‌های جدیدی که عموم مردم اتخاذ می‌کنند می‌ترسند.
• مردمی که بحث های اخلاقی و فرهنگی دیروز و امروز را به فناوری های جدید فردا فرافکنی می کنند.

اما مانند هر پیشرفت جدیدی، مردم به آن عادت خواهند کرد. مهمتر از آن، در حالی که دو گونه ممکن است یکسان فکر نکنند، صلح را می توان از طریق منافع یا اهداف مشترک دوجانبه یافت.

به عنوان مثال، این هوش مصنوعی جدید می تواند فناوری ها و سیستم های جدیدی را برای بهبود زندگی ما ایجاد کند. و در عوض، بودجه و حمایت دولتی برای پیشبرد منافع هوش مصنوعی به طور کلی ادامه خواهد یافت، به ویژه به لطف رقابت فعال بین برنامه های هوش مصنوعی چین و ایالات متحده.

به همین ترتیب، وقتی نوبت به ایجاد ابرانسان‌ها می‌رسد، جناح‌های مذهبی در بسیاری از کشورها در برابر روند دستکاری ژنتیکی نوزادان خود مقاومت می‌کنند. اما عملی بودن و منافع ملی به تدریج این سد را از بین خواهد برد. در مورد اولی، والدین وسوسه خواهند شد که از فناوری ویرایش ژنتیکی استفاده کنند تا مطمئن شوند فرزندانشان بدون بیماری و عیب به دنیا می آیند، اما این هدف اولیه یک شیب لغزنده به سمت افزایش ژنتیکی تهاجمی تر است. به همین ترتیب، اگر چین شروع به افزایش ژنتیکی کل نسل‌های جمعیت خود کند، ایالات متحده یک ضرورت استراتژیک برای پیروی از آن خواهد داشت یا خطر عقب افتادن دائمی دو دهه بعد - و بقیه جهان نیز همینطور خواهد بود.

به همان اندازه که تمام این فصل خوانده می شود، باید به خاطر داشته باشیم که این همه یک روند تدریجی خواهد بود. دنیای ما را بسیار متفاوت و بسیار عجیب خواهد کرد. اما ما به آن عادت خواهیم کرد و آینده ما خواهد شد.

سری آینده هوش مصنوعی

هوش مصنوعی برق فردا است: آینده سری P1 هوش مصنوعی

چگونه اولین هوش مصنوعی جامعه را تغییر خواهد داد: سری P2 آینده هوش مصنوعی

چگونه اولین ابرهوش مصنوعی: آینده هوش مصنوعی P3 را ایجاد خواهیم کرد

آیا ابرهوش مصنوعی بشریت را نابود خواهد کرد؟ آینده هوش مصنوعی P4

چگونه انسان ها در برابر یک ابر هوش مصنوعی دفاع خواهند کرد: آینده هوش مصنوعی P5